La historia del Scottish Terrier es común a la de los demás Terrier de Escocia. Hay quienes afirman que el primer Terrier escocés era un Cairn, otros opinan que era un Scottish o un Skye; lo que sí está claro es que cualquiera de ellos provenía de una raza que desde tiempos ancestrales se utilizaba para la caza de animales de madriguera. De la época romana data una pequeña estatuilla que representa a un perro de caza de las tribus celtas de aquellos tiempos; este animal se parece bastante al actual Scottish.

A pesar de su antigüedad, no es hasta el siglo XIX cuando aparecen las primeras informaciones específicas, que, aunque definían ejemplares con las mismas características que los actuales Scottish, recibían el nombre de Skye Terrier.

Uno de los criadores más importantes de la raza fue sir Payton Piggot, quien presentó los primeros ejemplares en 1873. Sin embargo, no fue hasta 1890 cuando el Kennel Club hizo oficial el nombre actual, llamado hasta entonces Aberdeen, lugar donde se seleccionaron los primeros ejemplares. Ya en 1881 se convocó la primera reunión oficial de sus seguidores y criadores, y en 1883 se fundó el club de la raza.

Las diferencias entre los primeros canes y los contemporáneos son que aquéllos tenían un cuerpo más alargado, menos corpulento, además de que su cabeza era más corta y su mandíbula, más ancha.

En Estados Unidos fue muy popular en las primeras décadas del siglo XX, debido principalmente a que Roosevelt poseía uno que le acompañaba a todas partes y con el que se retrató en más de una ocasión.