Sólo se puede especular sobre los verdaderos orígenes de los perros ovejeros, aunque la historia nos habla de la llegada de estos animales a las islas británicas a través de las tribus celtas que cruzaban Europa entre los siglos V y I antes de nuestra era. Varias se establecieron en la zona irlandesa con su ganado y sus perros. Del idioma de estas tribus, llamado gaélico, deriva la palabra collie, que significaba útil.

Con el tiempo algunas comunidades se fueron trasladando hacia las islas occidentales de Escocia. Allí, en las tierras altas, aparecieron los Highlands Collie, éstos a su vez dieron origen a los Collie de la frontera (border, en inglés) entre Escocia e Inglaterra.

En tiempos lejanos la selección del color se hacía en función del trabajo a desarrollar, de modo que los perros destinados a defender el ganado de los animales salvajes eran de color blanco y se criaban desde pequeños con él para que no le tuviera miedo. Los perros que conducían los rebaños eran generalmente blancos y negros o marrones y blancos, mientras que los azulados eran seleccionados para trabajos en entornos naturales rodeados de peñascos o montañas, donde su manto les servía de camuflaje.

Durante décadas apenas se les prestó mayor atención que la derivada de su utilidad, sin embargo, desde que en 1873 se popularizasen las pruebas de perros de ovejas, estos animales fueron conocidos por el gran público. Así, el primer Club del Collie se fundó en 1881; en sus inicios establecieron una breve descripción de la anatomía del Border Collie y un sistema de puntuación en las pruebas.

Un nuevo empuje para la raza fue la creación de la Sociedad Internacional del Perro Ovejero (ISDS) en 1906, así como el registro de su nombre en 1915 por parte de James Reid. Pero no es hasta 1976 cuando el comité general de la Sociedad Canina, después de prolongadas discusiones con la Sociedad Internacional del Perro Ovejero y con un recién creado Club del Border Collie (1975), decidió incluirlo como raza en los certámenes de belleza bajo el reglamento del Kennel Club, dado que hasta ese momento sólo se registraban en el ISDS como perros pastores. Este es el motivo por el que esta raza británica es la única que puede registrarse en las dos asociaciones.