Dado el poco interés que los historiadores han mostrado por la cultura mongola, la historia del Chow Chow también ha quedado oculta. Se sabe que dos tribus, los jung y los ti, poseían un tipo de perro con la lengua azul que manejaban con arneses y que utilizaban para la lucha contra osos y tigres. Otras referencias demuestran que miembros de la clase alta los tenían como animales de compañía o que eran utilizados como alimento humano en China, aunque en este caso solían ser cruces con otras razas y sólo durante un brevísimo período de tiempo y exclusivamente en momentos de auténtica escasez durante el siglo XIX.
Se ha podido comprobar que los primeros pedigrís de la historia fueron de esta raza, documentos fueron encontrados por el doctor Abshagen en un monasterio lama, durante la ocupación japonesa del norte de China en la II Guerra Mundial. En ellos se constataba el arte de criar «Chow azules de Mongolia», durante setecientos años, es decir, desde el siglo XIII.
Hay documentos que demuestran la existencia de un ejército de diez mil soldados apoyados por cinco mil perros Chow, en la provincia de Yunan, que datan de ochocientos años antes de nuestra era, cuando recibían el nombre de perro de los Tártaros. Como es de suponer, estos perros que aparecen representados en los distintos documentos y a lo largo de la historia no eran como los actuales, éstos son más chatos, compactos y de osamenta más gruesa. Tal circunstancia se debía al hecho de que en aquella época eran criados como perros de trabajo, para tiro, guarda, pastoreo, caza..., lo que producía un tipo de perro más rústico y ágil.
Uno de los primeros perros que llegó a Europa fue exhibido en el zoológico de Londres como animal exótico, donde lo catalogaron como «perro salvaje de China»; corría el año 1820. En 1865 fue regalado un ejemplar de esta raza a la reina Victoria de Inglaterra, fue entonces cuando se descubrió que sociabilizándolo desde pequeño este tipo de perro era muy dócil.