Чтобы рассмотреть историю породы керн-терьер с самого начала, необходимо углубиться в краткий курс истории. В 15 веке Джон Лесли писал о мелкой разновидности терьеров, предназначенных для охоты на лис и барсуков. Именно они считаются предками всех терьеров. Кроме того, можно найти записи о том, что на территории Шотландии проживали маленькие собачки, но отличные норные охотники, которых на данный момент считают прародителями керн-терьеров.
Охотников, которые использовали свору терьеров для охоты за лисами, называли «брокерами». Они были профессионалами своего дела, поэтому при разведении терьеров учитывали их охотничьи качества, а именно ловкость, выносливость, умение перемещаться в горной местности, высоко прыгать, вылезать из узких расщелин. Остальных уничтожали.

Не только брокерам нужны были терьеры, они также были полезны фермерам тем, что могли охранять овец от нападения лис, амбары — от крыс, посевы — от барсуков. В Шотландии эти маленькие помощники высоко ценились, поэтому порой их было очень сложно приобрести.
История появления керн-терьеров началась на острове Скай. Во время разведения каждый заводчик выбирал любимый окрас: темно-серый, тигровый, серебристо-серый, кремовый или рыжий. На сегодняшний день информации о разведении терьеров сохранилось очень мало.

В 1981 году Томпсон Грей написал, что шотландский терьер - жесткошерстный хайленд или керн-терьер, который был известен на родине, как скай терьер. Но заводчики скай терьеров настоятельно не хотели принимать под свое название короткошерстных собак. В результате этого разгорелась нешуточная борьба за названия, и было принято решение о регистрации каждой породы под своим названием.

Название «керн-терьер» получили компактные собачки с отличными рабочими качествами. В 1910 году Кеннел клуб признает и регистрирует породу, сознает клуб любителей породы, а затем устанавливает первый официальный стандарт.

На сегодняшний день породы керн-терьер является очень популярной в Европе, а особенно во Франции и Скандинавии. В Россию первый представитель породы был привезен из Англии в 80-х годах 20 столетия. В 90-х в Москву начали все чаще привозить кернов, и уже в 2004 они стали очень распространенными в России. Любители породы организовали клуб породы, который со временем вступил в Терьер-союз и начал принимать участие в различных выставках терьеров.