Энтузиасты породы считают, что родиной шарпланинака, как и большинства крупных пастушьих собак, является Азия.
Однако исследования последних лет позволили высказать предположение, что порода издревле развивалась в горах Балкан, а именно в районах следующих населенных пунктов: Шар Планина, Кораб, Стогово, Бистра и Маврово.
Высокогорные долины в течение столетий являлись прекрасным местом обитания данной породы. В 1939 году шарпланинак был зарегистрирован в РС1 под номером 41.
В Македонии профессионально шарпланинаком стали заниматься лишь с 1947 года в районе Стогово, где до этого времени сохранились чистокровные шарпланинаки.
Ферма в деревне Гари, где разводили собак, принадлежала кооперативу, занимающемуся разведением крупного рогатого скота. Вплоть до конца 50-х годов собаки этой фермы считались едва ли не единственными чистокровными шарпланинаками.
Однако к началу 60-х годов ферма перестала существовать, а вместе с ней и собаки породы шарпланинак. В других районах шарпланинак также становился большой редкостью. Его типичный глубокий и звучный лай все реже звучал в горах.
В Бистро и Шар Планине вместо овец и другого домашнего скота стали разводить мулов и ослов. В то время цены на собак этой породы подскочили до $1000. В США первый питомник породы возник в штате Огайо. В настоящее время этот питомник считается одним из старейших питомников, занимающихся данной породой.
В 1957, по требованию югославской Собачьей Федерации, название было изменено на югославскую Овчарку - Saplaninac, после гор Sar. Порода в настоящее время известна как македонско-югославская Овчарка.
В Македонии (Югославия) тоже занялись разведением шарпланинака. В 1976 году в Скорже, в области Катланово, энтузиастом породы Наско Савовски был создан питомник под названием "КОКАВ". Питомник находился на высоте 3500 метров над уровнем моря, что полностью отвечало естественной среде обитания шарпланинака.