Здание железнодорожного вокзала было построено в 1946-1948 годах под руководством архитектора Н.Д. Чекмотаева и скульптора И.С. Беличенко. 

10 мая 1895 года железная дорога от станции Кавказская достигла станции Пелагиада, а через два года и станции Ставрополь. К тому времени в губернском центре было завершено строительство железнодорожного вокзала, паровозного депо и других сопутствующих сооружений по проекту Михаила Иосифовича Бржезицкого и Семена Дмитриевича Лазарева. Архитектурный стиль вокзала напоминал средневековый замок, защищающий вход в Град Креста. 

Во время оккупации Ставрополя немецкими войсками здание было разрушено. 

В 1943 году началась его реставрация, и здание вновь обрело жизнь. Вокзал украсила оригинальная лепнина, в том числе элементы, связанные с железнодорожной тематикой, изображающие паровозы в красных оттенках. Спустя четыре года вокзал снова начал принимать и отправлять поезда. 

Железнодорожный вокзал Ставрополя можно увидеть в советском фильме 1982 года «Мужики!» с Александром Михайловым в главной роли. Основная часть съемок проходила в селе Татарка, расположенном рядом с краевым центром.