В конце 70-х годов XIX века общественность Владикавказа выступила с инициативой открытия в городе гимназии, так как, во-первых, уже существующие учебные заведения не могли принять всех желающих; во-вторых, родители желали дать детям хорошее классическое образование, чтобы в дальнейшем они могли поступать в высшие учебные заведения.
Вопрос открытия гимназии, поддержанный местным начальством, руководителем Кавказского учебного округа и наместником на Кавказе, рассматривался на заседании Государственного совета. Первоначально это предложение было отклонено, так как министр финансов заявил, что нет средств для строительства здания и содержания гимназии. Наместник на Кавказе – великий князь Михаил Николаевич все же смог убедить членов Государственного совета в необходимости открытия гимназии в столице Терской области.
13 октября (по старому стилю) 1880 г. последовало высочайшее разрешение об открытии во Владикавказе мужской прогимназии с содержанием ее за казенный счет. При этом городские власти обязались сами построить здание для учебного заведения. Первые годы прогимназия находилась в арендованном помещении. В 1881 г. городские власти выделили участок под строительство специального здания, был составлен план, но средств для постройки не было.
С ноября 1880 г. инспектором прогимназии стал И.И. Виноградов, учителями были назначены В.С. Станкевич, В.Р. Кипиани, Н.А. Смирнов, К.Ф. Келдыш, И.П. Бигаев, И.А. Толпаров, помощником классных наставников Б.И. Туаев и др.
Воспитанники гимназии изучали русский язык, математику, французский, немецкий, греческий и латинский языки, историю, географию, физику, химию и другие предметы. В 1881 г. учащихся было 212, с каждым годом их число увеличивалось и к началу XX века превысило 500 человек. Оплата за обучение в гимназии составляла: в приготовительном классе 24 руб. в год, в прогимназическом классе – 30 руб., в гимназическом классе – 36 руб. С 1887 г. оплата во всех классах стала 40 руб., а с 1894 г. – 50 руб.
С 1 июля 1885 г. последовало распоряжение о преобразовании Владикавказской прогимназии в гимназию. Через два года началась постройка здания для гимназии и в августе 1889 г. учебное заведение перешло в новое здание. Оно фасадом выходило на Крепостную улицу и благодаря отсутствию вблизи высоких зданий во всех классах было светло весь день. Здание примыкало к самым большим во Владикавказе площадям и садам, воздух был свеж и чист.
В 1889 г. в гимназии была сделана домовая церковь Св. Иоанна Богослова, вскоре храм был освящен. Иконы писались в иконописной мастерской художника Малышева в Сергиевом Посаде.
Строительство школы было осуществлено за счет городских средств и обошлось городу в 72 тыс. руб. В 1890 г. окончательно завершились строительные работы и был обустроен двор. После этого городские власти передали здание в ведение Министерства народного просвещения.
Вскоре стали ощущаться теснота помещения и отсутствие зала для занятий физкультурой. Встал вопрос о пристройке еще четырех классов и гимнастического зала. Это строительство завершилось в 1895 г. и обошлось в 15550 руб.
Первый выпуск гимназии состоялся в 1889 г. Из 22 выпускников 12 поступили в МГУ (в основном, на юридический и медицинский факультеты), 3 – в Санкт-Петербургский университет, 3 – в Харьковский университет и 4 – в военные училища.
Ныне гимназия № 5 им. А.В. Луначарского продолжает славные традиции дореволюционной гимназии, как и прежде являясь флагманом средних учебных заведений Владикавказа.