Заслуженный ординарный профессор, правнук профессора Московского университета Ивана Григорьевича (Иоганна Георга) Шварца, с 1 (14) января 1908 по 25 сентября (8 октября) 1910г. бывший министром народного просвещения, поступил на историко-филологический факультет Московского университета в 1864 г. и учился, между прочим, у Ф. Е. Корша; в 1868 г. он окончил курс в университете вторым кандидатом. С 25 августа 1869 по 1 октября 1874 г. А. Н. Шварц был преподавателем латинского языка в Лазаревском институте, а с 1872 по 1884 г. преподавал греческий язык в частной классической гимназии Креймана.

В конце 1873 г. он выдержал магистерский экзамен, а весной 1875 г. защитил магистерскую диссертацию «Речь Гиперида за Евксениппа» (М., 1875), после чего был избран в доценты по кафедре греческой словесности и с осени 1875 г. стал читать на историко-филологическом факультете лекции по греческому языку. Осенью 1884 г. он перешел на кафедру теории и истории искусств, был назначен экстраординарным профессором и оставался на этой кафедре до конца 1887 г., когда снова перешел на кафедру классической филологии.

Занимая кафедру искусств, А. Н. Шварц (при содействии Орешникова и Подшивалова) энергично принялся за упорядочение состоявшего при Московском университете кабинета изящных искусств и древностей. Осенью 1891 г. А. Н. Шварц защищал в Новороссийском университете докторскую диссертацию о псевдоксенофонтовой «Афинской политии». Получив степень доктора, А. Н. Шварц был с 1 (13) января 1892 г. утвержден в звании ординарного профессора, а в 1900 г. получил звание заслуженного ординарного профессора.

В Московском университете А. Н. Шварц читал лекции по истории греческой литературы, впоследствии вышедшие в литографированном виде отдельной книгой. А. Н. Шварц читал и комментировал Демосфена, Еврипида и Лисия. Шварцу принадлежат комментированное издание Олинфийских речей Демосфена (М., 1873), а также ряд статей, в основном посвященных интерпретации Гиперида, Демосфена, Лисия, «Политики» Аристотеля и комедий Аристофана.

Помимо должности министра народного просвещения, А. Н. Шварц в разные времена был попечителем Рижского учебного округа (с 15 февраля 1900 по 30 мая 1902 г.), Варшавского учебного округа (с 31 мая 1902 по 6 сентября 1905 г.), Московского учебного округа (с 7 сентября по 16 ноября 1905 г.), после чего был назначен сенатором, а затем членом Государственного совета (с 6 (19) декабря 1907 г.) и занимал эту должность до самой смерти.