Писатель А. И. Левитов родился в с. Добром Лебедянского уезда Тамбовской губернии (ныне Добровский район Липецкой области) в семье дьячка. В биографии Левитова ещё немало "белых пятен". До сих пор нет ясности в дате его рождения. Первый биограф Левитова, известный беллетрист-народник Ф. Н. Нефедов, называет днем рождения своего друга 20 июля 1835 г. (по ст. стилю). Позднее авторы вступительных статей к 4-х, 8-томным собраниям левитовских сочинений (В. Никольский, А. Измайлов), ссылаясь на выписку из метрической книги, уточнили дату его рождения - 30 августа 1835 г. (по ст. стилю).

Окончил Александр Левитов Лебедянское духовное училище, учился в Тамбовской духовной семинарии. Семинарию он не окончил, пережив настоящий кризис: инспектор семинарии, обвинив в «преступном сочинительстве» и пристрастии к чтению, приговорил его к наказанию розгами, после чего Левитов оказался «с нервной горячкой» в больнице. Летом 1854 года он почти без денег, пешком ушел в Москву, затем перебрался в Санкт-Петербург, где поступил в Медико-хирургическую академию. Ещё учась в академии, он начал работать над первым своим очерком «Ярмарочные сцены», назвав его впоследствии «Типы и сцены сельской ярмарки». Но осенью 1856 года «за неуспехи в науке» он был уволен из академии и определен фельдшером в Вологду. Ряд обстоятельств указывает на то, что истинной причиной увольнения могло быть участие Левитова в коллективной жалобе студентов академии Александру II на злоупотребления администрации и дурное содержание. Отчисление из академии Левитов воспринял как жизненную катастрофу; по воспоминаниям сестры, оно «окончательно надломило его силы, испортило характер и омрачило его чистую душу». В это время Левитов пристрастился к алкоголю и карточной игре.

В 1859 году, получив разрешение начальства, Левитов отправился пешком к сестре в г. Лебедянь. Несколько месяцев он пробыл домашним учителем у немца-управляющего в одной из тамбовских деревень, занимался писательством. С 1860 года – в Москве, работал в редакции «Русского вестника». В 1861 году в журнале «Русская речь» он опубликовал свои первые произведения «Целовальничиха», «Степная дорога ночью», «Накануне Христова дня», которые были замечены и читателями, и литературной критикой. Из Москвы Левитов скоро переехал в Петербург. В столицах он сблизился с людьми, которые проповедовали политический, философский и житейский нигилизм. В 1864 году по протекции М. П. Погодина Александр Иванович сдал при Петербургском университете экзамены на звание учителя, работал в Ряжске, Козлове, Москве, нигде долго не задерживаясь. Его уделом стала и "литературная бесприютность": он лишь изредка и беспорядочно печатался в журналах.

В 1865-1867 годах вышло его собрание сочинений в трех томах под общим названием «Степные очерки», а в 1874 году был издан сборник «Горе сел, дорог и городов». В этих произведениях нашли отражение реалии жизни родного края, упоминаются села Доброе, Махоново, города Данков, Лебедянь, Елец, Раненбург. Прототипами героев рассказов часто являлись люди из этих мест. А. И. Левитов стал широко известным писателем, критики отмечали особую «теплую задушевность» его произведений. Но как раз с этого времени болезнь Левитова (алкоголизм, способствовавший развитию туберкулеза) приняла необратимый характер. По мнению И. А. Бунина, «талант его не развился даже и в десятой доле должной меры».

А. И. Левитов умер 16 января 1877 года в Москве, похоронен на Ваганьковском кладбище.

Имя Левитова носит улица в с. Добром Липецкой области, в Добровской районной библиотеке регулярно проходят Левитовские чтения. В 2020 году по инициативе поэта Анны Харлановой, уроженки с. Доброго, учреждена Всероссийская литературная премия имени А. И. Левитова.