После увольнения в запас в звании капитана окончил Школу лётчиков-испытателейЛётно-исследовательского института (ЛИИ) Министерства авиационной промышленности СССР (1971). В 1971—1977 годах — лётчик-испытатель ЛИИ, участвовал в испытаниях истребителей, бомбардировщиков и транспортных самолётов (всего освоил 87 типов и модификаций самолётов), в работах, направленных на улучшение характеристик боевых истребителей. Занимался прочностными и аэродинамическими исследованиями, доводкой серийных и модифицированных силовых установок и экспериментального оборудования.
С 1977 года — в группе специальной подготовки по программе «Буран». Лётчик-испытатель 1-го класса (1979). В 1980 году был зачислен в состав отряда космонавтов-исследователей (с 1981 это отряд космонавтов-испытателей). Первоначально планировался на должность командира дублирующего экипажа для первого космического полёта корабля «Буран», совершил несколько полётов в рамках горизонтальных лётных испытаний летающей лаборатории БТС-002.
С февраля 1987 года — заместитель начальника Отраслевого комплекса подготовки космонавтов-испытателей в ЛИИ.
21-29 декабря 1987 года участвовал в полёте на станцию «Мир» в качестве космонавта-исследователя на кораблях «Союз ТМ-4» (старт; командир экипажа — Владимир Титов, бортинженер — Муса Манаров) и «Союз ТМ-3» (посадка; командир экипажа — Юрий Романенко, бортинженер — Александр Александров). Продолжительность полёта — 7 суток 21 час 58 минут. Провёл исследование возможности управления «Бураном» в период острой адаптации к невесомости.
Сразу же после возвращения на землю провёл ещё одно исследование реакции пилота при управлении «Бураном» после воздействия факторов космического полёта.
Вскоре после полёта у Левченко была обнаружена опухоль головного мозга, которая быстро прогрессировала. Анатолий Семёнович умер 6 августа 1988 года[3]. Он похоронен на Быковском мемориальном кладбище г. Жуковского Московской области, где захоронены многие лётчики.
И. А. Маринин, С. Х. Шамсутдинов, А. В. Глушко (составители). Советские и российские космонавты. 1960—2000 / Под редакцией Ю. М. Батурина. — М.: ООО Информационно-издательский дом «Новости космонавтики», 2001. — ISBN 5-93345-003-0.