Отец, Михаил Иванович Харитонов, родился в 1914 г., был учителем в Голуметской школе, секретарём комсомольской ячейки, пропал вскоре после рождения мальчика. Мать Ольга Павловна Харитонова родилась в 1910 г., работала уборщицей и в одиночку воспитывала сына.
Закончил 4 класса школы, затем учился в Иркутском ФЗО № 2 (ПТУ, ныне лицей № 46) для мальчиков-сирот и детей из неблагополучных и неполных семей, где и получил две специальности — формовщика и электросварщика. Вернувшись в родное село стал работать в МТС (машинно-тракторная станция).
Вновь приехав в Иркутск, Леонид бродяжничал. Затем, по собственным словам, «прямо с улицы», в 1951 году попал в филармонию и стал певцом-солистом. Работал в оперном ансамбле, существовавшем при филармонии [1]. С 1952 по 1955 г. оттачивал грани мастерства в музыкальном училище при Московской Государственной консерватории.
Именно на прослушивании в музыкальном училище прозвучали ставшие крылатыми слова народной артистки Е. К. Катульской: «Судьба твоя — как у Фёдора Ивановича Шаляпина, начинаешь с бродяжничества…» (как известно, Шаляпин добрался до Москвы, а ночевать ему было негде, в связи с чем будущий певец попал в тюрьму как бродяга).
В 1965 г. стал солистом ансамбля им. Александрова, и 18 марта 1965 года дал свой первый неофициальный сольный концерт в Государственном Кремлёвском дворце. Официальное же выступление было 22 апреля в Зале им. Чайковского в Москве.
В 1972 г., после почти двадцатилетнего периода работы с ансамблем Александрова, Харитонов начал солировать в Московской Государственной Филармонии до 1998 года.