Леонид Филиппов родился 28 мая1897 года в Одессе. Окончил шесть классов училища, после чего работал на заводе. В 1918 году Филиппов пошёл на службу в Рабоче-крестьянскую Красную Армию. В 1919 году он окончил Одесскую артиллерийскую школу. Участвовал в боях Гражданской войны в составе артиллерийских частей[1].
После окончания Гражданской войны Филиппов продолжил службу в Красной Армии. В 1932 году он окончил бронетанковые курсы, после чего служил начальником артиллерии танковой бригады, командиром артиллерийского полка, командующим дивизионной и корпусной артиллерией[1].
В годы Великой Отечественной войны Филиппов командовал дивизионной артиллерией, а затем был заместителем по артиллерии командира 2-го механизированного корпуса. В боях был ранен и контужен. Особо отличился во время боёв на подступах к городу Новосокольники в декабре 1942 года, когда более чем сутки артиллерия корпуса под командованием Филиппова удерживала оборонительный рубеж протяжённостью более восьми километров[2]. 5 июля1943 года Филиппову было присвоено звание генерал-майора артиллерии[1].