В октябре 1938 года направлен в 1-й отдел Генштаба Красной армии на должность для особых поручений, а в марте 1939 года — на должность помощника начальника 1-го отделения этого же отдела[2]. В феврале 1940 года переведён в Оперативное управление Генштаба Красной армии, где назначен на должность старшего помощника начальника Западного, а в сентябре — на должность старшего помощника начальника Юго-Западного отделов[2].
В декабре 1941 года назначен на должность начальника отдела волховского направления в Генштабе[2], однако в январе 1942 года по личной просьбе назначен на должность начальника штаба 16-го кавалерийского корпуса, который формировался в Москве, однако в апреле был расформирован[2], а полковник А. Я. Клименко переведён на должность начальника штаба 7-го кавалерийского корпуса, ведшего оборонительные боевые действия на правом берегу р. Ока в районе Белёва. В июне корпус был выведен в резерв Брянского фронта, после чего готовил оборонительные рубежи[2].
С ноября 1942 года А. Я. Клименко находился в распоряжении командующего кавалерией Красной армии[2] и в январе 1943 года назначен на должность начальника штаба 8-го кавалерийского корпуса, который вёл наступательные боевые действия юго-западнее Ворошиловграда и рейде по тылам противника в районе Дебальцево. В марте снят с занимаемой должности и в апреле направлен в распоряжение Военного совета 53-й армии с целью назначения на должность заместителя начальника штаба по ВПУ[2], однако по прибытии к новому месту службы полковник А. Я. Клименко по личной просьбе 13 мая был назначен командиром 3-й воздушно-десантной дивизии[2], но уже 16 мая переведён на должность командира 299-й стрелковой дивизии, которая в ходе наступления на Харьков не сумела выполнить поставленную задачу, за что полковник А. Я. Клименко был отстранён от занимаемой должности, после чего направлен в распоряжение Главного управления кадров НКО[2].
25 ноября назначен на должность командира 141-й стрелковой дивизии, которая вела тяжёлые оборонительные боевые действия в г. Черняхов и затем участвовала в Житомирско-Бердичевской наступательной операции, в результате которой закрепилась на рубеже Бражница, Слюсарка, Великие Деревичи, Борушковцы[2]. В конце февраля 1944 года 48-й танковый корпус противника после прорыва обороны на участке соседа обошёл дивизию под командованием Клименко с фланга и тыла, но последняя сумела удержать занимаемые рубежи[2] и в марте участвовала в освобождении Проскурова и вскоре достигла г. Станислав и затем занимала оборонительный рубеж Бучач — Днестр[2]. В результате перехода противника в контрнаступление дивизия оставила плацдарм и отойти за Днестр, в результате чего командующий 1-го Украинского фронта Маршал Советского Союза Г. К. Жуков обвинил командование дивизии «в попустительстве трусам и паникёрам»[2], и 26 апреля 1944 года полковник А. Я. Клименко был отстранён от занимаемой должности и назначен командиром батальона в составе 35-го стрелкового полка (30-я стрелковая дивизия)[2].
В августе переведён на должность заместителя командира 161-й стрелковой дивизии, а в декабре 1944 года — на должность заместителя командира 271-й стрелковой дивизии, которая вскоре принимала участие в наступательных боевых действиях в ходе Западно-Карпатской операции. 18 февраля 1945 года в бою в районе города Бельско-Бяла полковник А. Я. Клименко был ранен, после чего лечился в госпитале[2].
В мае 1945 года назначен на должность коменданта Праги, в марте 1946 года — на должность командира 413-й стрелковой дивизии, дислоцированной в Белгороде, которая в мае того же года была расформирована[3], а полковник А. Я. Клименко в июле того же года переведён командиром 60-й стрелковой бригады, дислоцированной в Горьком[2].
Здесь может располагаться раздел, посвящённый памятникам, мемориальным доскам, объектам, названным в честь Героя. Помогите Википедии, написав его.(29 августа 2021)