Окончил 6 классов, работал машинистом паровоза, затем секретарём комсомольской организации паровозоремонтной мастерской.
В Красной Армии с 1939 года. Член ВКП(б) с 1940 года. На фронте в Великую Отечественную войну с сентября 1941 года. В 1942 году окончил Челябинское танковое училище.
Командир танковой роты 26-го гвардейского отдельного тяжёлого танкового полка гвардии старший лейтенант Алексей Xарлов особо отличился 21 июня 1944 года в бою за станцию Таммисуо. Прорвав сильно укреплённую полосу обороны врага, вверенная ему рота в течение семи часов отражала контратаки противника.
Гвардии старший лейтенант А. Г. Харлов лично подавил огонь восьми дзотов, уничтожил три артиллерийских орудия, но погиб в этом бою: израсходовав весь боекомплект, командир роты вместе с экипажем не покинул подожжённый врагами танк. Похоронен в братской могиле в городе Выборг Ленинградской области.
Указом Президиума Верховного Совета СССР от 24 марта 1945 года за образцовое выполнение боевых заданий командования и проявленные при этом мужество и героизм гвардии старшему лейтенанту Харлову Алексею Гавриловичу посмертно присвоено звание Героя Советского Союза.
Его именем названы улица в городе Алапаевске, в котором на здании школы № 2 установлена мемориальная доска. В Выборге в районе подвига танкистов установлена мемориальная доска.
Литература
Буров А. В. Твои Герои, Ленинград. — 2-е изд., доп. — Л.: Лениздат, 1970.
Герои Советского Союза: Краткий биографический словарь / Пред. ред. коллегии И. Н. Шкадов. — М.: Воениздат, 1988. — Т. 2 /Любов — Ящук/. — 863 с. — 100 000 экз. — ISBN 5-203-00536-2.