В 1937—1941 и 1945—1960 годах работал в Харьковском физико-техническом институте АН УССР. Здесь он участвовал в ряде физических открытий: в 1945 году — открытие детекторных свойств сверхпроводников, в 1957 году — открытие циклотронного резонанса на олове и свинце, в 1958 году — открытие дисперсии скорости звука в магнитном поле, в 1959 году — открытие осцилляции коэффициента поглощения ультразвука.
В 1960 году участвовал в открытии анизотропии энергетической щели в сверхпроводящем олове.
В 1977 году открыл доплерон-фононный резонанс в кадмии и молибдене.
В 1982 году за работу «Разработка и исследование сверхпроводников с высокими практическими параметрами» А. А. Галкин, В. П. Буряк, Н. И. Матросов получили государственную премию УССР.
По инициативе Галкина ведущие учёные Донецкого физико-технического института преподавали на физическом факультете Донецкого государственного университета и готовили новые кадры для института[1]. Сам Галкин также был профессором Донецкого государственного университета.
В 1994 году Донецкому физико-техническому институту было присвоено имя Александра Александровича Галкина. На здании института установлена мемориальная доска. У института установлен памятник Галкину.
Храмов Ю. А. Галкин Александр Александрович // Физики : Биографический справочник / Под ред. А. И. Ахиезера. — Изд. 2-е, испр. и доп. — М. : Наука, 1983. — С. 73. — 400 с. — 200 000 экз.