Herman Autrey débute au saxhorn alto avant de passer à la trompette. Il commence sa carrière dans des orchestres de la région de Pittsburgh avant de s'installer, en Floride (1926).
Victime d'un grave accident de circulation en 1954, il reste cependant actif en particulier au sein du groupe traditionnel « Saints and Sinners » de Vic Dickenson et Red Richards.
Tout au long de sa carrière, il a dirigé ses propres petites formations. Pourtant, il n'a enregistré que 3 disques sous son propre nom.
Son jeu alternativement viril et doux, exubérant dans les improvisations collectives, s'accorde parfaitement avec celui de Fats Waller avec lequel il a enregistré ses chorus les plus marquants.