Heinz Müller devint champion d'Allemagne junior en 1941. Adulte, il remporte de nombreuses courses, surtout des critériums. Il gagne plusieurs étapes au Tour d'Allemagne. Son succès le plus important est la victoire au championnat du monde sur route professionnel en 1952 à Luxembourg ; son compatriote Ludwig Hörmann décroche la troisième place. En 1953, il devient champion d'Allemagne professionnel sur route. En 1955, il participe au Tour de France, mais abandonne lors de la quatrième étape. La raison peut avoir été des stimulants que lui avait donnés à son insu un responsable de l'équipe et qui ne lui avaient pas réussi.
Il dispute également 26 courses de Six-Jours, entre autres comme partenaire de Manfred Donike.
Heinz Müller mourut à l'âge de 51 ans, quelques jours après qu'on eut diagnostiqué chez lui une leucémie.