Élevé dans la rigueur protestante, il étudie la musique au conservatoire de Leipzig et s'initie à la composition auprès d'Hermann Grabner(en). Il commence à composer des œuvres religieuses tout en enseignant la théorie musicale à Heidelberg.
Compromis avec le régime nazi (à l'opposé d'Hugo Distler), il échappe au purgatoire en raison de son intérêt ancien pour la musique d'Arnold Schönberg et de Paul Hindemith, deux musiciens proscrits au temps du nazisme.
Il est devenu une figure de la musique contemporaine d'après-guerre en participant activement au Festival de Darmstadt après avoir contribué à sa fondation.