Quinto di tredici figli di una coppia di immigrati tedeschi in Brasile (Gabriel e Helana Arns), entrò nell'Ordine dei Frati Minori, così come fecero in seguito uno dei suoi fratelli e tre delle sue sorelle (una delle sue sorelle è stata Zilda Arns).
Dopo l'incontro tenutosi l'11 aprile 1969 nel convento del Divino Maestro ad Ariccia, fu protagonista di una serie di strette di mano pubbliche fra alti prelati e capi della Massoneria.[1]
Nel concistoro del 5 marzo 1973, papa Paolo VI lo creò cardinale e all'inizio del suo mandato vendette il palazzo vescovile usando il denaro ricavatovi per costruire un centro di assistenza sociale nella favela. È conosciuto come teologo della liberazione[senza fonte] e divenne nella Chiesa brasiliana uno dei protagonisti dell'opposizione alla dittatura militare, conducendo il progetto Tortura Nunca Mais (Mai più tortura) alla fine degli anni settanta.
Si ritirò, due anni dopo le disposizioni canoniche, il 15 aprile 1998 ma aveva richiesto a Giovanni Paolo II già nel 1996, al compimento dei 75 anni, di poter lasciare la guida della grande arcidiocesi.