Pocházel ze zchudlé rolnické rodiny z Moravy z dvojčat – jako druhý v pořadí je v matrice zapsán bratr Anton. Studoval na mikulovském gymnáziu. V letech 1889–1894 studoval práva na Vídeňské univerzitě. Roku 1898 získal titul doktora práv. Působil jako domácí učitel a roku 1895 nastoupil jako knihovník do Říšské rady.
Politická kariéra za Rakouska-Uherska
Politicky aktivní byl již za Rakouska-Uherska. Sblížil se se sociálně demokratickým hnutím a začal publikovat v jejich tisku (zpočátku pod pseudonymem Synopticus, aby neriskoval svou úřední dráhu). Zaměřoval se na otázky národohospodářské i národnostní.[4] Napsal známou knihu Staat und Nation, v které se vehementně zasazoval za „národnostní princip“. Federalismus považoval za logické uspořádání mnohonárodního státu, jakým bylo Rakousko-Uhersko. Pro jednotlivé národnosti doporučoval širokou míru kulturní a školské autonomie, centrální vláda měla disponovat správními, hospodářskými a bezpečnostními kompetencemi. Místo teritoriálního rozhraničení prosazoval personální autonomii. V tomto ohledu s ním souhlasil například i český sociální demokrat Bohumír Šmeral.[5]
Poté, co bylo zavedeno rovné a všeobecné volební právo, vstoupil do aktivní politiky. Ve volbách do Říšské rady roku 1907 se stal poslancem Říšské rady (celostátní parlament), kam byl zvolen za okrsek Dolní Rakousy 42. Usedl do poslanecké frakce Klub německých sociálních demokratů. Opětovně byl zvolen za týž obvod i ve volbách do Říšské rady roku 1911 a ve vídeňském parlamentu setrval do zániku monarchie.[6] Kromě toho byl také poslancem Dolnorakouského zemského sněmu.[4]
Pak ustoupil do pozadí, ale nadále zůstával občasným parlamentním řečníkem své strany při významných událostech. V roce 1927 uvažoval o možnosti velké, pravolevé koalice, ale nakonec tuto variantu zamítl, stejně jako při opakovaných úvahách o takovém uspořádání v roce 1931. Až do roku 1933 byl opatrným stoupencem připojení Rakouska k Německu v rámci práva na sebeurčení, zároveň ale usiloval o nové a korektní vztahy s Československem a Itálií. V roce 1931 ho sociální demokracie navrhovala na funkci rakouského prezidenta, od téhož roku byl předsedou Národní rady Rakouska (rakouský parlament).[7] V březnu 1933 na tuto funkci ovšem na přání své strany rezignoval.[4]
Poté, co v roce 1934 skončila parlamentní vláda v Rakousku a začal austrofašistický režim, se zpočátku neúspěšně snažil o smírné řešení politické krize využitím svých kontaktů v Křesťansko-sociální straně, pak byl po jistou dobu vězněn a následně se zcela stáhl z veřejného života. V referendu v roce 1938, konaném zpětně po provedení anšlusu, podporoval připojení Rakouska k Německu a na podzim toho roku uvítal také Mnichovskou dohodu a připojení Sudet k Říši. Válečné roky strávil ve městě Gloggnitz a zabýval se sociologickými a právními otázkami.[4]
Rakouským prezidentem
Do vrcholové politiky se vrátil na konci války. Od 27. dubna 1945 do 20. prosince 1945 byl opět kancléřem (čtvrtá vláda Karla Rennera) a reprezentoval obnovený rakouský stát vůči spojeneckým okupačním orgánům. Následně se stal prezidentem Rakouska a úřad zastával až do své smrti 31. prosince 1950. Podobně jako po roce 1918 i nyní se významně zasloužil o obnovu země a parlamentní vlády v Rakousku.[4]