Ricevette il Ducato d'Austria nel 1282 dal padre Rodolfo I d'Asburgo, re dei Romani, dopo la battaglia di Marchfeld su Ottocaro II, assieme al fratello Rodolfo II, morto nel 1290. Ben presto suscitò un vasto scontento tra la nobiltà dei ducati, a causa della sua politica volta a mettere in disparte le famiglie locali sostituendole con nobili svevi a lui legati, soprattutto i conti di Wallsee. Le prime rivolte avvennero in Stiria, nel 1291, e nel 1295 a rivoltarsi fu la nobiltà dell'Austria. Anche a Vienna Ottokar Přemysl fu a lungo preferito ad Alberto, anche per i consistenti rapporti commerciali verso l'area boema. Ciononostante nel 1296 a Vienna fu concesso un nuovo statuto, il primo ad essere composto in lingua tedesca.
Dopo la morte del padre Rodolfo, avvenuta nel 1291, i principi tedeschi si rifiutarono di riconoscere il diritto al trono di Alberto e elessero re dei RomaniAdolfo di Nassau. Con l'aiuto di una coalizione di principi tedeschi, Alberto riuscì a deporre Adolfo e gli succedette nel 1298. Lo scontro tra Adolfo e Alberto venne deciso nella battaglia di Göllheim, nella quale Adolfo venne ucciso. Grazie ai rapporti matrimoniali con la Francia, Alberto riuscì a stipulare un trattato di pace con Filippo IV il Bello, con il quale era in contrasto per questioni di confine.
Alberto dovette intervenire con durezza anche per tutelare i diritti doganali imperiali, costringendo gli arcivescovi e il conte palatino del Reno alla capitolazione. Papa Bonifacio VIII era però contrario allo scioglimento del collegio dei principi. Il riconoscimento papale giunse solamente nel 1303, in cambio di importanti concessioni che limitavano fortemente l'autorità imperiale, soprattutto in Italia, che potevano essere intese persino come l'obbligo di un giuramento di fedeltà dell'Imperatore al Papa.
Alberto parve giungere ad un passo dall'unificazione politica dell'intera Europa Centrale quando, alla morte di Venceslao III, re di Boemia, riuscì a mettere sul trono di Praga suo figlio Rodolfo. Ma la nobiltà boema si ribellò decidendo di rovesciarlo. Alberto li costrinse ben presto a riconoscere il nuovo re, il quale però, durante la compagna bellica, morì di tifo. Gli successe il mainardinoEnrico di Carinzia e Tirolo.
Nel 1307 però egli subì una pesante sconfitta, nei suoi piani per l'egemonia asburgica. In relazione alla controversia su un feudo in Turigia e Meißen, Alberto perse la battaglia di Lucka contro i figli di Alberto II di Meißen, della casata di Wettin: come re, Alberto, con un grosso esercito, invase l'Osterland, ma il 31 maggio 1307 Dietrich IV di Lausitz e Federico I di Meißen, che lo attendevano a capo di cittadini e contadini armati insieme a un gruppo di cavalieri del Braunschweig, gli inflissero una sonora sconfitta.
Durante il suo regno, si impegnò per migliorare le condizioni dei servi della gleba, degli ebrei e della classe mercantile. Contemporaneamente condusse senza successo una guerra contro la Turingia. Mentre cercava di riconquistarla, venne assassinato dal nipote, Giovanni il Parricida, cui aveva sottratto ingiustamente l'eredità. Gli succedette Enrico di Lussemburgo, che divenne imperatore del Sacro romano impero con il nome di Enrico VII.