Alfred Jodl sa narodil v roku 1890 vo Würzburgu, v Nemecku ako syn dôstojníka Alfreda Jodla a Therese Baumgärtler. Vyštudoval kadetskú školu v Mníchove, ktorú ukončil v roku 1910. Po škole vstúpil do armády. V prvej svetovej vojne bojoval na západnom fronte v rokoch 1914 - 1916, v roku 1917 bol prevelený na východný front. Po skončení vojny sa pridal k limitovanému versailleskému Reichswehru, kde sprvu pôsobil v nižších veliteľských funkciách.
V septembri 1913 sa oženil s Irmou Gräfin von Bullion. Svadba pomohla k Jodlovej karérie. Nemali spolu žiadne deti. Jeho manželka zomrela 18. apríla 1944, v dobe, keď spolu už nežili. 7. apríla 1945 sa oženil s Luiseou von Bendovou.
Kariéra u nacistov
Od roku 1932 slúžil v rôznych armádnych inštitúciach. Už ako sympatizant Nacistov bol rýchlo povýšený a roku 1935 bol poverený vedením oddelenia národnej obrany Vrchného veliteľstva pozemných síl (OKH). Po Hossbachovom memorande sa podieľal na zmene stratégie nemeckých ozbrojených síl z defenzívnej na ofenzívnu. Od októbra 1938 až do augusta 1939 zastával funkciu veliteľa delostrelectva (Artilleriekommandeur) 44. divízie v hodnosti generálplukovníka. Počas Anšlusu - pripojenia Rakúska k Nemecku bol menovaný do funkcie náčelníka operačného štábu veliteľstva ozbrojených síl (OKW). V tejto funkcii zostal až do mája 1945. Jeho najbližším spolupracovníkom bol Wilhelm Keitel, s ktorým pomáhali Hitlerovi plánovať strategické operácie. Počas vojny podpísal viacero rozkazov, ktoré sa priečili vojnovému právu, najmä rozkazy prikazujúce okamžite strieľať sovietskych politických komisárov a príslušníkov britských Commandos.
Jodl strávil väčšinu vojny vo Wolfsschanze, Hitlerovom predsunutom veliteľskom stanovišti vo Východnom Prusku. 1. februára 1944 bol povýšený do hodnosti Generaloberst (generálplukovník).
Jeho telesné pozostatky, ako aj pozostatky ostatných deviatich popravených (vrátane Hermanna Göringa, ktorý pred plánovanou popravou spáchal samovraždu), boli spopolnené v Ostfriedhofe a popol bol rozptýlený v riečke Wenzbach, malom prítoku rieky Isar.