Upphaflega átti eldri bróðir hans Ferdinand 4. Ungverjalandskonungur að erfa keisaratignina og Leópold hlaut því kirkjulega menntun, en þegar bróðir hans lést úr bólusótt árið 1654 varð Leópold að aðalerfingja föður síns.
Flest árin sem Leópold ríkti átti hann í stríði, ýmist við Tyrkjaveldi eða Frakkland þar sem náfrændi hans, Loðvík 14., ríkti. Hann tók þó sjálfur aldrei þátt í herförum. Hann var undir miklum áhrifum frá Jesúítum og studdi gagnsiðbótina með ráðum og dáð. Hann var þríkvæntur og eignaðist sextán börn, en aðeins sex þeirra náðu fullorðinsaldri.