Od 1563 do 1571 roku przebywał na dworze swojego wuja, Filipa II, króla Hiszpanii. Maksymilian II już w 1572 przeprowadził wybór Rudolfa na króla Węgier, a w 1575 roku na króla Czech. 27 października1575 roku w Ratyzbonie został vivente imperatore (za życia cesarza, czyli swojego ojca) wybrany na króla Niemiec, co gwarantowało mu dziedziczenie tytułu cesarskiego.
Prowadził pertraktacje z królem PolskiZygmuntem III Wazą w sprawie przekazania korony polskiej Habsburgom (Zygmunt liczył na odzyskanie tronu w Szwecji). Opozycja szlachecka w Polsce udaremniła jednak te plany.
Mimo że Rudolf II nie był entuzjastą Kościoła katolickiego, sprzeciwiał się reformacji. Cesarz niechętnym okiem patrzył na jej postępy w Rzeszy i na samowolę książąt niemieckich. Gdy w 1607 roku w Donauwörth doszło do zamieszek na tle religijnym (luteranie napadli katolików), Rudolf ogłosił banicję miasta. Książę BawariiMaksymilian I, zobowiązany do egzekucji wyroku, opanował miasto i z pomocą jezuitów, drogą represji, pozbył się protestantów. W reakcji na to niemieccy książęta protestanccy zawiązali Unię Ewangelicką, sojusz obronny przeciw katolikom. W 1609 roku zmarł bezdzietnie władca księstw Jülich, Kleve i Bergu w Nadrenii. Rudolf, wbrew prawom dziedziczenia jego krewnych (elektora Brandenburgii i palatyna Neuburga), postanowił przekazać je swojemu sprzymierzeńcowi, elektorowi Saksonii. Konflikt przeciągnął się i zakończył dopiero po śmierci cesarza, który tymi działaniami spowodował eskalację napięcia religijnego w Niemczech.
W latach 1608–1609, obawiając się utraty władzy, wydał akty gwarantujące swobody wyznaniowe protestantom w Czechach i na Śląsku (tzw. List majestatyczny). Przyznawały one wolność kultu religijnego i budowania zborów, a także prawo do wyboru rzeczników społeczności protestanckiej, zwanych defensorami. Nie przestrzegał ich w praktyce, czym przyczynił się do wybuchu wojny trzydziestoletniej.
Pasje i obłęd
Rudolf II nigdy nie zawarł małżeństwa i nie doczekał się legalnego następcy, co spowodowane było lękiem przed wypełnieniem się przepowiedniastrologicznej, zgodnie z którą stracić miał tron na rzecz swego prawowitego spadkobiercy (co zresztą rzeczywiście nastąpiło, wobec braku potomstwa jego następcą był bowiem brat Maciej, który doprowadził ostatecznie do usunięcia Rudolfa z tronu).
Cesarz posiadał mimo to liczne potomstwo z nieprawego łoża. Jednym z jego nieślubnych synów był markizJulius d’Austria, znany jako niezrównoważony psychicznie morderca.
Rudolf wykazywał pogłębiające się z wiekiem zaburzenia psychiczne spowodowane najprawdopodobniej postępującą, wrodzoną kiłą. Dręczyły go częste stany lękowe oraz obsesje na tle religijnym, w akcie szału dopuścił się nieudanej próby morderstwa, po której usiłował popełnić samobójstwo. Ulegał bardzo silnym wpływom filozofii hermetycznej oraz innych prądów okultystycznych i kabalistycznych. Jego praski dwór stał się oazą dla rozmaitej maści czarowników, alchemików, astrologów i rabinów-kabalistów, w których wiedzę i zdolności cesarz pokładał bezgraniczną ufność.
Rudolfa cechowała bardzo chwiejna postawa wobec Kościoła. W okresach szczególnego nasilenia objawów choroby ostentacyjnie odrzucał wiarę katolicką - deklarując postawę zbliżoną do satanizmu - oddawał się praktykowaniu wiedzy tajemnej. Widok duchownych, których na podstawie przepowiedni posądzał o spiskowanie przeciw niemu i nastawanie na jego życie, budził w nim wówczas paniczny lęk.
Cesarz, oddany swoim zainteresowaniom, mało interesował się sprawami państwa, wsławił się jednak jako protektor kultury i nauki. Na jego dworze działali astronomowie Tycho Brahe i Jan Kepler. Rudolf kolekcjonował też dzieła sztuki. Z czasem stawał się coraz bardziej bierny wobec wydarzeń politycznych i tracił kontrolę nad sytuacją, zwłaszcza na froncie tureckim. W kwietniu 1606 roku członkowie rodziny Habsburgów zadecydowali o przekazaniu władzy na Węgrzech bratu Rudolfa, Maciejowi. W 1608 roku Maciej, mając poparcie stanów austriackich, wymógł na Rudolfie przejęcie władzy także w Austrii i na Morawach oraz pozwolenie na koronację królewską na Węgrzech (traktat w Lieben, 25 czerwca 1608). W 1611 roku Maciej koronował się na króla Czech, a Rudolf, pozbawiony wpływu na politykę, pozostał jedynie formalnie cesarzem rzymskim.
Rudolf, z Bożej łaski uświęcony i wybrany cesarz rzymski, po wieki August, król Niemiec, Węgier, Czech, Dalmacji, Chorwacji, Slawonii, etc. etc. arcyksiążę Austrii, książę Burgundii, Brabancji, Styrii, Karyntii, Karnioli, margrabia Moraw, książę Luksemburga, Górnego i Dolnego Śląska, Wirtembergii, Teck etc. książę Szwabii, hrabia Habsburga, Tyrolu, Ferreti, Kyburga, Gorycji etc. landgraf Alzacji, margrabia Świętego Cesarstwa Rzymskiego, Burgau, Górnych i Dolnych Łużyc etc. pan Marchii Wendyjskiej, Salin, Port Naon etc. etc.