Dopo gli studi alla Westfälische Schauspielschule Bochum e alla Universität der Künste Berlin, iniziò la sua carriera nel 1981, sul palcoscenico dell'Hebbel-Theater di Berlino. Negli anni seguenti si esibì nei più importanti teatri di lingua tedesca in Germania, Austria e Svizzera. Nel 1989 partecipò al Garsington Opera Festival di Oxford, nel ruolo di Bassa Selim in Il ratto dal serraglio di Mozart, con allo stesso tempo il compito di insegnare tedesco agli altri cantanti di fama mondiale.
Nel 1997, dopo quasi 20 anni trascorsi sul palcoscenico, Rolf esordisce sul piccolo schermo nel film televisivoDunkle Tage ("Giorni bui") di Margarethe von Trotta e nella serie tedesca Tatort ("Luogo del delitto"). Ma è con il ruolo da protagonista di Reginald. J. Priest nella serie canadese-americana Lexx (2000-2002) e di Adolf Hitler nella produzione USA Joe and Max (regia di Steve James, 2002) che sale agli onori della cronaca internazionale.
Negli ultimi 15 anni Rolf ha partecipato a numerose fiction, film e serie televisive tedesche.
Nel 2010 gira a Berlino e in Kenya per la televisione tedesca la fiction Familiengeheimnisse-Liebe, Schuld und Tod, per la regia di Carlo Rola.
Sul grande schermo fa la sua comparsa nel film Wunderkinder, regia di Marcus O. Rosenmüller nel ruolo del colonnello Tapilin, capo dei servizi sovietici del NKVD.
Il 2011 lo vede impegnato in due produzioni della televisione tedesca ARD. Nel film TV Tre cuori in cucina, diretto da Thomas Nennstiel, interpreta il ruolo del protagonista affiancato da Thekla Carola Wied. Nel film storico Rommel (regia di Niki Stein), invece è Eberhard Finckh, il colonnello che aveva partecipato all'attentato contro Hitler.
Nel 2012 si reca in Tunisia per interpretare Califfo, padre di Sherazade (Vanessa Hessler), nella produzione Rai Le mille e una notte - Aladino e Sherazade del regista Marco Pontecorvo. Terminate le riprese, inizia a lavorare il film semi documentario George, diretto dal regista Joachim Lang, che ripercorre la vita del`attore teatrale e cinematografico tedesco Heinrich George (1893-1946), interpretato da suo figlio Götz George, nel quale Rolf rappresenta Ernst Stahl-Nachbaur, un collega di Heinrich.