Après son abitur en 1917 et un court service militaire à la fin de la Première Guerre mondiale, il s'inscrit à l'université de Wurtzbourg pour étudier la romanistique, la germanistique et l'histoire. Il devient professeur à Wurtzbourg. En 1925, il obtient un doctorat avec une thèse sur Stéphane Mallarmé et la poésie française.
Après avoir refusé un poste à Dantzing en 1930, à l'arrivée des nazis au pouvoir en 1933, il est professeur à Munich mais perd ce poste en raison de son opposition au nazisme. Il s'oppose à la fusion de l'association des enseignants de Bavière avec la Ligue nationale-socialiste des enseignants. Walther Wüst(de), le recteur de Munich et fonctionnaire nazi, nomme Rauhut professeur à Erlangen et à Rostock puis lui fait faire une tournée en France, en pensant qu'il ne sera pas écouté là-bas.
Après que sa licence lui ait été retirée temporairement en 1937, Rauhut écrit dans Zeitschrift für Politik(de) un article sur Jacques Doriot qui le rend plus acceptable pour les nazis. Il reste toutefois privé d'enseignement.
En 1946, Rauhut revient enseigner à l'université de Wurtzbourg à la place d'Adalbert Hämel(de), partisan de l'ancien régime. De 1948 à 1967, Rauhut est professeur de philologie romane à Wurtzbourg et étudie la littérature française et italienne.
