Hermann Jansen wurde im Stadtteil Burtscheid von Aachen geboren. Der am 6. August 1928 zum Priestergeweihte Jansen wurde am 9. November 1931 zum Domvikar in Köln ernannt. Seit dem 1. April 1953 Direktor der Finanzkammer im Generalvikariat, wurde er am 19. Dezember 1953 in das Kölner Domkapitel berufen. Der Erzbischof von Köln, Kardinal Joseph Frings, bestellte ihn am 1. März 1963 zum zweiten Generalvikar.