Etter prestevielse den 30. juli 1905 i Bamberg var han kapellan fra september 1907 i Schlüsselfeld og deretter sogneprest ved Schlosskirche Bayreuth. I september 1911 ble han inspektør (direktør) for småseminaret Ottonianum, ogsamtidig religionslærer. Den 1. februar 1924 frem til han ble medlem av domkapittelet den 1. juli 1935 var han sogneprest for menigheten St. Elisabeth i Nürnberg.
Biskop
Kolb ble den 10. august 1935 utnevnt til titularbiskop av Velicia og hjelpebiskop i Bamberg. Han ble bispeviet 13. oktober 1935 av Bambergs erkebiskop Johann Jakob von Hauck; medkonsekrerende var Ludwig Sebastian, biskop av Speyer, og Matthias Ehrenfried, biskop av Würzburg. Paven utnevnte ham den 26. januar 1943, tre dager etter hans forgjengers død, til erkebiskop av Bamberg. Han ble innført i embedet den 9. mai 1943.
Han grunnla St.-Joseph-Stiftung für kirchlichen sozialen Wohnungsbau og ledet erkebispedømmet gjennom sluttfasen av den nasjonalsosialistiske tid.