På 1930-tallet meldte han se inn i SA, SS og NSDAP.
Bakgrunn
Han ble født i den lille byen Angerburg i Østpreussen, som i dag er en del av Polen. Familien var høyreorienterte, konservative tyske nasjonalister. Faren var lærer i grunnskolen, og kjempet i form av et polemisk skrift mot den litauiske okkupasjonen av Memelland i 1923 som følge av første verdenskrig.
Jankuhn var en høyt ansett forsker, og han nedla et fremragende arbeid ved de arkeologiske undersøkelsene i Hedeby og Danevirke.
Nasjonalsosialist
Ettermælet hans er likevel sterkt farget av at han var erklært nasjonalsosialist, og at han gikk aktivt inn for å underbygge nasjonalsosialismens ideologiske fundament, blant annet raselæren, vitenskapelig. Etter 1933 ble alle arkeologiske forskningsprosjekter vurdert opp mot deres nytteverdi for nasjonalsosialismen. Dersom de ikke tjente saken, måtte de skrinlegges. Arkeologer som ikke gikk med på dette, fikk yrkesforbud. Janhkuhn ble imidlertid med; han var medlem i SA fra høsten 1933 og deltok blant annet i et ti ukers treningskurs i paramilitær virksomhet.
Han meldte seg inn i NSDAP i 1937. Samme år gikk han inn i SS og ble en del av Stabssturmbann, en stabsenhet med kontor i Kiel. Han arbeidet i nær forståelse med Heinrich Himmler i organisasjonen Ahnenerbe («ane-arv»), og var opptatt av utgravninger i grensetraktene mot Danmark med vikingtidensHedeby og Danevirke. Her klarte han å hindre Alfred Rosenbergs folk i å kjøpe opp Hedeby-området rett under nesen på Ahnenerbe. Himmler var spesielt opptatt av Hedeby og besøkte utgravningene i mars 1937. Han var så opptatt av Hedeby-prosjektet at det ble største enkeltposten i Ahneneerbes budsjett. Da Jankuhn i 1938 ble direktør for det forhistoriske museum i Kiel, og utnevnt til SS-Sturmbannführer i Himmlers personlige stab, forskjøv det balansen i utgravningene at nordiske forskere fikk delta, slik at holdningen endret seg fra klart anti-dansk til et tysk-nordisk fellesprosjekt. Dette forpurret også planene i Josef Goebbels' propagandaministerium om å omskape høyborgen ved Hedeby til et friluftsteater som et slags nazistisk tingsted.[6] i 1943 utga Jankuhn Die Ausgrabungen in Haithabu 1937-39.[7]
Etter angrepet på Norge i 1940 kom han som Hauptsturmführer og Himmlers spesielle utsending til Norge for å ivareta sikkerheten til norske – dvs. «germanske» – kulturskatter. Hans første oppdrag var å sikre framdriften av utgravningene av Raknehaugen på Romerike. Planen var at undersøkelsene skulle drives videre i tysk regi og med tyske midler, men dette ble avverget ved en snarrådig inngripen av Anton Wilhelm Brøgger. Brøgger måtte imidlertid godta at Vikingskipshuset på Bygdøy ble ekstra bombesikret under ledelse av Jankuhn. Jankuhn ville ikke ha noe med «den jødiske kunsthistorikeren og arkitekten» Harry Fett å gjøre, og foresto at han ble fjernet som riksantikvar og erstattet med en «pålitelig nordmann» som riksantikvar.
i Ukraina var han blant annet på leting etter «krim-goterne», men Ahnenerbe måtte konkurrere med Alfred Rosenbergs Amt Rosenberg, der en Sonderstab Vorgeschichte («spesialgruppe [for] forhistorie») som var opprettet i 1934, sendte 550 000 gjenstander innsamlet i øst-områdene til Tyskland. Jankuhns Sonderkommando konsentrerte seg i stedet om Krim og Kaukasus som stod under militær administrasjon. [8]
I tiden 1942 til årsskiftet 1943/44 tjenestegjorde han i Waffen-SS-divisjonen 5. SS-Panzer-Division «Wiking» hvor hans enhet i strid med Haag-konvensjonen konfiskerte biblioteks- og museumsgjenstander, men denne operasjonen opphørte etter det tyske nederlaget mot Den røde armés offensiv langs Dnjepr og mot Karpatene. Siden det etter hvert ble mangel på skolerte offiserer, tjenestegjorde han deretter som stabsoffiser under Felix Steiner og Herbert Otto Gille, til tross for at han manglet formell militær utdannelse utover en grunnleggende infanteritrening. Han ble allikevel 9. november1944 tildelt Jernkorset av første klasse, noe som kan tyde på at hans overordnede, på denne tiden Gille, var fornøyd med innsatsen hans.
Da han gikk tilbake til Ahnenerbe i 1944 fikk han graden SS-Obersturmbannführer i Allgemeine-SS, etter at Himmler hadde tilbakedatert en tidligere utnevnelse til SS-Obersturmführer slik at det skulle passe med bestemmelsene om opprykk. Som Obersturmbannführer hadde Jankuhn en grad som gjorde at han sto høyere enn de fleste andre vitenskapsmenn i Tyskland.
Rehabilitert etter krigen
Etter det tyske nederlaget i 1945, ble Jankuhn satt i amerikansk krigsfangenskap. Tre faktorer gjorde imidlertid at en rekke SS-arkeologer, herunder Jankuhn, etter hvert ble rehabilitert. Det første var at den tidligere faglige rivaliseringen og konflikten med Alfred Rosenberg og kretsen rundt ham ble videreført, slik at Rosenberg fikk aleneansvaret for den såkalte nazistiske arkeologien, mens kretsen rundt Ahnenerbe klarte å framstå som ideologisk nøytrale og seriøse vitenskapmenn.
For Jankuhn ble det videre nødvendig å få distansert seg fra sin tilknytning til SS. Han hevdet at han ble presset til å slutte seg til denne organisasjonen som i Nürnbergprosessen ble dømt til å være en kriminell organisasjon. Det er i ettertid imidlertid svært usannsynlig at han ble presset til å være medlem. SS oppfattet seg selv som en elite og ønsket ikke motvillige medlemmer, tvert imot skulle medlemskap henge høyt og være vanskelig å oppnå. Jankuhn klarte likevel å skaffe seg vitner som løy for å dekke Jankuhn. Innen Jankuhn ble stilt for retten, hadde det politiske klimaet endret seg og retten brydde seg ikke om å sjekke personalmappen og annen dokumentasjon rundt hans virksomhet.
Til slutt ble hans sterke faglige bakgrunn trukket fram, og etter å ha blitt løslatt, kom han umiddelbart tilbake til arkeologien. Fra 1956 og fram til han gikk av med pensjon i 1973 var han professor ved Georg-August-Universität Göttingen. Han ble boende i Göttingen fram til sin død.