Pärast natsionaalsotsialistide võimuletulekut Saksamaal vabastati Adenauer kõigist ametitest ning 1934. ja 1944. aastal oli ta mõned kuud vangis.
Maist oktoobrini 1945 oli Adenauer jälle Kölni ülemlinnapea. Ta osales Kristlik-Demokraatliku Liidu ülesehitamises Briti okupatsioonitsoonis. Aastatel 1946–1949 oli ta KDL-i tsooniesimees, 1950–1966 KDL-i üleriigiline esimees.
Aastatel 1951–1955 oli ta ka välisminister. Ta rõhutas Saksamaa ja Prantsusmaa häid suhteid kui Euroopa poliitilise ühinemise alust. Samuti taotles ta häid suhteid Iisraeliga ning osales rahvusvaheliste organisatsioonide rajamises (Euroopa Söe- ja Terasekoondis1951, Euroopa Kaitsekoondis 1952, Euroopa Majandusühendus ja Euroopa Aatomienergiakoondis1957). Ta ignoreeris Stalini noodis1952 tehtud ettepanekut Saksamaa taasühendada, jättes ta väljapoole sõjalisi liite: Adenauer pidas sõjalist liitu Lääne-Euroopa riikidega hädavajalikuks. Aastal 1955 saavutas ta Moskvas viimaste saksa sõjavangide tagasituleku, mille hind oli diplomaatiliste suhete sõlmimine Nõukogude Liiduga.
Adenaueri poliitikat kritiseerisid üha rohkem nii Saksamaa Sotsiaaldemokraatlik Partei kui ka avalikkus, samuti toodi esile tema kõrget iga. Eriti Spiegeli afäär (1962) kahandas Adenaueri populaarsust ja autoriteeti. 1961. aasta Bundestagi valimistega kaotas Kristlik-Demokraatlik Liit absoluutse enamuse ning koalitsiooniläbirääkimistel Vaba Saksa Partega oli Adenauer sunnitud lubama oma ametiaega piirata. Tema oma partei soovis kantsleriks populaarset Ludwig Erhardit. Nõnda astuski Adenauer 15. oktoobril 1963 tagasi, kuid jäi poliitiliselt aktiivseks.