Etter abitur i 1829 fra Gymnasium Paulinum studerte han filosofi i Münster og rettsvitenskap i Bonn. I 1833 tok han statseksamen og gjorde i 1834 militærtjeneste. Deretter slo han inn på den juridiske yrkesvei.
I 1839 bestemte han seg for å bli prest, og studerte katolsk teologi i München.
Prest
Den 5. juni 1841 ble Melchers presteviet i Münster. I 1844 ble han subregens ved presteseminaret der, og syv år etter regens (rektor).
Melchers besøkte konsekvent alle menigheter i en takt som tilsvarte at alle ble besøkt i løpet av to år, og fikk inn for styrkingen av det kristne liv gjennom folkemisjoner.[trenger referanse] Pave Pius IX utnevnte ham i 1858 også til apostolisk provikar til de nordiske misjoner.
Erkebiskop Melchers deltok under Første Vatikankonsil, og der var han en motstander av definisjonen av infallibilitetsdogmet, men støttet det etter at det var vedtatt.[trenger referanse]
Etter at han ekskommuniserte to prester som hadde sluttet seg til gammelkatolikkene, ble han arrestert av de politiske myndigheter, bøtelagt og dømt til seks måneders fengsel.[trenger referanse]
Den 2. desember 1875 truet presidenten av Rhinprovinsen med å forvise ham dersom han ikke fratrådte sitt embede som erkebiskop frivillig. Da erkebiskopen fant ut at man forberedte å forvise ham til Küstrin (da tysk, i dag vest i Polen), flyktet han 13. desember til det nærliggende Maastricht i Nederland der han tok tilflukt i et fransiskanerkloster. Derfra fortsatte han å lede sitt erkebispedømme, inntil han la ned sitt embede i 1885. Pave Leo XIII kalte ham til Roma og kreerte ham til kardinal, med Santo Stefano al Monte Celio som tittelkirke.