10 kwietnia1690 wikariat apostolski Nankinu podniesiono do godności diecezji. Tego samego dnia z północnych misji podległych dotychczas nankińskim wikariuszom apostolskim utworzono wikariat apostolski Pekinu (obecnie archidiecezja pekińska).
1844 z diecezji nankińskiej wydzielono wikariat apostolski Henan (obecnie diecezja Nanyang).
21 stycznia1856 diecezję zdegradowano do wikariatu apostolskiego, a stolicę przeniesiono do Jiangnan
8 sierpnia1921 wikariat apostolski Jiangnan przemianowano na wikariat apostolski Jiangsu. W tym samym dniu z jednostki tej odłączono sąsiednią świecką prowincje tworząc wikariat apostolski Anhui (obecnie diecezja Wuhu).
1 maja1922 zmieniono nazwę na wikariat apostolski Nankinu.
Kolejne lata przyniosły dalszy rozwój katolicyzmu w omawianym wikariacie. Spowodowało to powstanie nowych administratur kościelnych na terenach podlegających dotychczas nankińskim ordynariuszom. Były to:
W wyniku reorganizacji chińskich struktur kościelnych 11 kwietnia1946 wikariat apostolski Nankinu podniesiono do godności archidiecezji i stolicy metropolii.
Z 1950 pochodzą ostatnie pełne, oficjalne kościelne statystyki. Archidiecezja nankińska liczyła wtedy:
32 536 wiernych (0,5% społeczeństwa)
47 księży (37 diecezjalnych i 10 zakonnych)
10 braci i 33 siostry zakonne
17 parafii.
Od zwycięstwa komunistów w chińskiej wojnie domowej w 1949 archidiecezja, podobnie jak cały prześladowany Kościół katolicki w Chinach, nie może normalnie działać. Arcybiskup Paul Yü Pin został przez nowe władze usunięty z katedry i zmuszony do opuszczenia kraju. Do końca życia mieszkał na Tajwanie. Brał udział w obradach Soboru Watykańskiego II. 28 kwietnia1969Paweł VI kreował go kardynałem.
W 1950 administratorem apostolskim arcybiskupstwa został biskup szanghajski Ignatius Kung Pin-mei. Zarządzał on nankińskim Kościołem tylko do 1955, gdy został aresztowany. Brak współpracy z komunistami i odmowa przystąpienia do Patriotycznego Stowarzyszenia Katolików Chińskich spowodowały, że hierarcha spędził w więzieniu 30 lat, a kolejne 3 lata w areszcie domowym, gdy to władze pozwoliły mu na emigrację bez prawa powrotu. 30 czerwca1979 Jan Paweł II wyniósł go in pectore do godności kardynalskiej (jego nazwisko ujawniono na konsystorzu w 1991). Kardynał Kung Pin-mei zachował godność administratora apostolskiego archidiecezji nankińskiej do swojej śmierci w 2000.
Od 2000 do śmierci w 2014 administratorem apostolskim Nankinu był biskup szanghajski Joseph Fan Zhongliang. Należał on do Kościoła podziemnego i był uznawany przez Stolice Apostolską. Według władz komunistycznych Chin bp Fan Zhongliang zajmował urząd nielegalnie.
W czasie przebywania na emigracji kanonicznego arcybiskupa Nankinu Paula Yü Pina i w więzieniu, a następnie na emigracji administratora apostolskiego Ignatiusa Kung Pin-mei archidiecezją zarządzało trzech antybiskupów mianowanych przez Patriotyczne Stowarzyszenie Katolików Chińskich z polecenia władz państwowych. Nie utrzymywali oni łączności ze Stolicą Świętą.
