Joseph Ma Zhongmu studerte teologi i Datong i Shanxi.
Prest
Han ble presteviet 31. juli 1947. Ette noen få års videre studier ved det katolske Furen-universitetet (da i Beijing) virket hjan i sjelesorgen i Zhongwei og Hohhot.
Han måtte tåle tyve års forfølgelser før religionene ble gitt anledning til å gjenoppstarte sin virksomhet i 1980-årene. Han var fange i en straffarbeidsleir fra 1958 til 1969 som «kontrarevolusjonær»; hasn hadde nektet å slutte seg til Den kinesiske katolske patriotiske forening. Fra 1969 til 1979 var han arbeider ved et vanndepot. Han ble rehabilitert i 1979, og kunne i 1980 vende tilbake tiul den prestelige sjelesorg.
Biskop
Han ble hemmelig bispeviet 8. november1983, som den første og eneste mongolske katolske biskop. Han bodde da i banneret (fylket) Otog Qianqi i ligaen Yimeng, hjemsted for om lag 400 katolikker – 300 mongoler og 300 hankinesere. Han oversatte breviaret fra kinesisk til mongolsk, likeså bibelske og andre religiøse bøker. Han oversatte også Missale Romanum til mongolsk, men dettersom ingen i Vatikanet kunne apråket, kunne de ikke tillate seg å approbere resultatet. Han trakk seg tilbake fra aktivt virke i 2005.
De mongolske katolikker i Otog Qianqi går tilbake til konverterte familier fra den belgiskeC.I.C.M.-misjonæren pater Theophile Verbists virke i Indre Mongolia fra 1866 av.
I byen Chengchuan (Boro Balgasun på mongolsk) i ligaen (prefekturet) Yimeng (Il Ju på mongolsk) bodde i 2008 hele 90 prosent, eller 7 000, av alle Indre Mongolias katolikker av mongolsk nasjonalitet.
Medregnet hankineserne bor det om lag 20 000 «undergrunnskatolikker» i det som i 1949 var bispedømmet Ningxia, som dekket deler av dagens Indre Mongolia, Ningxia Hui og Shaanxi. Senere er bispedømmene blitt unilateralt endret av den regjeringsgodkjente «åpne» kirke.
Ved bisklopens begravelse forhindret myndighetene deltakelse fra mer enn 15 katolikker, to prester og én biskop å delta.[3]
Patrick Taveirne: Han-Mongol Encounters and Missionary Endeavors: A History of Scheut in Ordos (Hetao), 1874-1911, Leuven University Press, 2004, ISBN 90-5867-365-0, s 238.