Han fikk siste del av sin presteutdannelse ved det regionale presteseminar for Sørkina i Aberdeen i Hongkong, og ble presteviet i 1949.
Han ble i 1981 den første prest som etter kulturrevolusjonen ble valgt av den da gjenopplivede kinesiske patriotiske katolske forening og bispeviet uten pavelig mandat.[trenger referanse]
I 1986 ble han valgt til en av to viseformenn for den myndighetsapproberte katolske bispekonferanse tilknyttet den kinesiske patriotiske katolske forening. Han ble etterhvert leder av konferansens liturgiske kommisjon, som ble svært viktig da den patriotiske forening på 1990-tallet vedtok å introdusere kinesisk i liturgien – inntil da hadde man holdt fast ved latinen. Biskop Cai feiret sin første messe på kinesisk i februar 1993.
I juli året etter ble han valgt til president for den patriotiske forenings avdeling for provinsen Guangdong. Han ble i 1988 også medlem av Den nasjonale folkekongress, og ble gjenvalgt til det i 1993.
Bispedømmet Shantou fikk til en viss grad del av velstandsøkningen som fulgte opprettelsen av Shantou som spesiell økonomisk sone, og biskopen fikk igangsatt viktig kirkebygging.[trenger referanse]