Mountjoy var egentlig gruvearbeider og vokste opp like utenfor Ebbw Vale. Han vant flere amatørturneringer, blant annet det walisiske mesterskapet for amatører to ganger og verdensmesterskapet for amatører i 1976. Etter seieren i verdensmesterskapet startet han som profesjonell.
Han vant sin første turnering i 1977 etter å ha slått de tidligere verdensmestrene Fred Davis, Alex Higgins underveis til finalen, hvor han vant 7–6 over Ray Reardon i Masters. Noen måneder senere slo han igjen Higgins i første runde av verdensmesterskapet, men tapte kvartfinalen mot Dennis Taylor 11–13. Mot slutten av 1977 kom han til finalen i det første UK Championship som ble arrangert, men han tapte 9–12 mot Patsy Fagan. Året etter vant han turneringen etter 15–9 seier over David Taylor i finalen. Dette året vant han også Pot Black.
I 1981 spilte Mountjoy seg frem til finalen i verdensmesterskapet, hvor han tapte 12–18 mot Steve Davis. Neste gang han var i en større finale var i Masters i 1985, hvor han tapte for Cliff Thorburn. Denne sesongen vant han igjen Pot Black. Etter dette falt prestasjonene og han falt ut av topp 16 på verdensrankingen før 1988.
Sesongen 1988/1989 kom til å bli et vendepunkt for Mountjoy. I UK Championship møtte han den unge Stephen Hendry i finalen og vant denne 16–12, dette var første gangen han vant en rankingturnering. I januar vant han Classic etter at han slo landsmannen Wayne Jones. I løpet av to måneder vant han dermed sin andre rankingtittel i løpet av sin tolv år lange karriere.
Som en følge av de gode resultatene klatret han også på verdensrankingen og var for sesongen 1990/1991 rangert som nummer 5. Den beste rangeringen han oppnådde i karrieren.
I 1993 ble Mountjoy diagnostisert med lungekreft etter at han hadde røykt i flere år, han ble imidlertid frisk og fortsatte karrieren frem til 1997.[trenger referanse]