Joliat je začel igrati hokej na ledu leta 1916 za različna amaterska moštva z območja Ottawe in okolice. Leta 1922 je prestopil k NHL moštvu Montreal Canadiens. Njegov prestop je bil posledica menjave z moštvom Saskatoon Sheiks, v nasprotno smer kot Joliat je potoval Newsy Lalonde. Sprva se je menjava Lalondeja, tedaj velikega zvezdnika, za neznanega Joliatja zdela velika napaka, sploh v očeh navijačev Canadiensov. Toda Joliat je nemudoma presenetil z dobrimi predstavami na ledu. Z moštvom je osvojil Stanleyjev pokal v finalu Stanleyjevega pokala 1924 proti WCHL moštvu Calgary Tigers. Z moštvom je osvojil še dva Stanleyjeva pokala, v letih 1930 in 1931.
Joliat se je izkazal za igralca z dodano vrednostjo predvsem kot dvosmerni napadalec, saj je bil zelo nevaren v protinapadih po izgubljeni žogi nasprotnega moštva. Bil je nizke višine in eden najnižjih hokejistov svojega časa. Znan je tudi po tem, da se nekoč ni hotel spustiti v obračunavanje na ledu z drugim igralcem.
Največi preboj mu je uspel v sezoni 1924/25, ko sta bila njegova soigralca Howie Morenz in Billy Boucher in je dosegel 30 zadetkov, s čimer je postal druge strelec lige NHL. S 41 točkami v eni sezoni je tisto sezono tudi dosegel mejo, ki je v svoji karieri ni več presegel. Za Canadiense je igral vse do sezone 1937/38 in konstantno zadeval okoli 15 zadetkov na sezono. Upokojil se je po koncu sezone, leta 1938, ko ga je močno prizadela smrt Howieja Morenza.
Joliat je kariero v ligi NHL končal pri 270 zadetkih in 460 točkah na 655 tekmah.
Leta 1947 je bil sprejet v Hokejski hram slavnih lige NHL. Leta 1985 je pri 84 letih drsal okoli po dvorani Canadiensov, Montreal Forumu. Izzval je stoječe ovacije na tribunah. Čeprav je dvakrat padel, se je hitro pobral in dokončal svojo pot, medtem ko je v roki nosil svojo prepoznavno črno čepico, ki jo je nosil v svojih igralskih časih.
Joliat je pogosto drsal po Rideau Canalu v 1980. letih. Umrl je leta 1986 pri 84 letih, isto leto kot so njegovi ljubljeni Canadiensi osvojili svoj 23. Stanleyjev pokal. Pokopali so ga na pokopališču Notre Dame Cemetery v Ottawi, Ontario.
V letih 1932, 1934 in 1935 je bil uvrščen v drugo moštvo zvezd lige NHL.
Leta 1934 je osvojil pokal Hart Trophy kot najkoristnejši igralec lige NHL.
Čeprav je igral v času, ko sezone niso bile daljše od 48 tekem, Joliat ostaja na 9. mestu lestvice strelcev Canadiensov vseh časov, med levimi krili pa zaseda drugo mesto za Stevom Shuttom.
Bil je imenovan v moštvo vseh časov Canadiensov ob 75. obletnici kluba.
Njegov dres s številko 4 so "so-upokojili" leta 1984, saj so ga predhodno že upokojili v čast Jeana Béliveauja.
Sodil je tekmo, na kateri je v ligi NHL leta 1942 debitiral Maurice Richard.
