Wychowanek klubu Ketterä. Karierę rozwijał w klubie SaiPa, w barwach którego rozgrywał pierwsze sezony w lidze seniorskiej SM-liiga. Ponadto w pierwszej fazie kariery grał w drużynie Tappara, z którego w drafcie NHL z 2001 został wybrany przez Edmonton Oilers. W 2001 wyjechał do Kanady i od tego czasu do 2007 rozegrał w pięć sezonów w rozgrywkach NHL (cztery w kanadyjskim Edmonton i rok w New York Rangers); w tym czasie przez rok grał w superlidze rosyjskiej z uwagi na ogłoszony lokaut w NHL. W 2009 powrócił do Europy, rozegrał sezon w Jokericie Helsinki, następnie kolejny inauguracyjny sezon rosyjskich rozgrywek KHL2008/2009, po czym od 2009 do 2013 przez cztery lata występował w szwajcarskiej lidze NLA[1]. W maju 2013 w wieku 38 lat został ponownie zawodnikiem macierzystego klubu SaiPa[2]. W lutym 2018 ogłosił zakończenie kariery[3]. Został wtedy menedżerem generalnym w klubie SaiPa.
W trakcie kariery określany pseudonimami Juicy, Volvo[4][5].
Życie prywatne
Jego żoną jest Sanna, mają syna Juho. Drugi z synów Olli-Matias zginął podczas zabawy w wyniku upadku z piątego piętra w Moskwie 23 września 2008, gdzie Jussi Markkanen rozpoczynał sezon z drużyną CSKA w lidze KHL[6][7][8][9][10].