Leonhardsen startade sin karriär i Clausenengen FK innan han som 19-åring flyttade till Molde FK. Efter tre säsonger köptes han av den norska storklubben Rosenborg BK 1992. Han var med och vann Tippeligaen tre år i rad och blev utsedd till årets mittfältare 1991 och 1993.[3]
1994 värvades Leonhardsen av engelska Wimbledon, innan han fortsatte till sin favoritklubb som ung, Liverpool 1997.[4] Efter att Gérard Houllier tagit över som tränare för Liverpool såldes Leonhardsen snart till Tottenham Hotspur, innan han 2002 gick gratis till Aston Villa.[5]
Leonhardsen flyttade hem till Norge för spel med FK Lyn 2004, där han blev lagkapten. I december 2005 skrev han på för Strømsgodset IF, som han var med och spelade upp i Tippeligaen säsongen 2006, och avslutade karriären säsongen efter.