Karembeu startede sin seniorkarriere i 1990 i den franske storklub FC Nantes, hvor han spillede sine første fem professionelle år, inden han i 1995 skrev kontrakt med italienskeSampdoria. Her spillede han med klubben i Serie A de følgende to sæsoner, inden han i 1997 skiftede til spanske Real Madrid.
Karembeu flyttede i 2000 til England, hvor han skrev kontrakt med Premier League-klubben Middlesbrough F.C. Opholdet her var dog ingen større succes, og allerede året efter skiftede han til græskeOlympiakos. Her spillede franskmanden frem til 2004, og var med til at vinde det græske mesterskab i både 2003 og 2004. Han sluttede sin karriere med korte ophold hos Servette FC og SC Bastia i sit hjemland.
Landshold
Karembeu nåede gennem sin karriere at spille 53 kampe for det franske landshold, som han debuterede for i et opgør mod Finland den 14. november1992. Han var med til adskillige slutrunder for sit land, blandt andet VM i 1998 og EM i 2000, hvor holdet blev henholdsvis verdens- og europamester.
Karembeu spillede sin sidste landskamp i 2002, året efter at han havde sikret sig sin tredje titel med landsholdet, da holdet vandt Confederations Cup.