Karlsson ble profesjonell golfspiller i 1989 og kvalifiserte seg til Europatouren gjennom kvalifiseringsskolen i 1990. Han har beholdt spilleretten siden, og har hatt en stabil karriere med fire topp 20-plasseringer på Order of Merit, inklusive en tiendeplass i 1997. Han har vunnet ni turneringer på touren. Under The Celtic Manor Wales Open i 2006 satte han nye rekorder på Europatouren for 36 og 54 hull med henholdsvis 124 slag på de to første rundene og 189 på de tre første. Banen hadde imidlertid par 69, noe som er svært uvanlig på dette nivået, slik at score i forhold til par var mindre bemerkelsesverdig (14 under etter to runder og 18 under etter tre).
Karlsson spilte for Fastlandseuropa i lagkonkurransen Seve Trophy i 2000, 2002 og 2007. Han spilte i Ryder Cup i 2006 og 2008.
I 2008 vant han EuropatourensOrder of Merit. Det meste av 2009-sesongen ble ødelagt av en øyeplage, han mistet plutselig dybdesynet, men i 2010 var han tilbake med to seire.
