Karlsen har tjenestegjort ved Åsegarden, Setermoen og Garnisonen i Sør-Varanger. Han var kullsjef ved Befalsskolen for Infanteriet i Trøndelag. Senere var han spesialstabsoffiser, kontorsjef og avdelingssjef ved Hærstaben.
I 1988/1989 var han sjef for den norske FN- bataljonen i Sør- Libanon, som tjenestegjorde under UNIFIL. I 1993 gjennomførte han en repetisjonsøvelse som sjef for Brigade 8 (Rogaland). Han var sjef for Møre infanteriregiment nr. 11, og deretter Deputy Chief of Staff ved HQ North (NATO) i Stavanger før han i 1997 tiltrådte stillingen som infanteriinspektør og sjef for Oppland Regiment (Elverum).
Han har vært i internasjonal tjeneste under Gulfkrigen (Saudi Arabia) i 1991, NATO- tjeneste i IFOR/SFOR HQ som Sarajevo Detachment Commander 1996-97 og FN- tjeneste i UNMIK/Priština som Senior Military Liaison Officer i 1999.