Johansen har tidligere vært medlem av Sosialistisk Venstreparti (SV), og han var leder av Sosialistisk Ungdom 1986–1988, dvs. mellom lederperiodene til Kristin Halvorsen og Paul Chaffey. I tiden 1990–1991 var han leder for Oslo SV. Johansen var en av tre SV-byråder i det samarbeidsbyrådet som Rune Gerhardsen ledet i Oslo fra 30. september 1992 til 25. oktober 1995, og var da byråd for miljø og samferdsel.
Under folkeavstemningen om EU i 1994 markerte byrådene Raymond Johansen og Terje Kalheim seg som EU-tilhengere. Johansen ble stilt opp nest øverst på SVs liste ved kommunevalget i 1995, men ble strøket over 2000 ganger. Han ble ikke valgt inn i bystyret, men ble 5. vara. Johansen var avdelingsdirektør i Norad i perioden 1996–2000.
Johansen ble medlem av Arbeiderpartiet i 1997 og var statssekretær i Utenriksdepartementet for Arbeiderpartiet i Jens Stoltenbergs første regjering i perioden 2000–2001. Etter Arbeiderpartiets valgnederlag ved stortingsvalget i 2001 ledet Johansen det interne utvalget som studerte valgnederlaget og foreslo tiltak for å gjenreise partiets tillit. Han var generalsekretær i Flyktninghjelpen 2002–2005. Johansen var igjen statssekretær i Utenriksdepartementet i Jens Stoltenbergs andre regjering i perioden 2005–2009. Som statssekretær arbeidet Johansen med internasjonale (ikke-europeiske) spørsmål, ikke minst med fredsarbeidet i Palestina, Sudan, Eritrea, og Afrika forøvrig. Fredsarbeid og utviklingsspørsmål er Johansens fremste interessefelt i utenrikspolitikken, og i denne egenskap var hans ansvarsområde som statssekretær i Utenriksdepartementet delvis overlappende med miljø- og utviklingsminister Erik Solheims fagfelt.
I 2009 ble Johansen valgt som partisekretær i Arbeiderpartiet etter Martin Kolberg, og satt i vervet til 2015. Høsten 2014 ble han valgt som byrådslederkandidat og listetopp for Oslo Arbeiderparti til kommunevalget i 2015. Etter valget ble han byrådsleder i Oslo. Han ble gjenvalgt i 2019. Han stilte til valg også i 2023, men tapte valget og ble etterfulgt som byrådsleder av Eirik Lae Solberg (H).
Organisasjonsmann
Raymond Johansen var sportslig leder i Vålerenga Fotball, men trakk seg fra det vervet som leder av sportslig utvalg i august 2009.[11]
Etter at han gikk av som byrådsleder i 2023, fikk Johansen stillingen som generalsekretær i Norsk Folkehjelp.[12]
Bokutgivelse
I 2022 ga han ut boka Gjennom krisa (sammen med Anders Lundell, Cappelen) med fokus på håndtering av koronapandemien og relasjonen til statlige myndigheter.[13] I boken knytter han også pandemikrisen til egen oppvekst i en arbeiderfamilie på Tveita. Sven Egil Omdal i Stavanger Aftenblad beskriver boken som forfriskende og pågående, med preg av assosiasjonsstrømmer som det er vanskelig å vite hvor leder. Omdal ga den terningkast 5.[14]VGs anmelder ga terningkast 3 og mener det er mye selvskryt i boken.[15]Espen Søbye i Morgenbladet mener boken er preget av at den er kalkulert kommunikasjon ved at den har med uvesentlige private opplysninger (som at han har pacemaker og bor på Bislett) samtidig som andre vesentlige opplysninger er utelatt (som at han har en familierelasjon til byråd Robert Steen og at velgerne vraket ham ved kommunevalget i 1995).[16]Dagens Næringslivs anmelder synes det ikke er en særlig god bok.[17]
^Robert Veiåker Johansen: Mannen som stengte en hel by - portrettintervju i Aftenposten/Lørdag 4. april 2020
^Karlsen, Kirsten (5. juni 2014). «- Var en varm, kjærlig og distré familiemann.». dagbladet.no (på norsk). Besøkt 28. januar 2023. «Ap-sekretær Raymond Johansen er gift med datteren til Reiulf Steens kone Inés Vargas, Carolina.»
^Norderval, Ingunn (29. juni 2022). «Reiulf Steen». Norsk biografisk leksikon (på norsk). Besøkt 30. januar 2023.