Hans første stilling i Utenriksdepartementet (UD) var som byråsjef fra 1951. Året etter ble han tilknytta ambassaden i Washington D.C. som handelsråd. Fra 1956 var han Norges faste delegerte til FN og andre internasjonale organisasjoner i Genève. Seinere hadde han ambassadørposter i Rio de Janeiro 1960-1962, i Reykjavík og i Beograd. Han var deretter i flere år ekspedisjonssjef i Utenriksdepartementet. Hans siste post før pensjonering i 1981 var som ambassadør og fast delegert til FNs kontorer og internasjonale organisasjoner i Genève.
Cappelen var spesielt opptatt av den tredje verden og nedla et stort arbeid i forbindelse med etableringa av norsk utviklingshjelp.