Andersen avla i 1916 examen artium og studerte deretter bankvesen i London og Paris. I 1923 ble Andersen attaché ved Norges ambassade i Paris. To år senere fullførte han aspirantprøven i Utenriksdepartementet. I 1927 vendte han tilbake til Oslo. Fra 1928 til 1931 var Andersen utenriksministerens personlige sekretær. Han var fra 1926 til 1934 sekretær og sakkyndig i Norges delegasjon til Folkeforbundet og 1932–1933 også sekretær for de norske dommerne ved domstolen i Haag. I 1931 var han stasjonert i London, i 1935 i Paris. Andersen ble i 1938 byråsjef i Utenriksdepartementet. Fra 1940 til 1945 var han i Handelsdepartementet. I 1945 var han tilbake i Utenriksdepartementet som ekspedisjonssjef. I 1948 ble Andersen utnevnt til norsk sendemann i Bern, året etter også til Wien. Fra 1949 til 1951 var Andersen formann i eksekutivkomitéen i Den internasjonale flyktningorganisasjon. I 1951 ble han sendemann til Madrid og i 1953 til Norges ambassade i Roma, der han fra 1956 hadde rang av ambassadør. Andersen ble i 1958 Norges ambassadør i København. I årene 1963 til 1967 var han ambassadør i Paris.
Andersen ble i 1936 gift med Margit Trolle fra Danmark. Deres sønn, Rolf Trolle Andersen, er diplomat og har vært hoffsjef ved Det kongelige hoff i Oslo.
