Holst var fra gården Sømnes, sørøvest for Berg i Sømna, i da Brønnøy kommune. Hans bestefar, Christian Holst, og hans far Thomas Holst, var begge gårdbrukere og tidligere ordførere i Brønnøy kommune.[3] Birger Holst utdannet seg til maskiningeniør i Berlin og ved Trondheim ingeniørhøgskole og begynte senere å arbeide som ingeniør ved LKAB i Narvik.[4]
Han meldte seg inn i Nasjonal Samling i 1933, og forble medlem til krigens slutt. I 1940 ble han organisasjonsleder for Narvik krets.[4]
Fra august 1941 var han en kort periode oppnevnt til varaordfører.[5] Fra januar 1943 til desember 1944 var han ordfører i Narvik, et verv han flere ganger prøvde å få fritak fra ved hjelp av legeerklæringer.[6][7]
Holst har senere blitt beskrevet som forholdsvis moderat i utøvelsen av sitt ordførerverv.[7] Ifølge Holst selv hadde han vært organisasjonsleder og ordfører mot sin vilje.[4] Etter krigen ble han i Hålogaland lagmannsrett dømt til 10 måneders fengsel, tap av rettigheter i 10 år og 5 400 kroner i inndragning.[4]
Holst døde i Oslo i 1972.[8]