Petersen, vilken blev nästan hundra år, beskrevs redan 1941 av sin kollega Otto Lington (i dennes bok Jazz skal der til) som "en fast institution i dansk Musikliv". Enligt Lington började Petersen sin karriär som professionell musiker redan då han vid tretton års ålder blev "piberdreng" vid Den Kongelige Livgarde. Efter tre år som sådan for han 1910 till USA där han spelade i olika biograforkestrar i New York, bland annat på Strand Theatre på Broadway. Han återvände till Danmark 1918 och bedrev formella studier vid konservatoriet i Köpenhamn. Parallellt blev han konsertmästare i Carl Johan Meinungs orkester på den fashionabla restaurang Wivex på Tivoli i Köpenhamn.
I början av 1920-talet bildade Petersen en egen orkester vilken fick engagemang i bland annat Århus och Ålborg. 1927 återkom han till Köpenhamn och fick arbete vid "Marmorhaven" på hotell Palace, en plats han behöll i tre år. 1931 återvände han så till Wivex för ett engagemang som varade ända till 1946 (då restaurangen förstördes i en brand) och definitivt gjorde honom till ett känt namn. Han medverkade också flitigt i radio och på grammofonskiva (runt tusen inspelningar) samt turnerade, bland annat i Sverige.
1948 blev Petersen ledare för Danmarks Radios underhållningsorkester.[1]
Petersen ligger begraven på Holmens kyrkogård på Østerbro
