Harald Pedersen var sønn av skipsbyggmester Niels Pedersen og Caroline Hansen Lie. Han vokste opp i Svelvik, Drammen og Larvik. Etter å ha vært til sjøs kom han inn på Sjøkrigsskolen, hvor han utdannet seg til offiser.
I 1900 ble Pedersen ansatt som overintendant i Marinens intendantur i Horten. Han var også med i byens kommunestyre for Venstre og ble ordfører i 1911. Samme år ble han utnevnt til sjøfartsdirektør.[1] I denne stillingen deltok han som norsk representant i flere internasjonale konferanser. Etter utbruddet av første verdenskrig ble han utnevnt til formann i Statens provianteringskommisjon, som skulle sørge for Norges tilførsel av varer fra utlandet mens krigen pågikk. Kommisjonen ble i 1916 omdannet til Statens provianteringsdirektorat, hvor Pedersen fortsatte som direktør helt til 1927. I 1918 reiste han til USA for å delta i forhandlingene som ble ledet av Fridtjof Nansen for å sikre tilførselen til Norge etter at England hadde sagt opp bransjeavtalene. I 1923 ble han leder av delegasjonen som skulle forhandle om en handelsavtale med Sovjetunionen.
^ab«Fra Statsraadet idag.». Moss Avis. 17. november 1911. «I Statsraad i dag er som Sjøfartsdirektør udnævnt Kommandørkaptein i Marinens Intendantur Harald Pedersen. | Den nye Sjøfartsdirektør er født i 1861, og er nu Ordfører i Horten, hvor han ogsaa var Stortingskandidat ved sidste Valg.»