Walter jurmann studerte først medisin, men hadde en sterk musikkinteresse. Han avbrøt studiene og begynte som yrkesmusiker, først som barpianist. Hans talent gjorde inntrykk på tekstforfatteren Fritz Rotter som tilbød et samarbeid i Berlin. Allerede deres første slager, som ble framført av Richard Tauber ble en stor suksess. Jurmann ble spådd en lysende framtid av Richard Strauss og Emmerich Kálmán.
På grunn av stort arbeidspress begynte Jurmann et samarbeide med den polske komponisten Bronislav Kaper som arrangerte melodiene hans.
Etter at nazistene kom til makten i 1933 emigrerte Walter Jurmann til Paris, hvor han blant annet lagde musikk til En mann bortført av Max Ophüls og Tout pour l'amour av Henri-Georges Clouzot og Joe May. I 1934 fikk han tilbud om en stilling i Hollywood. Der skrev han musikk til flere filmer, fortsatt i samarbeid med Bronislav Kaper.
Noen av Walter Jurmanns mest kjente arbeider fra Hollywood er musikken til filmen «Mytteriet på Bounty» og sangen «San Francisco» fra filmen av samme navn som Judy Garland senere pleide å avslutte sine konserter med.
