Urodził się w Budapeszcie, w rodzinie żydowskiej[4]. Ukończył studia muzyczne na budapeszteńskiej Akademii Muzycznej. W wieku jedenastu lat zdał egzamin z gry na skrzypcach u Jenő Hubaya. Po wielu występach koncertowych, w wieku siedemnastu lat został wykładowcą na wspomnianej akademii.
W 1921 wyemigrował do Stanów Zjednoczonych i przybrał nazwisko Eugene Ormandy, nawiązujące do nazwy statku pasażerskiego „Normandie”, na którym przybył do nowej ojczyzny. W Nowym Jorku podjął pracę skrzypka, potem dyrygenta orkiestry, która w kinoteatrze „Capitol” grała podczas projekcji niemych filmów. W 1927 roku otrzymał amerykańskie obywatelstwo[1].
W latach 1931–1936 był dyrygentem Minneapolis Symphony Orchestra. W 1936 został asystentem dyrektora muzycznego Orkiestry Filadelfijskiej, a w latach 1938–1980 – samodzielnym dyrektorem muzycznym i pierwszym dyrygentem tej orkiestry.