O seu pai, Louis, tinha uma orquestra, e o seu irmão Lyon era um músico muito apreciado. Quando o seu irmão conseguiu um lugar no Conservatório de Paris para estudar violino, a família inteira se mudou para lá. Era aí que Émile passaria o resto da sua vida.
Waldteufel estudou piano no Conservatório de Paris de 1853 a 1857. Entre os seus pupilos estavam alguns como Jules Massenet, o famoso compositor de ópera. Durante este tempo, a orquestra de seu pai converteu-se numa das mais famosas de Paris, e ele era frequentemente convidado para tocar em eventos importantes.
Com 28 anos, Émile chegou a ser pianista da corte da Imperatriz Eugénia. Depois da Guerra Franco-Prussiana ter dissolvido o Império francês, a orquestra começou a tocar nos corredores presidenciais do Palácio do Eliseu; nesta época apenas alguns membros da alta sociedade francesa conheciam Émile Waldteufel.
Em outubro de 1874 Waldteufel tocou num evento que foi assistido pelo Príncipe de Gales, o futuro rei Eduardo VII do Reino Unido. O príncipe ficou encantado pela valsa "de Manolo" de Waldteufel, e isso bastou para que a música de Waldteufel passasse a ser conhecida no Reino Unido.
Em 1915 Émile Waldteufel morreu com 77 anos em Paris. A sua esposa Célestine Dufau, cantora, tinha morrido no ano anterior. Eles tiveram dois filhos e uma filha.
