Bandet ble startet av vokalist og bassistRonnie James Dio, keyboardist Doug Thaler, trommeslagerGary Driscoll, og gitaristene Nick Pantas og David Feinstein (Dios fetter). Bandet het opprinnelig The Electric Elves, ble etterhvert forkortet til The Elves, og tilslutt Elf på midten av 1970-tallet. Etter en bilulykke som skadet Thaler og tok livet til Pantas, kom bassisten Craig Gruber og keyboardisten Mickey Lee Soule med i bandet. I 1973 sluttet Feinstein og ble erstattet av Steve Edwards. Feinstein dannet noen år senere bandet The Rods.
Bandet var oppvarmere for Deep Purple i 1974, og bandet (minus gitarist Edwards) ble hentet inn av Ritchie Blackmore for å spille inn hans første soloalbum. Dette ble etterhvert til det første albumet til bandet Rainbow, Ritchie Blackmore's Rainbow. Etter innspillingen fikk Soule, Driscoll og Gruber beskjed av Blackmore om å forlate bandet, mens Dio ble værende i Rainbow. Dermed ble Elf oppløst i 1975 etter å ha utgitt tre studioalbum.
Diskografi
Elf (1972)
Carolina County Ball (1974) (tittel i USA: L.A./59)