Ellis nació en Ballarat, Victoria, Australia.[5] Ganó una beca de acceso a un instituto privado.[6] Aprendió a tocar el violín clásico y la flauta en una escuela en Ballarat. Más tarde fue a la universidad en Melbourne, donde estudió violín clásico. Después trabajó brevemente como profesor en Victoria. En enero de 1988 viajó a Europa, donde tocó como músico callejero en Grecia, Hungría, Escocia e Irlanda. Un año más tarde regresó a Australia.[5][7] A su regreso escribió música para agrupaciones teatrales y actuó en inauguraciones de arte y obras teatrales en Melbourne. A principios de los años noventa comenzó a tocar en agrupaciones musicales.[2][8]
En 1995, Ellis fue invitado a tocar en una grabación con Nick Cave and the Bad Seeds; permaneció y continúa hoy en día en la agrupación. También con Grinderman, subgrupo surgido de the Bad Seeds, que cuenta ya con dos álbumes.[2]
En 2002, Ellis publicó untrabajo en solitario con la discográfica King Crab llamado Three Pieces for Violin. Desde 2005 ha colaborado en varios discos de Marianne Faithfull, y colaboracioones exclusivas con Nick Cave; entre los dos compusieron la galardonada banda sonora de la película The Proposition, volviendo a colaborar en la banda sonora de la película The Assassination of Jesse James by the Coward Robert Ford, The Road y Far from Men.
En 2009, Nick Cave & Warren Ellis publicaron White Lunar, un álbum que incluye varias bandas sonoras.
Ellis vive en París desde 1998 con su mujer francesa y sus dos niños.[9][2]