Gass nació en Walnut Creek, California, y tiene un hermano llamado Matt. Asistió a la Escuela Secundaria “Las Lomas”, donde aprendió a tocar la flauta para la banda de marcha. Se graduó en 1978.
Formó parte de la compañía de teatro The Actor's Gang (‘La pandilla del actor’), en Los Ángeles, California. En este lugar conoció a quien sería su compañero de banda, Jack Black. Gass y Black hicieron amistad y se juntaban incluso después de que Gass renunciara a The Actor's Gang. Gass comenzó a enseñar guitarra a Jack Black y con el tiempo decidieron comenzar una banda llamada Tenacious D.[1] El grupo hizo apariciones en películas y eventos, y después tuvieron su propia serie de televisión en el canal HBO, producida por ellos mismos, llamada Tenacious D.[2]
Dada la apretada agenda de Jack Black para concentrarse enteramente en la banda (ya que su carrera como actor comenzaba a despuntar), Kyle Gass decide no depender enteramente de Tenacious D y en 2002 funda una nueva banda de rock cómico junto al actor JR Reed, llamada Trainwreck. En el grupo, Kyle se hacía llamar Klip Calhoun.[3]
En 2013, Kyle decide crear un proyecto musical en solitario, llamado Kyle Gass Band.[4]