Geils voks opp i New York City og vart interessert i jazz og blues. Etter å ha flytta til Massachusetts for å studere, skipa han The J. Geils Blues Band medan han framleis gjekk på Worcester Polytechnic Institute. Etter å ha fjerna ordet «Blues» frå namnet sitt, gav bandet ut debutplata si i 1970, og spelte soul- og rhythm and blues-påverka rock gjennom det meste av 1970-åra, før dei vart meir pop i 1980-åra. Etter at bandet vart oppløyst i 1985, slutta Geils å spele fast og byrja med restaurering av bilar han deltok i billøp med, men dreiv stundom med musikkproduksjon. Han fortsette å spele sporadiske turnear med resten av bandet i 2000- og 2010-åra. Geils døydde av naturlege årsaker den 11. april 2017, 71 å gammal, i heimen sin i Groton i Massachusetts.
