Holland perusti maaliskuussa 1974 Squeeze-yhtyeen, jonka kosketinsoittajana hän oli vuoteen 1980. Hänen ensimmäinen soololevytyksensä on vuodelta 1978. 1980-luvulla hän juonsi The Tube -musiikkishow’ta Paula Yatesin kanssa.
Squeeze, joka oli hajonnut vuonna 1982 Hollandin lähdettyä, teki yllättäen paluun vuonna 1985, ja Holland toimi jälleen yhtyeen kosketinsoittajana vuoteen 1990. Hän on juontanut omaa Later... with Jools Holland -ohjelmaansa yhtämittaisesti vuodesta 1992 lähtien. Hänellä on myös vuonna 1987 perustettu oma rhythm & blues -orkesterinsa.
