Jones var med i The Small Faces frå 1965 til bandet vart oppløyst i 1969. Då Steve Marriott gav seg, var han med på å starte The Faces saman med dei gjenverande medlemmene frå The Small Faces samt Rod Stewart og Ron Wood frå The Jeff Beck Group. Då Stewart fekk stor suksess som soloartist medan Wood starta å spele med The Rolling Stones, vart The Faces mellombels oppløyst i 1976. To år seinare døydde trommeslagaren i The Who, Keith Moon, og Jones tok over. Han spelte med The Who fram til 1985.