Ende der 1960er begann Clempson seine musikalische Karriere bei der Band Bakerloo. Bei diesem Blues-Powertrio hatte Clempson die zentrale Rolle des Sängers und Gitarristen. Als Bakerloo im Vorprogramm von Colosseum spielten, wurde Jon Hiseman auf Clempson aufmerksam und holte ihn 1969 als Sänger und Gitarrist zu Colosseum. 1970 übernahm Chris Farlowe die Position des Sängers. Nach der Auflösung von Colosseum ging Clempson 1971 zu Steve Marriotts Humble Pie, wo er Peter Frampton ersetzte.
1975 gründete Clempson zusammen mit Greg Ridley und Cozy Powell das Powertrio Strange Brew, das jedoch nur zwei Monate bestand, da Clempson einen Unfall hatte. Im selben Jahr wurde er von Deep Purple als Ersatz für Ritchie Blackmore eingeladen, aber auch diese Zusammenarbeit endete nach wenigen Tagen. Zur ähnlichen Zeit half Clempson bei der Band Snafu aus. Im Januar 1976 wurde Clempson Mitglied von Steve Marriott’s All Stars, doch auch dieses Experiment war nach kurzer Zeit zu Ende, als Marriott die Small Faces wiederbelebte.
1994 gab es die Wiedervereinigung von Colosseum. Zwei Studio- und zwei Livealben sowie ausverkaufte Tourneen folgten.
Nach dem Ausstieg von Alex Conti im Frühjahr 2008 ist er festes Mitglied der Hamburg Blues Band, mit der er bereits das im November 2008 veröffentlichte Album Mad Dog Blues einspielte.
2011 war er mit Colosseum, Arthur Brown und Chris Farlowe auf Tournee.
2012 verließ er nach einem Auftritt beim Herzberg Festival die Hamburg Blues Band, um ein Solo-Projekt zu beginnen.[1]
Seit 2018 ist er Mitglied in der von Drummer Jon Hiseman gegründeten Band JCM (mit Mark Clarke b, voc) und spielte mit ihr die CD „Heroes“ ein. Im Frühjahr 2018 stellte die Band u. a. in Deutschland das neue Album vor, musste aber die Tour Ende April 2018 wegen der schweren Erkrankung von Jon Hiseman († 12. Juni 2018) abbrechen. Im Frühjahr 2019 ging JCM mit dem Schlagzeuger Ralph Salmins erneut auf Tour.
