Avant que Radiohead n'existe, il jouait de la basse dans un groupe punk nommé T.N.T, dont faisait également partie Thom Yorke. À la séparation de celui-ci, Colin fonda avec son ami Thom Yorke le groupe On A Friday qui, plus tard, devint Radiohead. À la différence d'autres membres du groupe, il n'a entamé aucun projet solo[2]. Il accompagne en revanche d'autres artistes, notamment le chanteur belge Tamino.