Il commence sa carrière discographique en 1979 en jouant de la batterie sur l'album Cut de The Slits. Il devient ensuite le batteur de Siouxsie and the Banshees, et en reste membre à part entière jusqu'en 1996, enregistrant avec eux neuf albums studio.
Parallèlement à cela, il co-fonde en 1981 avec la chanteuse Siouxsie un autre groupe : The Creatures avec qui il enregistre quatre albums studio entre 1983 et 2003..
En 1998, il est le batteur de l'ex-Velvet Underground, John Cale lors d'une tournée américaine estivale où il joue deux sets chaque soir : l'un avec Cale et l'autre avec les Creatures[3].
Budgie a aussi effectué d'autres collaborations. Il participe en 1992 à l'enregistrement du cd Rites of Passage des Indigo Girls et en 2009, il tourne avec le collectif Juno Reactor. Cette année-là, il enregistre l'album Is It Fire? de la chanteuse Jessie Evans.
En 2022, il anime chaque semaine avec Lol TolhurstCurious Creatures, un podast gratuit disponible sur des plateformes comme Google. Chaque épisode a un invité différent autour de Budgie et Tolhurst[4].
Budgie et Tolhurst dévoilent dès 2020 un projet musical commun avec le producteur Jacknife Lee sous le nom de LXB[6]. C'est finalement sous le nom de "Lol Tolhurst x Budgie x Jacknife Lee" que le trio sort en juillet 2023 sa première réalisation, un single intitulé Los Angeles, annonciateur d'un album sorti en novembre sur le label Play It Again Sam. Plusieurs invités ont participé à son enregistrement, parmi lesquels figurent James Murphy, The Edge et Bobby Gillespie[7].
↑voir cette vidéo montrant un aperçu de cette tournée de 1998 où Budgie jouait avec John Cale et Siouxsie, reprenant en rappel un morceau du Velvet Underground. "Venus In Furs"
