Dans les années 1960, il est membre du groupe New Blues basé à Milwaukee. Le groupe déménage ensuite dans la région de la baie de San Francisco et change son nom en A.B. Skhy[3].
Pendant plusieurs mois en 1970, Howard Wales dirige les jam sessions jazz-rock au Matrix, un club de San Francisco. Jerry Garcia joue généralement de la guitare lors de ces performances improvisées[1]. Les deux sont souvent rejoints par John Kahn à la basse et Bill Vitt à la batterie. Un album studio appelé Hooteroll?, avec ces musiciens et quelques autres, et comportant des morceaux principalement composés par Wales, est publié en 1971[4]. Un album live enregistré lors des jam sessions de Matrix, Side Trips, Volume One, sort en 1998[1].
Wales participe ensuite à l'album American Beauty de Grateful Dead en 1970[1]. Il joue de l'orgue sur les chansons Truckin' et Candyman et du piano sur Brokedown Palace[3], puis les accompagne en tournée, sans toutefois parvenir à intégrer le groupe durablement[4].
Habile à accompagner des artistes de rock ou de rhythm and blues, Wales joue également du free jazz et sort plusieurs albums solo dans ce style.
