Gowen startet sin musikalske karriere med White Mule i 1970 før han ble med i bandet Assagai i 1971. Han gikk videre derfra til å grunnlegge Sunship i 1972 sammen med trommeslageren Jamie Muir (også han fra Assagai) samt bassisten Laurie Baker. Dette bandet inkluderte også saksofonisten Lyn Dobson og Allan Holdsworth på gitar. Etter dette grunnla Gowen bandet Gilgamesh i 1973 hvor han startet å samarbeide med Hatfield and the North, noe som igjen ledet til oppstarten av National Health, med Hatfield and the Norths Dave Stewart i 1975. Gowen forlot for øvrig National Health to år senere i 1977.
I 1978 grunnla Gowan bandet Soft Heap sammen med saksofonisten Elton Dean, bassisten Hugh Hopper og trommeslageren Pip Pyle. Sistnevnte ble her erstattet av Dave Sheen, og dette bandet turnerte sommeren 1978 under navnet Soft Head. I samme år spilte Gowan også inn et studioalbum med Gilgamesh. Alan Gowen ble igjen medlem av National Health i 1979 samtidig som han også fortsatte å arbeide med Soft Heap i samme periode.
Utgivelsen Before a Word is Said (fra 1981), innspilt sammen med bassisten og vokalisten Richard Sinclair (fra Caravan, Hatfield and the North og Gilgamesh), gitaristen Phil Miller (fra National Health) og trommeslageren Trevor Tomkins (fra Gilgamesh), ble den siste utgivelsen Gowen spilte inn før han døde av leukemi den 17. mai1981.