Korábban a szintén Maiden-gitáros Adrian Smith-szel játszott együtt több zenekarban is, mint a Stone Free vagy az Evil Ways. Fiatalon Jimi Hendrix, Robin Trower (Procol Harum) és Santana hatására kezdett gitározni tanulni. 1976-ban csatlakozott először az Iron Maidenhez, de rövidesen kilépett, és az Urchin tagja lett, ahol ismét Adrian Smith volt a társa. Murray 1977 tavaszán tért vissza az Iron Maidenbe Steve Harris hívására, és azóta is ott játszik.
Steve Harris mellett ő az egyetlen tag, aki az Iron Maiden összes hivatalos kiadványán szerepelt, és gitárjátéka meghatározó eleme az együttes egyéni hangzásának. Legismertebb szerzeménye a Charlotte the Harlot című dal. Állandó hangszere a Fender Stratocaster, amelyből két,az ő nevével fémjelzett modell is készült (Fender Dave Murray Signature Stratocaster,Fender Dave Murray Californian Series Stratocaster), de korábban ESP és Jackson hangszereket is használt, akárcsak Gibson SG és Ibanez Destroyer gitárokat. Jelenleg a Fender Stratocasterek mellett Gibson Les Paulon, sőt 2012-től egy fekete Flying V-n is játszik időnként. A turnék szünetében Hawaii-on, Maui szigetén él feleségével, Tamarral és 1991-ben született lányával, Tashával.