Friedman startede i 1982 bandet Hawaii og i 1986 Cacophony, sammen med Jason Becker. Hans store gennembrud kom dog først da han i 1990 blev tilbudt rollen som guitarist hos Megadeth. Han indspillede fem studiealbum med bandet inden han forlod gruppen igen i 2000, og er specielt kendt for sine soloer i sange som "Five Magics" og "Tornado of Souls" – begge fra det banebrydende Rust in Peace. Han har udgivet en række soloalbum, med Megadeth-kollega Nick Menza på trommer, og i en kort periode efter bruddet med Megadeth gik han under pseudonymet "Dr A".
Friedman er voldsomt populær i Japan, han bor der til dagligt, og nærer en stor interesse for japansk kultur og sprog.