Los Angeles Kings varasi Murphyn NHL:ään numerolla 4 vuoden 1980 varaustilaisuuden ensimmäisellä kierroksella. Ensimmäisellä NHL-kaudellaan, 1980–81, Murphy teki kaksi liigaennätystä: hän on eniten pisteitä tulokaskaudellaan tehnyt puolustaja (76) ja eniten syöttöpisteitä tulokkaana tehnyt puolustaja (60). Ennätykset ovat edelleen voimassa.
Lopetettuaan uransa Detroitissa kauden 2000–2001 päätyttyä, Murphy oli pelannut NHL-urallaan 1615 runkosarjaottelua, mikä oli puolustajien ennätys. Kaudella 2003–2004 Scott Stevens rikkoi ennätyksen, ja nykyään ennätystä pitää hallussaan Chris Chelios. Murphy ja Stevens olivat seuratovereita Capitalsissa vuosina 1983–1989.
Hän voitti 1990-luvulla neljä Stanley Cupin mestaruutta, ainoana pelaajana tuona vuosikymmenenä. Hän voitti mestaruuden Penguinsissa vuosina 1991 ja 1992 ja Red Wingsissä 1997 ja 1998.
NHL-mestaruuksien lisäksi hän oli vuonna 1979 Peterborough Petesissä voittamassa Memorial Cupia, Kanadan juniorijääkiekkoilun mestaruutta. Peterborough pääsi mestaruusotteluun myös seuraavalla kaudella, mutta hävisi jatkoajalla.