A hivatásos pályafutását a Kickers Offenbachnál kezdte az 1972–1973-as szezonban, akkor még az anyakönyvezett nevén, Dieter Kasterként játszott (az apja, Heinz Kaster többek között az FC St. Pauli labdarúgója volt). Amikor 1973-ban az 1. FC Kölnhöz igazolt, felvette a nevelőapja vezetéknevét, és a továbbiakban Dieter Müller néven szerepelt.
A Kölnnel kétszeres németkupa-győztes és egyszeres bajnok lett. Kiemelkedő teljesítmény volt az 1977. augusztus 17-ei, Werder Bremen elleni bajnokin szerzett hat gólja (a végeredmény 7–2 lett), ami a mai napig egyedülálló rekord. Nem utolsósorban e teljesítménye miatt a kölni Express újság olvasói az Évszázad kölni csatárának választották meg. Azonban mivel aznap az operatőrök sztrájkoltak, a tévében nem közvetítették Müller hat gólját.
A karrierje vége felé Franciaországba, a Girondins Bordeaux csapatába igazolt, ahol kétszeres bajnok lett. Dieter Müller pályafutása során több mint 200 első osztályú bajnoki gólt szerzett.
A válogatottban
Válogatottként elsősorban az 1976-os Európa-bajnokságon való szereplése vált emlékezetessé, mivel gólkirály lett, és a német csapat döntőbe jutásában meghatározó szerepet játszott. Jugoszlávia ellen az ellenfél 2–1-es vezetésénél csereként lépett pályára, és első válogatottsága alkalmával három gólt szerzett. Németország hosszabbítás után 4–2-re nyert.
Összesen csak 12 válogatottságig jutott, mivel nézeteltérésbe keveredett az akkori szövetségi kapitánnyal, Helmut Schönnel, ám ennek ellenére nevezték az 1978-as, argentínai világbajnokságra, mivel Schön nem mellőzhette a Bundesliga gólkirályát.