Madden begann seine Trainerkarriere bei verschiedenen Collegemannschaften. Zuletzt war er als Assistenztrainer für die Defense der Mannschaft der San Diego State University mitverantwortlich. Madden wurde 1967 von den Oakland Raiders als Assistenztrainer (verantwortlich für die Linebacker) angeheuert. Als deren damaliger Trainer John Rauch 1969 das Team verließ und zu den Buffalo Bills ging, wurde John Madden zum Head Coach befördert, eine Position, die er bis 1978 ausübte. Sein größter Erfolg als Trainer war 1977, als er die Oakland Raiders zum Gewinn des Super Bowls führte. Seine Erfolgsbilanz zählt 103 Siege bei 32 Niederlagen und sieben Unentschieden.
Karriere als Kommentator
Als Kommentator arbeitete Madden von 1980 bis 2009.[3][4] Mehr als 20 Jahre stand ihm dabei Pat Summerall zur Seite. Das letzte gemeinsam kommentierte Spiel war der Super Bowl XXXVII.