La carrière de McCarthy en NFL débute en 1993 lorsqu'il est nommé assistant de la qualité offensif, poste qu'il occupe pendant deux saisons avant d'être nommé en 1995 entraîneur des quarterbacks. Il fait quatre saisons à ce poste avant de faire une saison comme entraîneur des quarterbacks chez les Packers de Green Bay, entraînant Brett Favre lors d'une saison qui le verra réaliser une de ses meilleures. Après la saison 1999, les Packers font un coup de balai et limogent l'ensemble du personnel d'entraîneurs. Il devient en 2000 coordinateur offensif des Saints de la Nouvelle-Orléans et est nommé lors de sa première saison entraîneur assistant de l'année à la NFL par le quotidien USA Today.
En 2005, Mike McCarthy devient coordinateur offensif des 49ers de San Francisco, mais c'est une mauvaise saison, marquée par les blessures de piliers de l'équipe qui est portée par le jeune Alex Smith et San Francisco termine dernier de la saison en points et en yards.
Entraîneur principal
McCarthy devient entraîneur principal des Packers le en acceptant une offre d'une durée de trois ans de Ted Thompson, le manager général des Packers de Green Bay. Pour sa première saison à la tête de l'équipe, les Packers se retrouvent avec 4 victoires et 8 défaites après le douzième match, mais l'équipe remporte ses quatre derniers matchs et termine la saison avec un bilan équilibré. Cependant, Green Bay rate les rencontres éliminatoires pour la deuxième année consécutive. En 2007, McCarthy se classe parmi les grands entraîneurs comme Vince Lombardi pour ses premières saisons. Il fait un bilan de 13 victoires et 3 défaites, atteignant le championnat NFC, mais échoue au trophée de l'entraîneur de l'année par l'Associated Press, Bill Belichick des Patriots de la Nouvelle-Angleterre étant préféré.
En 2008, il est au centre d'une polémique après le retour à la compétition de Brett Favre, mais McCarthy et Thompson préfèrent mettre Aaron Rodgers au poste de titulaire et Favre est échangé aux Jets de New York contre une sélection de quatrième tour de la draft de 2009. La saison 2008 voit Rodgers faire une très bonne saison, mais les Packers finissent la saison à 6 victoires et 10 défaites et ne se qualifient pas pour la phase éliminatoires, mais gagne le dernier match du calendrier contre les Lions de Détroit, qui devient avec cette défaite la première équipe de l'histoire de la NFL à afficher un bilan d'aucune victoire en 16 rencontres de saison régulière. En 2009, il affiche avec Green Bay une fiche de 11 victoires et 5 défaites et se qualifie pour la phase finale, mais les Packers perdent lors du tour préliminaire contre les Cardinals de l'Arizona.
Le , Mike McCarthy signe une prolongation de contrat de trois ans.
Le , les Packers perdent 17-20 contre les Cardinals de l'Arizona, une équipe avec un maigre bilan de 2 victoires en 11 rencontres. McCarthy est limogé et remplacé à titre intérimaire par Joe Philbin[1].