Berube a été nommé entraîneur-chef des Phantoms de Philadelphie, le club-école des Flyers, au début de la saison 2006-2007. Cependant, le , il fut promu dans l'équipe d'entraîneurs des Flyers à la suite de la réorganisation de la franchise. En effet, la veille Bobby Clarke démissionna de son poste de directeur général et l'entraîneur-chef Ken Hitchcock fut relevé de ses fonctions. John Stevens, ancien assistant de Hitchcock prit sa place et Berube devint entraîneur assistant de Stevens.
Pour la saison 2007–2008 retourna à son poste d'entraîneur-chef des Phantoms qu'il mena vers une saison de 46 victoires pour 27 défaites et 7 défaites en prolongation.
La saison 2008-2009 le voit revenir au poste d'entraîneur-adjoint des Flyers[1]. Le , après seulement trois rencontres de disputées en saison régulière, les Flyers congédient l'entraîneur Peter Laviolette et nomment Berube en remplacement de ce dernier[2]. Il est congédié par le Directeur Général des Flyers Ron Hextall le .
Il est embauché à titre d'entraîneur-adjoint des Blues de Saint-Louis le . Après le congédiement de l'entraîneur-chef Mike Yeo, Berube devient entraîneur-chef par intérim des Blues le . Après un début de saison difficile, les Blues se qualifient pour les Séries éliminatoires et remportent la Coupe Stanley en 2019. Il demeure à son poste jusqu'à son congédiement le [3].
