Il devint entraîneur dans un petit club de Galway avant d'être engagé comme technicien pour le développement du rugby par la Irish Rugby Football Union. Il assume cette mission technique tout en entraînant Blackrock College(en), (d'abord comme entraîneur adjoint, ensuite comme entraîneur principal de l'équipe) Connacht et l'Équipe d'Irlande de rugby à XV des moins de 21 ans. Cette dernière gagne en 1996 la triple couronne, l'emportant sur l'Angleterre de Clive Woodward.
L'Irlande obtient encore la deuxième place lors du Tournoi 2004 perdant le grand chelem contre la France cette fois.
C'est la favorite du Tournoi 2005 et l'équipe d'O'Sullivan glisse à la 3e place avec des défaites contre le Pays de Galles. En 2006 un mauvais début de match contre la France coûte à Eddie O'Sullivan son premier tournoi et son premier Grand Chelem.
Connu pour son style décontracté, O'Sullivan présente un bilan de trois triples couronnes et une Coupe du monde de rugby 2003 honorable. Cependant des commentateurs de rugby à XV critiquent ces résultats, car il a eu une des plus brillantes lignes arrières au monde à sa disposition sans aucune victoire finale.
L'Irlande obtient encore la deuxième place lors du Tournoi 2007 perdant le Grand Chelem contre la France. Après 2006, elle obtient une nouvelle fois une Triple Couronne.
L'Irlande entame la Coupe du monde de rugby 2007 avec des ambitions[1]. Elle occupe l'une des six premières places du classement mondial. Le , les Irlandais battent la Namibie 32-17[2], sans convaincre. Ils battent par la suite la Géorgie 14-10[3], avant de perdre leurs illusions contre la France[4] et l'Argentine[5] pour finir 3e de la poule D et éliminés.
De début 2009 jusqu'en 2011, il entraîne l'équipe de rugby des États-Unis avec pour objectif la coupe du monde 2011.
En 2014, O'Sullivan rejoint le Biarritz olympique en tant qu'entraîneur principal à la suite de la relégation du club en Pro D2. En septembre 2015, il est démis de ses fonctions à la suite de mauvais résultats. Il rompt finalement son contrat avec le club à l'amiable quelques semaines plus tard.
