Auf das Bestreben von Pitrelli hin, der zu dieser Zeit Produzent von Alice Cooper war, wurde Sherinian 1989 in dessen Band vermittelt. Aus dieser Zusammenarbeit gingen mehr als 250 Konzerte für den Millionenseller Trash hervor, später wurde er für zwei neue Studioalben eingespannt und behauptete sich daneben als Live- und Studio-Musiker bei der Band KISS.
1994 fand er Anschluss bei der Progressive-Metal-Band Dream Theater. Hier war er an drei Alben (davon lediglich ein reguläres Studioalbum: „Falling into Infinity“, 1997, Eastwest Records) und zwei umfangreichen Welttourneen beteiligt und konnte sich dabei vor allem durch sein Spiel auf der Hammond-Orgel beweisen. 1999 erfolgt die Trennung, nachdem die Band in Jordan Rudess einen Nachfolger gefunden hatte, dessen musikalischen Vorstellungen für die weitere Entwicklung von Dream Theater sich mehr mit denen der übrigen Mitglieder deckten.
Ab 2000 veröffentlichte Sherinian sieben Soloalben unter Mitwirkung einer Reihe von hochrangigen Rockmusikern, darunter etwa Yngwie Malmsteen, Zakk Wylde, Steve Lukather, Simon Phillips, Slash, Billy Idol, John Petrucci und Tony Franklin. Zur Single-Auskopplung In the Summertime mit Sherinian, Slash, Billy Idol, Franklin und Brian Tichy, einer Coverversion des gleichnamigen Stücks von Mungo Jerry, wurde ein Musikvideo produziert.
Bereits 2005 hatte Sherinian mit Billy Idol für dessen Comeback-Album Devil’s Playground zusammengearbeitet, 2006 produzierten die beiden dann ein Album mit Weihnachtsliedern, das den Titel Happy Holidays erhielt. Für Idols bisher letzte Veröffentlichung, das Best-of-Album Idolize Yourself, schrieb Sherinian zusammen mit Brian Tichy und Idol den Song John Wayne, außerdem spielte er Keyboards für den Titel New Future Weapon. Beide wurden als Bonustracks auf dem Album veröffentlicht.
Aus seinem Debütalbum Planet X, das er mit dem australischen Schlagzeuger Virgil Donati aufgenommen hatte, ging eine Progressive-Fusion-Band gleichen Namens hervor, an der außerdem der Gitarrist Tony MacAlpine beteiligt war, der jedoch inzwischen ausgestiegen ist. Das aktuelle Album „Quantum“ nennt nur Sherinian und Donati als feste Mitglieder.
2010 schloss sich Sherinian mit Glenn Hughes, Jason Bonham und Joe Bonamassa zur Gruppe Black Country Communion zusammen; das gemeinsam produzierte Album Black Country Communion erschien am 16. September 2010. Bereits im August 2010 hatten die Mitglieder der Gruppe mit dem Songwriting für das Nachfolgealbum begonnen, das sie im Januar und Februar 2011 aufnahmen. Es trägt den Titel 2 und erschien am 10. Juni 2011. Das dritte Studioalbum Afterglow sowie eine Live-CD erschienen 2012. Nach einer Unterbrechung, da Joe Bonamassa die Band verließ, folgte 2017 die Reunion von Black Country Communion mit dem vierten Studioalbum BCCIV. 2024 folgte ein weiteres Album mit dem Titel V.[1]
Ein neues Projekt mit dem Namen Sons of Apollo entstand 2017 unter anderem mit dem ehemaligen Dream-Theater-Bandkollegen Mike Portnoy. Mit dem Album Psychotic Symphony waren sie international erfolgreich.
Sherinian ist Betreiber eines Musikstudios namens Leopard Room in Hollywood Hills.
2021: Immortal – Michael Schenker Group/MSG. Auf diesem Album von Michael Schenker spielt Sherinian lediglich im Lied Drilled to Kill als Gastmusiker die Keyboards.