Een leraar op de lagere school ontdekte dat Jordan Rudess aanleg had voor het toetsenspel. Door diens toedoen kwam er een piano in huize Rudess en ging hij les nemen. Rudess was nog maar negen jaar toen hij werd toegelaten op de prestigieuze Juilliard School of Music, waar hij iedere zaterdag pianoles kreeg. Hier werd hij opgevoed met Bach, Debussy, Beethoven en Chopin. Op zijn achttiende wekten The Beatles zijn aandacht voor de popmuziek en al snel raakte hij in de ban van de progressieve rock en de synthesizer.
Na eerst gespeeld te hebben bij een coverband trad hij toe tot de rockband Speedway Blvd in New York. Rudess werkte mee aan het eerste album dat in 1980 uitkwam.
Tegenwoordig is Rudess een opnameartiest, componist, producent en uitvoerder. Na de verschijning van zijn soloalbum Listen werd hij in 1994 door de lezers van Keyboard Magazine verkozen tot beste nieuwe talent. Rudess is sinds 1998 lid van de progmetalband Dream Theater.
Rudess vormde een tweeledig "powerduo" met Dregsdrummer Rod Morgenstein nadat hij hen vergezelde bij de Dixie Dregs. Het Rudess Morgenstein Project is een krachtig progressief rockduo van keyboard en drums. De cd is wereldwijd gepubliceerd door Domo Records.
Rudess heeft in 2002 met David Bowie gewerkt. Hij heeft keyboardpartijen opgenomen voor Bowies album Heathen.
De draaiende keyboardstandaarden van Jordan Rudess worden sinds 2001 (voor het begin van de "World Tourbulence") ontworpen en gebouwd door Patrick Slaats uit Nederweert, Nederland, waarbij "The Hand Stand" een samenwerking is geweest met Eric Laxman uit New York.
Pull Me Under · Another Day · The Silent Man · Lie · A Change of Seasons · Hollow Years · Through Her Eyes · As I Am · Panic Attack · Constant Motion · Wither