Rocheman entstammte einer Musikerfamilie; sein Großvater mütterlicherseits war Flötist, sein Vater, der Gitarrist und Schauspieler Lionel Rocheman gründete im American Center in Paris ein Hootenanny, wo sie Musiker aus der ganzen Welt trafen. Rocheman erhielt bereits im Alter von sechs Jahren auf und nahm zwölfjährig auf Einladung von Bob Vatel an Jamsessions in Paris teil.
1980 ging er nach New York, wo er Tommy Flanagan und Jaki Byard kennenlernte. Im gleichen Jahr brachte ihn Vatel mit Martial Solal zusammen, und er wurde dessen einziger Schüler. Seit 1983 arbeitete er in Paris mit einem Trio; 1994 trat er beim Jazzfestival von Paris im Duo mit Solal auf.
1989 wurde er bester französischer Pianist bei der Martial Solal Jazz Piano International Competition. Seine erste CD Trio Urbain wurde von der Académie du Jazz 1991 als beste CD des Jahres ausgezeichnet, sein zweites Album White Keys erhielt im Folgejahr den Django d’Or (Frankreich). 1998 zeichnete ihn die Académie du Jazz mit dem Prix Django Reinhardt als besten Musiker des Jahres aus. Zwischen 1995 und 2002 wurde er von der Fondation BNP Paribas gefördert.
