Dopo essersi classificato secondo dietro a Capablanca nel 1938 in un torneo a Parigi, vinse il Campionato francese nel 1948. Vinse otto volte il campionato di Parigi e pareggiò due partite (nel 1948 e 1949) con Xavier Tartakower. Ottenne il titolo di Grande maestro nel 1953.
Nel 1953 si trasferì negli Stati Uniti, dove viveva suo padre.
All'inizio si adattò a fare i più svariati lavori, tra cui il fattorino d'albergo, il tassista, il suonatore di fisarmonica e il cantante.
In seguito aprì un locale nel Greenwich Village di Manhattan, il "Rossolimo's", dove si servivano cibi e bevande e si poteva giocare a scacchi.
Egli stesso era disponibile a giocare con gli avventori dietro compenso.
Rossolimo partecipò a cinque olimpiadi degli scacchi dal 1950 al 1972, due volte con la Francia e tre con gli Stati Uniti. Vinse un argento e un bronzo individuali e due argenti di squadra.
Un'importante variante della difesa Siciliana porta il suo nome: 1. e4 c5 2. Cf3 Cc6 3. Ab5 (vedi diagramma a destra)
Permette al bianco di impostare la partita in modo più posizionale rispetto alla immediata spinta in d4, evitando anche di dover conoscere una grande quantità di teoria. Le principali continuazioni del nero sono 3. ...g6, 3. ...d6, 3. ...e6.
Morì a 65 anni a New York in seguito ad una caduta da una rampa di scale.