L'Union soviétique a participé pour la première fois aux Jeux olympiques en 1952 et a participé à 18 éditions des Jeux depuis lors. À six de ses neuf apparitions aux Jeux olympiques d'été, l'équipe d'URSS s'est classée première au classement des médailles et deuxième lors des 3 autres éditions. Aux Jeux olympiques d'hiver, l'Union soviétique a aussi remporté sept fois le classement des médailles et a terminé deuxième les deux autres fois.
Les Jeux d'été de 1952 à Helsinki ont été les premiers Jeux à accueillir des athlètes soviétiques. Le , la première médaille d'or olympique de l'histoire du sport soviétique a été remporté par Nina Romashkova au lancer du disque. Le meilleur lancer de Romashkova (51,42 m) était le nouveau record olympique.
En 1992, douze des quinze républiques d'ex-URSS ont participé ensemble en tant qu'équipe unifiée aux Jeux d'été de Barcelone. À cette occasion, les athlètes ont défilé sous la bannière olympique, terminant premier au classement des médailles. La même année, l'équipe unifiée (représentée par des athlètes de sept républiques) avait également participé aux Jeux d'hiver d'Albertville, terminant deuxième au classement des médailles.
Comité international olympique
Le comité national olympique d'URSS a été fondé le et a été reconnu par le CIO lors de sa 45e session le . La même année, lorsque le représentant soviétique, Constantin Andrianov, est devenu membre du CIO, l'URSS a officiellement rejoint le Mouvement olympique.
Bien que l'URSS cessa d'exister le , le comité olympique d'URSS a formellement existé jusqu'au , quand il fut dissous.