En els Jocs Olímpics d'Estiu de 1960 realitzats a Roma (Itàlia) aconseguí guanyar set medalles olímpiques en les vuit proves disputades, convertint-se en un dels grans triomfadors dels Jocs. Així doncs guanyà la medalla d'or en les proves individual, de salt sobre cavall, barres paral·leles i cavall amb arcs; la medalla de plata en la prova per equips així com en la prova d'anelles i la medalla de bronze en la prova de barra fixa. Amb l'assoliment de set medalles en uns mateixos Jocs aconseguí igualar el rècord dels tiradors nord-americans Willis Augustus Lee i Lloyd Spooner, que ho aconseguiren en l'edició de 1920 disputada a Anvers (Bèlgica).
En els Jocs Olímpics d'Estiu de 1964 realitzats a Tòquio (Japó), els seus últims Jocs Olímpics, aconseguí guanyar quatre medalles: la medalla d'or en la prova de barra fixa, la medalla de plata en les proves individual i per equips, i la medalla de bronze en la prova d'anelles, a més de finalitzar cinquè en la prova de salt sobre cavall com a resultat més destacat (guanyant així un nou diploma olímpic).