Paolo Rossi es va formar a les categories juvenils de la Cattolica Virtus, una petita societat toscana de la qual va formar part fins als 11 anys. El 1975 va devbutar al Como Calcio. Després va fitxar pel Vicenza Calcio, on fou el màxim golejador de la Serie B durant la temporada de 1977 i el 1978 a la Serie A. El 1980 es va veure afectat per l'escàndol d'apostes, això el va marginar del futbol durant dos anys, fet que gairebé el deixa fora de la Copa del Món de Futbol de 1982, en el qual va proclamar-se campió del món i en va ser el màxim golejador amb 6 gols, això li va permetre guanyar la Pilota d'Or al millor jugador europeu d'aquell any. Ja amb la Juventus va guanyar la Recopa el 1984 i la Copa d'Europa el 1985.
El 2004, va ser inclòs a la llista FIFA 100 dels millors futbolistes de la història, elaborada entre la FIFA i Pelé.