Rubiera werd beroepswielrenner in 1994 en reed vanaf het seizoen daarop bij Kelme. Hij brak door in 1997 tijdens de Ronde van Italië, toen hij een rit won en tiende werd in het eindklassement.
Rubiera moest het vooral van Grote Rondes hebben: zo werd hij een jaar later nog eens dertiende in de Giro en het jaar daarop zesde in de Ronde van Spanje. In 2000 won Rubiera opnieuw een Giro-rit en werd achtste in de eindstand.
Aangezien Chechu, zoals zijn bijnaam luidt, weinig won, koos hij eieren voor zijn geld en verkaste het seizoen daarop naar US Postal, waar hij in dienst ging rijden van Lance Armstrong en Roberto Heras. Zijn voornaamste resultaat sindsdien is de zevende plaats in de Vuelta van 2001.
Rubiera reed ook zes keer de Ronde van Frankrijk, waarin hij vele (klim)kilometers kopwerk verzorgde voor Armstrong. Twee negentiende plaatsen zijn zijn voornaamste resultaten in het eindklassement.
In het najaar van 2010 kondigde hij aan dat het zijn laatste seizoen als profwielrenner zou zijn.[1]