Cominciò la propria carriera professionistica nel 2007 presso la formazione portoghese del Benfica, squadra con licenza UCI Continental.[1] Nello stesso anno partecipò al Giro delle Regioni, corsa italiana riservata alla categoria Under-23, ottenendo il primo posto nella classifica generale.
Nel 2008 partecipò nuovamente al Giro delle Regioni, aggiudicandosi la sua prima vittoria di tappa in questa manifestazione, oltre al secondo posto nella classifica generale. Anche alla Coupe des Nations Ville de Saguenay, in Canada – anch'essa gara della Coppa delle Nazioni U23 UCI – ottenne una vittoria di tappa ed il secondo posto nella generale; si piazzò quindi secondo pure al Tour de l'Avenir, una delle corse a tappe di maggior rilievo nel calendario Under-23.
Nel maggio 2009, dopo essere approdato alla nuova formazione, partecipò alla Quatre Jours de Dunkerque facendo sue sia la classifica generale, sia la classifica dei giovani.[2] Concluse secondo al Campionato nazionale portoghese in linea, poi in luglio fu per la prima volta al via in un Grande Giro, il Tour de France, che però non portò a termine (non partito nella dodicesima tappa). In ottobre, infine, ottenne un successo di tappa ed il terzo posto nella graduatoria generale alla Vuelta a Chihuahua.[3]
All'inizio della stagione 2010 vinse il Trofeo Deià, prova del Challenge de Mallorca (in quell'occasione batté in volata il compagno di squadra Joan Horrach) e si classificò sesto alla Volta ao Algarve. Fu poi secondo alla Quatre Jours de Dunkerque – sua pure la maglia bianca di miglior giovane – mentre in giugno conquistò l'ottava tappa del Tour de Suisse, imponendosi in solitaria dopo essere stato parte di una fuga composta da nove corridori.[4]
Ai campionati portoghesi ottenne la vittoria nella prova a cronometro, poi prese parte al Tour de France: qui concluse al 73º posto, tuttavia si mise in evidenza con due fughe durante la dodicesima e la sedicesima tappa, entrambe frazioni di montagna.[5]
Nel mese di ottobre lui e suo fratello Mario furono trovati positivi alla dimetilamilamina in un test antidoping svoltosi nel corso del campionato nazionale a cronometro.[6] Inizialmente si ipotizzava una squalifica, ma l'Agenzia mondiale anti-doping decise che la sostanza scoperta poteva essere assunta in piccole quantità, restituendo ai fratelli il permesso di partecipare a competizioni agonistiche.[7]
2011-2013: Movistar
Dopo essersi ritrovato senza squadra[8] per alcuni mesi, nel marzo 2011 Rui Costa poté firmare un nuovo contratto di tre anni con il sodalizio di Unzué, divenuto, per motivi di sponsorizzazione, Movistar Team.[9][10]
Il 2012 è un altro anno positivo, Rui Costa vince il Giro di Svizzera, importante corsa di preparazione al Tour de France. Nel 2013 coglie il primo successo il 7 aprile, al Gran Premio Primavera, corso in Spagna. Bissa in seguito il successo dell'anno precedente in suolo elvetico, impreziosendo il secondo trionfo al Giro di Svizzera con la conquista di due tappe. Dà poi ottima prova di sé anche al Tour de France subito seguente, dove si impone in due frazioni con azioni da lontano, e consacra successivamente la sua grande annata conquistando, il 29 settembre 2013, la medaglia d'oro nella prova in linea ai campionati del mondo di Firenze, regolando in volata gli spagnoli Joaquim Rodríguez e Alejandro Valverde.
Dal 2014: Lampre-Merida/UAE Emirates
Dopo aver già firmato nell'agosto 2013, nella stagione 2014 fa il debutto con la sua nuova squadra, l'italiana Lampre-Merida.[13] In febbraio si piazza terzo e vince la classifica a punti della Volta ao Algarve, in marzo è secondo per soli 14" alla Parigi-Nizza e in maggio terzo al Giro di Romandia, mentre in giugno vince per la terza volta consecutiva il Giro di Svizzera, record per la competizione, grazie al successo nell'ultima decisiva tappa a Saas-Fee.[14] Chiude l'annata con il terzo posto al Giro di Lombardia e il quarto al Tour of Beijing.
Dal gennaio 2017 Lampre e Merida abbandonano la sponsorizzazione del gruppo gestito da Saronni, che diventa quindi UAE Abu Dhabi, e poi UAE Team Emirates, grazie al sostegno di sponsor dagli Emirati Arabi Uniti. Rui Costa esordisce con la nuova maglia in gennaio, alla Vuelta a San Juan, vincendo la tappa regina, con arrivo in salita di Alto Colorado, e concludendo al quinto posto nella generale. Successivamente si piazza secondo al Tour of Oman, alle spalle di Ben Hermans, e vince la classifica finale dell'Abu Dhabi Tour, la "corsa di casa" della sua squadra, imponendosi nell'arrivo in salita di Jebel Hafeet davanti a Il'nur Zakarin.[15]
^(ES) Rui Costa, su movistarteam.com, www.movistarteam.com. URL consultato il 17 luglio 2011.
^Le palmares des 4 jours, su 4joursdedunkerque.org, www.4joursdedunkerque.org. URL consultato il 16 luglio 2011 (archiviato dall'url originale il 20 agosto 2011).