Kada je bio dečak Rui je došao na probu u Benfiku, i samo deset minuta treninga je bilo potrebno portugalskoj legendi Euzebiju da uoči nesvakidašnji talenat. Sve do 1990. igrao je za mlađe kategorije Banfike. Zatim je celu sezonu bio poslat na kaljenje u Fafe.
1991. nakon osvajanja Svetkog prvenstva za mlade sa selekcijom Portugala, vraća se u Benfiku. U kojoj je imao odlične 3 sezone u kojoj osvaja Portugalski kup 1993, i Prvu ligu 1993/94.
Fiorentina
Posle treće sezone provedene u Benfici, Fiorentina nudi oko 6 miliona € za mladog veznjaka, što je za to vreme bilo pozamašna suma novca. Pošto je Benfika bila u finansijskim problemima, Rui prelazi na Apenine.
Igrajući za Fiorentinu postao je jedan od najboljih igrača sredine terena u Seriji A, i svake godine je dovođen u vezu sa drugim klubovima, ali Artemio Franki napušta tek u sezoni 2001/02. nakon bankrota Fiorentine.
Na kraju sezone 2005/2006, Rui se vraća u Benfiku, klub u kome je ponikao sa namerom da u njemu završi karijeru. 11. maja 2008. je odigrao svoju poslednju utakmicu pre nego što je obelodaio da se povlači iz aktivnog igranja fudbala.
Nakon povlačenja, Rui Kosta je dobio mesto mesto sportskog direktora kluba i tu ulogu do dan danas sa uspehom obavlja.
Reprezentacija
Rui Kosta je bio član vema uspešne Portugalske reprezentacije s kraja 20-og i početkom 21-veka. Učestvovao je u prolasku Portugalaca do četvrtfinala EURA 1996, polufinala EURA 2000. i finala EURA 2004. gde je dao značajan doprinos, ali ni on nije uspeo da pomogne Portugalu da se popne na Evropski tron.
Za vreme svoje reprezentativne karijere Rui je uspeo da sakupi 94 nastupa i postigne 26 golova.
