Zijn eerste titel haalde Bos als 18-jarige in 2001, toen hij bij de junioren wereldkampioen baanwielrennen op de 1 km werd. Hetzelfde jaar kwam hij al uit bij de senioren. In de leeftijdsklasse onder 23 jaar haalde hij drie Europese titels.
Zijn grote doorbraak bij de professionals kwam in 2004. Dat jaar werd hij wereldkampioen sprint bij de senioren en won hij brons op de 1km tijdrit. Hij was de eerste Nederlandse wereldkampioen sprint sinds Leijn Loevesijn in 1971. Later dat jaar deed hij mee aan de Olympische Spelen, waar hij op de sprint een zilveren medaille won. Met zijn oudere broer Jan en Teun Mulder werd hij zesde op de teamsprint. Dat jaar werd hij onderscheiden met de eerste Gerrie Knetemann Bokaal voor de meest talentvolle wielrenner onder de 23 jaar.
In 2005 werd Bos wereldkampioen op de 1000 meter tijdrit en won hij zilver op de teamsprint samen met Teun Mulder en Tim Veldt. Een jaar later werd hij in Bordeauxwereldkampioen keirin en wist hij zijn wereldtitel op het "Koningsnummer", de sprint, te heroveren. Ook in 2007 wist hij zijn wereldtitel sprint te behouden. Op de keirin werd hij tweede.
Op 16 december2006 verbeterde Bos tijdens een wereldbekerwedstrijd in Moskou het prestigieuze wereldrecord 200 meter met vliegende start. Hij legde de afstand af in 9,772 seconde. Vijf dagen later werd hij uitgeroepen tot Sportman van het jaar 2006.[2]
Zijn volgende doel was goud op de Olympische Zomerspelen 2008. Daarvoor kreeg hij de beschikking over een futuristische Kimera-fiets, die speciaal voor hem gemaakt werd door Koga-Miyata. De ontwikkeling ervan kostte 500.000 euro. Bij de keirin kwam hij echter in de tweede ronde ten val. Ook op het onderdeel teamsprint won hij geen medaille.
Op 16 september 2008 maakt Karsten Kroon in zijn column in het Dagblad van het Noorden bekend dat Bos volgend jaar op de weg zal gaan rijden.[4]
Op 24 november 2008 werd bekend dat Bos in 2009 de overstap maakt naar de opleidingsploeg van Rabobank.[5]
Tijdens de Ronde van Turkije in april 2009 haalde Bos uitgebreid het nieuws. De ex-baanrenner trok klassementsleider Daryl Impey in de massasprint van de slotrit onderuit. Volgens Bos was er geen sprake van kwade opzet. Het kwam hem wel op forse kritiek te staan. Lance Armstrong liet via Twitter weten dat Bos in zijn ogen een schorsing verdiende.[6] De UCI schorste hem uiteindelijk ook voor een maand.[7]
Op 25 september2009 werd bekendgemaakt dat Bos in 2010 voor Cervélo zal uitkomen. Eerder was hij al tot het besluit gekomen om te vertrekken bij Rabobank.
Onder de naam van Cervélo rijdt Bos een goede Ronde van Qatar. Hij wordt twee keer 4e in de sprint tussen de grote mannen, en hij hield de ploeg bij tijdens de ploegentijdrit. Op 28 februari 2010 wint Bos de Clásica de Almería. Hij sprint verrassend favoriet Cavendish uit het wiel. Deze overwinning is volgens Bos een bekroning op zijn werk deze winter en volledig te danken aan zijn nieuwe team. Hij rijdt dat jaar ook de Vuelta, maar door een val in de zeventiende etappe viel hij voortijdig uit.
In augustus 2010 werd bekend dat de Cervélo-ploeg ophoudt te bestaan. Daarom zal Bos het volgende seizoen weer uitkomen voor de Rabobank.[8]
Hij heeft in 2011 bij Rabobank zijn eerste overwinning behaald. Hij won deze in de Ronde van Oman.
Op 24 augustus 2013 werd Bos naar huis gestuurd, vlak voor de start van de Vuelta. De reden hiervoor zou zijn dat bij Bos lage cortisol waarden bij hem gemeten zijn tijdens een reguliere UCI pre-race controle. Ondanks dat hij volgens de UCI-regels had mogen starten, stuurde Belkin hem toch naar huis, omdat het team lid is van de MPCC (Mouvement Pour un Cyclisme Credible), die een schone wielersport bevordert.[9]
Bos zorgde na de deceptie van het niet mogen starten in de Vuelta toch nog voor een mooi seizoenseinde door zes etappes te winnen in de Ronde van Hainan.
In november 2021 zette Bos een punt achter zijn wielercarrière, na zijn deelname aan het NK teamsprint.[11] Hij blijft betrokken bij de wielerploeg BEAT en gaat aan de slag als coach van de baanwielrenners van China.