W 1997 został absolwentem szkoły średniej w Tallinnie, w 2002 ukończył studia ekonomiczne na Uniwersytecie w Tartu. W 1998 wstąpił do Estońskiej Partii Reform. Pracował krótko w prywatnym przedsiębiorstwie, następnie na stanowiskach doradcy w administracji rządowej. W 2005 został po raz pierwszy radnym miejskim Tallinna. W wyborach w 2007 uzyskał mandat posła do Zgromadzenia Państwowego (Riigikogu XI kadencji). W 2011 również wybrany do parlamentu na XII kadencję[1].
11 grudnia 2012 objął urząd ministra spraw społecznych w trzecim gabinecieAndrusa Ansipa[2]. 14 marca 2014 prezydent Toomas Hendrik Ilves powierzył mu misję sformowania nowego rządu. Do nowej koalicji poza Estońską Partią Reform weszła Partia Socjaldemokratyczna. Przedstawiony przez niego gabinet uzyskał 25 marca wotum zaufania w Riigikogu[3], a 26 marca 2014 został zaprzysiężony, rozpoczynając tym samym urzędowanie[4]. Również w 2014 został przewodniczącym Estońskiej Partii Reform.
W 2015 ponownie wybrany do parlamentu[5]. Otrzymał misję utworzenia nowego gabinetu. Ostatecznie umowę koalicyjną podpisały Estońska Partia Reform, Partia Socjaldemokratyczna oraz centroprawicowy Związek Ojczyźniany i Res Publica[6]. 8 kwietnia 2015 ogłoszono listę ministrów[7]. Drugi rząd Taaviego Rõivasa rozpoczął urzędowanie 9 kwietnia tegoż roku po dokonaniu zaprzysiężenia. 9 listopada tegoż roku gabinet przegrał w parlamencie głosowanie nad wotum nieufności, gdy doszło do rozpadu koalicji[8]. 23 listopada 2016 nowym premierem został Jüri Ratas. W styczniu 2017 na funkcji przewodniczącego partii zastąpił go Hanno Pevkur[9]. Po odejściu z rządu był wiceprzewodniczącym parlamentu, zrezygnował jednak w październiku 2017, gdy zarzucono mu napastowanie seksualne podczas delegacji do Malezji[10]. W 2019 utrzymał mandat deputowanego do Riigikogu na kolejną kadencję[11].