Po raz pierwszy na arenie międzynarodowej Michael Gruber pojawił się 11 stycznia 1997 roku w Saalfelden am Steinernen Meer. Zajął wtedy 14. miejsce w zawodach Pucharu Świata rozgrywanych metodą Gundersena. W sezonie 1996/1997 pojawił się jeszcze jeden raz: 14 stycznia 1997 roku we włoskimVal di Fiemme ponownie zajął czternaste miejsce w Gundersenie. W efekcie zajął 37. miejsce w klasyfikacji generalnej. W 1997 roku osiągnął także swój jedyny sukces w kategorii juniorów wspólnie z kolegami zdobywając brązowy medal w konkursie drużynowym podczas mistrzostw świata juniorów w Canmore. Przez kolejne dwa sezony startował w Pucharze Świata B, między innymi wygrywając sprint 18 grudnia 1998 roku w estońskimOtepää.
Najlepsze wyniki w Pucharze Świata osiągnął w sezonie 2003/2004, który ukończył na dwunastej pozycji. Wtedy też, 13 grudnia 2003 roku w Val di Fiemme po raz pierwszy stanął na podium zawodów pucharowych, zajmując trzecie miejsce w starcie masowym. Aż do zakończenia kariery dokonał tego ponownie tylko raz: 5 grudnia 2004 roku w Trondheim był drugi w sprincie. W międzyczasie wystąpił na mistrzostwach świata w Lahti w 2001 roku, gdzie w swoim jedynym starcie, sprincie, zajął 10. pozycję. Rok później brał udział w igrzyskach olimpijskich w Salt Lake City, gdzie wspólnie z Christophem Bielerem, Mario Stecherem i Felixem Gottwaldem wywalczył brązowy medal w konkursie drużynowym. Po skokach Austriacy zajmowali drugie miejsce i do biegu przystąpili ze stratą 44 sekund do prowadzących Finów. Nie zdołali odrobić tej straty, co więcej w połowie dystansu zostali wyprzedzeni przez Niemców, którzy ostatecznie zdobyli srebro. Na mecie Austriacy stracili 11 sekund do Finów oraz 3,5 sekundy do Niemców. Indywidualnie Michael Gruber zajął 28. miejsce w sprincie.
Podczas mistrzostw świata w Val di Fiemme zdobył złoty medal w konkursie drużynowym wspólnie z Felixem Gottwaldem, Wilhelmem Deniflem i Christophem Bielerem. Reprezentanci Austrii na prowadzeniu znaleźli się już po skokach, na trasę biegu wyruszając z przewagą 13 sekund nad zajmującymi drugie miejsce Niemcami. Tylko na zmianie Bielera na chwilę stracili prowadzenie, jednak ostatecznie na mecie byli pierwsi, o 12,6 sekundy przed Niemcami. W występach indywidualnych był kolejno dwunasty w Gundersenie oraz szesnasty w sprincie. Dwa lata później, podczas mistrzostw świata w Oberstdorfie osiągnął najlepsze wyniki indywidualne. W zawodach metodą Gundersena był dziewiąty po skokach, a dobra postawa w biegu pomogła mu zmniejszyć stratę z 1 minuty i 16 sekund na starcie do 17,7 sekundy na mecie. Dzięki temu przesunął się ostatecznie na szóste miejsce. Jeszcze lepiej wypadł w sprincie, przesuwając się z szóstej pozycji po skokach na piąte miejsce na mecie biegu. W zawodach drużynowych razem z Bielerem, Kreinerem i Gottwaldem zdobył brązowy medal. Na mecie do Norwegów, którzy sięgnęli po złoto Austriacy stracili 7,4 sekundy, a walkę o srebrny medal przegrali z Niemcami na ostatnich metrach o zaledwie 0,3 sekundy.
Jego drugi olimpijski występ miał miejsce w 2006 roku, na igrzyskach olimpijskich w Turynie. W zawodach drużynowych Austriacy w składzie: Michael Gruber, Mario Stecher, Felix Gottwald i Christoph Bieler wywalczyli tytuł mistrzów olimpijskich. Ekipa austriacka po skokach znalazła się na drugim miejscu ze startą 10 sekund do prowadzącej reprezentacji Niemiec. Na trasie biegowej byli jednak najlepsi, wyprzedzając Niemców o ponad 15 sekund i Finów o ponad 26 sekund. Gundersena Gruber ukończył na dwunastej pozycji, a w sprincie zajął trzynaste miejsce. Ostatnim startem Austriaka na dużej imprezie były mistrzostwa świata w Sapporo w 2007 roku, gdzie był dwunasty w sprincie.
Sukcesy osiągał także w Letnim Grand Prix w kombinacji norweskiej. W ósmej edycji LGP zajął drugie miejsce, w trzech z czterech konkursów plasując się na drugiej pozycji. Wyprzedził go tylko jego rodak Christoph Bieler. Co więcej w czwartej oraz piątej edycji LGP Austriak plasował się na czwartym miejscu. Ponadto dwukrotnie był mistrzem Austrii. Karierę sportową zakończył w 2008 roku.
