Dwukrotnie dotarł z zespołem do finału Pucharu Austrii w sezonie 1928/29 (porażka 2:3 z First Vienna), oraz 1933/34 (porażka 0:8 z Admirą Wiedeń). Kaburek z Rapidem zdobył także Puchar Mitropa w 1930. Indywidualnie zdobył koronę króla strzelców I. ligi w sezonie 1934/35 (27 bramek). Łącznie przez 8 lat gry dla Rapidu rozegrał 121 spotkań, w których strzelił 100 bramek[3].
Od sezonu 1936/37 występował we francuskimFC Metz. Jako piłkarz Les Grenats wystąpił w 23 spotkaniach, w których strzelił 18 bramek[2]. Występował także w US Bassin de Longwy. Od 1939 ponownie występował w Rapidzie. Kaburek sięgnął z zespołem po dwa mistrzostwa Gauligi w sezonie 1939/40 i 1940/41. Wywalczył także Mistrzostwo Niemiec w 1941. Kaburek dla Rapidu zagrał w 37 meczach, w których 38 razy pokonywał bramkarzy rywali[4]. Po sezonie 1944/45 zakończył karierę piłkarską.
Karierę reprezentacyjną Kaburek rozpoczął 11 lutego 1934 w meczu przeciwko reprezentacji Włoch, wygranym 4:2. W tym samym roku został powołany na Mistrzostwa Świata rozgrywane we Włoszech. Na turnieju pełnił rolę zawodnika rezerwowego.
Ostatni mecz w narodowych barwach Austrii zanotował 24 marca 1935 przeciwko Włochom, przegrany 0:2. Łącznie w latach 1934–1935 Mathias Kaburek zagrał dla Austrii w 4 spotkaniach, w których strzelił dwie bramki[5].
W wyniku Anschlussu Austria została włączona do III Rzeszy. Jedyne spotkanie w reprezentacji III Rzeszy zagrał 27 sierpnia 1939. Przeciwnikiem była Słowacją, a mecz zakończył się porażką III Rzeszy 0:2[5].
