Markovits ble olympisk mester i vannpolo under OL 1952 i Helsingfors. Han var med på det ungarske laget som vant vannpoloturneringen. Ungarns resultat i finalerunden: 2-2 mot Jugoslavia, 7-2 over Italia og 4-0 over USA. Ungarn og Jugoslavia fikk begge 5 poeng men Ungarn vant på bedre målforskjell, 13-4 mot Jugoslavias 9-5. Det var 21 lag som deltok i vannpoloturneringen som ble avviklet 25. juli til 2. august1952. Markovits spilte seks kamper og scoret tre mål.
Fire år senere, under OL 1956 i Melbourne, vant han sin andre olympiske gullmedalje i vannpolo. Det ungarske laget vant alle fem kampene i finalerunden som besto av seks lag. Ungarn fikk ti poeng og sølvvinnerne Jugoslavia sju. Markovits spilte seks kamper i OL-turneringen og scoret minst tre mål.