Nato in Germania da padre ungherese e madre polacca, Orban inizia la sua carriera nelle giovanili del Kaiserslautern all'età di 6 anni. All'età di 19 anni fa l'esordio nella massima serie, durante la partita persa 3-0 in casa, contro il Bayern Monaco subentrando al 87' minuto, al posto di Thanos Petsos.
Nella stagione seguente, Orban gioca spesso con la seconda squadra, riuscendo a giocare con la prima squadra solo 7 partite riuscendo a siglare anche un goal.
Il 12 agosto 2013 indossa per la prima volta la fascia di capitano all'età di 20 anni.
In 4 stagioni con il Kaiserslautern colleziona 77 presenze 8 goal e 3 assist, tra campionato e coppe.
RB Leipzig
A luglio del 2015 passa per 2 milioni di euro al RB Lipsia prendendo la maglia numero 4, il suo esordio con la nuova maglia avviene il 25 luglio nella partita vinta per 1-0 contro il FSV Frankfurt, il primo goal invece avviene il 19 febbraio 2016 al 25' minuto del primo tempo nella partita vinta 3-0 contro l'Union Berlino, nella stessa stagione indossa per due volte la fascia di capitano contro il Monaco 1860 e Norimberga.
Al termine della stagione 2015-16 in 2. Bundesliga Orban colleziona 32 presenze, 1 goal e 1 assist.
Nella stagione successiva resta al RB Lipsia, diventando il vice-capitano della squadra alle spalle di Dominik Kaiser, dopo un anno dal suo arrivo.
Il primo maggio 2017 si infortuna alla caviglia saltando obbligatoriamente le ultime 3 partite della stagione.
Al termine della stagione 2016-17 in Bundesliga colleziona 28 presenze 3 goal 1 assist, contribuendo all'accesso diretto in Champions League, ed arrivando in 2ª posizione in massima serie alle spalle del Bayern Monaco.
Nella stagione 2017-18 diviene capitano del RB Lipsia, va subito a segno alla seconda giornata di campionato contro il Friburgo (la partita terminerà 4-1 per il RB Lipsia).
Negli anni successivi da capitano vincerà due coppe di Germania e una supercoppa di Germania.
Nazionale
Viene convocato in nazionale U-21 da Horst Hrubesch, esordendo il 13 novembre 2014 nell'amichevole contro l'Olanda, giocando gli ultimi 7 minuti della partita.
Il primo di ottobre accetta la convocazione da parte del CT dell'UngheriaMarco Rossi. Il 15 novembre successivo, segna la sua prima rete in maglia magiara nella partita di Nations League vinta dall'Ungheria per 2-0 in casa contro l'Estonia. L'8 giugno 2019 sigla una doppietta decisiva nella partita vinta per 3-1 in trasferta contro l'Azerbaigian, valevole per le qualificazioni al campionato d'Europa 2020.
.jpg)
.svg){kind=small}
.svg){kind=small}
