Рођен је у Кладну, али се фудбалом почео бавити у Колареву, граду са преко 80% припадника мађарске националне мањине. Наступао је за тимове који су повезани са мађарском мањином у Словачкој. Након тога почиње да игра за јуниорски тим Коморана. Војску је служио као падобранац, а наступао је и за клуб ВТЈ Дукла Холешов. Након одслужења војног рока фудбалску каријеру наставио је у ФК Слован Братислава. Са Слован ом је два пута освајао првенство Чехословачке1974. и 1975. Куп Чехословачке освојио је 1974, а Куп Словачке 1974. и 1976. У Купу европских шампиона одиграо је 4 утакмице, а у Купу Уефа 7 утакмица.
Репрезентативну каријеру започео је 20. децембра1974. године у пријатељској утакмици против Ирана. Потом је уследила десетомјесечна пауза, али након меча 15. октобра1975. године против Мађарске, постао је стандардни првотимац и у наредних пет година одиграо је 55 утакмица постигавши 1 гол.[3] Врхунац његове каријере било је учешће на Европском првенству 1976. године, на којем је освојио титулу европског шампиона. Четири године касније, на Европском првенству 1980. у Италији освојио је бронзу.
Након што је окончао играчку каријеру посветио се тренерском позиву. Почео је у ФК ДАК 1904 Дунајска Стреда још током свог играчког ангажмана. Уследио је повратак у Слован гдје је прове две сезоне као помоћни тренер. Последњи клуб који је тренирао био SV Gols. Приликом враћања са једне утакмице Гег је погинуо у саобраћајној несрећи.[4]ФК Коларово именовао је свој стадион у његову част Стадион Коломан Гег.[5]