Ankara Dışkapıspor kulübünde futbola başladı ve Güneşspor'a transfer olmuştur.[2] Bu kulüpte parlayan Yüksel Gündüz 6 Nisan 1955'te Yugoslavya'ya karşı Gençler Avrupa Şampiyonası Grup Elemelerinde ilk kez genç millî formayı giymiştir.
1957 yılında Fenerbahçe'ye transfer olan Gündüz, bu forma altında yıldızlaşmıştır. 1964 yılına dek 268 maçta sarı lacivertli formayı giyen Gündüz 115 gol atmıştır.[3] Fenerbahçe'de 1958-59 İstanbul Profesyonel Ligi, 1959, 1960-61 ve 1963-64 Süper Lig şampiyonlukları sevinçlerini yaşamış, 1962-63 sezonunda Türkiye Kupası finali oynayan kadroda yer almıştır.Aynı yıl Fenerbahçe'nin ilk Türkiye Kupası maçında 30 Eylül 1962 tarihinde Adana'da, Adana Demirspor'u 2-1 yendiği maçta,Fenerbahçe'nin kupa tarihindeki ilk golünü attı.1965 yılında İstanbulspor'a transfer olmuştur.
İlk kez 1955 yılında millî formayı giyen Gündüz 1 kez A, 2 kez B, 1 kez ümit ve 6 kez genç millî olmak üzere toplamda 10 kez ay-yıldızlı formayı giymiştir.[4]