Han blev født i Erzurum som søn af en osmannisk officer og barnebarn af en pasha (general). Efter sin skoletid i Ordu og militærskole i Erzincan, tog han sin eksamen på Kuleli miliærskole i Istanbul.
Cemal Gürsel blev øverstbefalende for Tyrkiets hær. Han udtrykte imidlertid kritik premierministerAdnan Menderes' regering, hvorfor han i maj 1960 blev afskediget fra posten. Tre uger senere gennemførte Gürsel imidlertid et statskup, hvorefter han indsatte sig selv som midlertidig stats- og regeringschef.
Efter parlamentsvalget i 1961 og efter samme år at have indført en ny forfatning, blev han indsat som Tyrkiets fjerde præsident. Han regerede i næstan 6 år inden han blev afsat den 28. marts 1966, kort forinden sin død.