Van juni 1997 tot juli 2002 was Cem minister van buitenlandse zaken in drie elkaar opeenvolgende regeringen. In deze functie ijverde hij voor de aansluiting van Turkije bij de Europese Unie. Voorts zette hij zich in voor betere verhoudingen met buurland Griekenland. Hierbij werkte hij samen met de Griekse minister van buitenlandse zaken Giorgos Papandreou junior met wie hij tevens was bevriend.
In 2002 werd hij na een politieke strijd met partijleiderBülent Ecevit uit de Demokratik Sol Parti (DSP, vertaling: 'Democratische Linkse Partij') gestoten. In hetzelfde jaar nog vormde hij samen met een tweetal anderen de Yeni Türkiye Partisi (YTP, vertaling: 'Partij van het Nieuwe Turkije') op. Deze partij werd geen electoraal succes.
İsmail Cem overleed op 66-jarige leeftijd aan longkanker.