그러나 1998년 선거에서 유럽 축구 연맹과 부회장 렌나르트 요한손에 의해 제3자와 클럽 부사장과 사장 등에 10만 달러의 뇌물이 제공되는 등 많은 부패 혐의가 적발되었고 2002년 선거에서는 각종 금융 부정과 뒷돈 거래가 있었다. 2004년에는 여자 축구에 대한 성 차별적인 발언으로 많은 여성 축구 선수의 분노를 샀다.
FIFA에서 불거진 일련의 부정 부패 혐의로 인하여 그는 스위스에서 조사를 받을 수 있는 상황에 빠졌으나, 이에 불구하고 2015년 5선에 성공했다.
한국 현지시간 2015년 6월 2일, 제프 블라터는 기자회견을 열고 회장직 사임을 발표했고, 2015년 12월에 열릴 FIFA 총회에서 차기 회장직이 선출될 때까지 회장직을 수행한다고 밝혔다.
