En 1988, Mills est nommé commissionnaire de l'administration fiscale.
Membre du Congrès démocratique national, il est élu vice-président de la République, poste occupé du au aux côtés de Jerry Rawlings. Il est ensuite battu par deux fois aux élections présidentielles par John Kufuor, en 2000 et en 2004 avant d'être finalement élu lors du scrutin du . Il prend ses fonctions de président de la République le , prêtant serment devant Georgina Wood, la présidente de la Cour suprême ghanéenne[2], avec John Mahama comme vice-président.
Il meurt le , à l'âge de 68 ans, d'une maladie cardiaque[3]. À la suite de son décès, des funérailles nationales de trois jours sont décrétées[4].
