Apprécié par l'administration américaine, il est nommé ministre des Finances par Yasser Arafat en 2002 puis en 2005 par le Premier ministre Ahmed Qoreï, sous la présidence de Mahmoud Abbas. Il est vu par les Occidentaux et les Israéliens[3] comme une personne qui lutte contre la corruption et les malversations. Il dirige également le directorat du Fonds palestinien d'investissement.
Le , il annonce sa démission afin d'ouvrir la voie à un cabinet d'union nationale dans le cadre d'une réconciliation avec le Hamas.
À la suite de la perte de légitimité de l'Autorité palestinienne causée par l'échec des négociations avec Israël, Fayyad démissionne le et est aussitôt reconduit dans ses fonctions par Mahmoud Abbas.