Abel Xavier commence sa carrière en 1990 avec le club portugais de l'Estrela da Amadora. Ses bonnes performances pendant trois ans lui permettent de signer en 1993 dans un des plus grands clubs portugais, le Benfica Lisbonne. Il aide le club lisboète à gagner le championnat en 1994 et la saison suivante, il est transféré en Serie A à l'AS Bari. Ce transfert marque le début d'une longue série de clubs à travers l'Europe : en 1996, Xavier est transféré au Real Oviedo puis deux ans après, il joue pour le club néerlandais du PSV Eindhoven et enfin, il atterrit en Angleterre à Everton. Il y joue pendant deux ans avant d'être vendu au club rival d'Everton, le Liverpool FC. Après son séjour de trois ans en Angleterre, Xavier reprit son tour d'Europe des clubs en signant à Galatasaray, à Hanovre et à Rome.
Durant l'été 2006, Xavier s'entraine de nouveau avec Middlesbrough et signe un nouveau contrat en .
En mai 2007, il s'engage avec le club américain du Los Angeles Galaxy mais s'y fait licencier à cause de relations tendues avec son entraîneur Ruud Gullit.
Le , il annonce qu'il se retire définitivement du football. Après sa carrière de footballeur, il se convertit à l'islam à 37 ans[1].
Abel Xavier dispute l'Euro 2000 au cours duquel il en devient un héros malheureux : lors de la demi-finale France-Portugal, il provoque en effet un penalty d'une faute de main. Ce pénalty est transformé par Zinédine Zidane qui qualifie la France pour la finale et élimine le Portugal. Plusieurs joueurs Portugais dont Abel Xavier, mécontents de la décision arbitrale, s'en prennent à l'arbitre Günter Benkö : il sera suspendu neuf mois, Nuno Gomes huit mois et Paulo Bento six mois[4]. Il marque les esprits lors de cette compétition grâce à sa coupe de cheveux et sa barbe peroxydées[5],[6],[7].
Il fait aussi partie de la sélection portugaise lors de la Coupe du monde 2002[8]. Il ne joue qu'un seul match en entrant en cours de match lors du dernier match de poule de l'équipe portugaise contre la Corée du Sud (0-1)[9].