En tant qu'attaquant, José Mari fut international espagnol à 4 reprises (2001-2003) pour 1 but. Il joua contre le Japon, la Bulgarie (où il inscrivit le seul but du match à la 10e minute), l'Allemagne et l'Équateur. En 4 matchs, il enregistra quatre victoires.
Il participa aux Jeux olympiques de 2000. Il fut titulaire dans tous les matchs, sauf contre le Chili. Il inscrivit 3 buts dans ce tournoi (Corée du Sud, Maroc, USA). Lors de la finale contre le Cameroun, il est expulsé à la suite de deux cartons jaunes (55e et 91e minutes). L'Espagne remportera la médaille d'argent.