En 1991, il est élu maire de Madrid, poste qu'il conservera jusqu'en 2003. Sous son mandat, Madrid fait partie des cinq villes finalistes pour accueillir les Jeux olympiques de 2012.
De 2003 à 2015, il préside l'IFEMA (Institución Ferial de Madrid) qui organise des congrès pour la ville. Il est destitué par la maire Manuela Carmena, qui entreprend de dépolitiser et de professionnaliser cet organisme, considérant qu'il fournissait jusque-là des retraites dorées à des personnalités politiques du PP. Le coordinateur général de la mairie de Madrid, Luis Cueto, lui succède, sans toucher le salaire annuel de 120 000 € qui était jusqu'alors associé à ce poste[1].