Engagé dans des actions de Résistance dès le mois d', il appartient à deux réseaux : le Bureau des opérations aériennes et le Réseau Navarre en qualité de chargé de mission. Arrêté le , il est déporté successivement aux camps de concentration de Neuengamme puis de Bergen Belsen[1]. Il est à ce titre, l'objet de trois citations dont deux à l'ordre de l'Armée et une à l'ordre du Régiment.
Entré en 1945 comme chargé de mission au cabinet du commissaire de la République de Bourgogne et Franche-Comté, il est, dès l'année suivante, nommé chargé de mission pour les questions économiques et financières au cabinet de l'administrateur général de la zone française d'occupation en Allemagne d'Émile Laffon, qu'il accompagne lorsque celui-ci prend ses fonctions de président des Houillères du Bassin du Nord et du Pas-de-Calais dans le Nord de la France.
En , pour sa connaissance exceptionnelle du terrain, le gouvernement le nomme commissaire à la conversion industrielle de la région Nord-Pas-de-Calais, président du bureau départemental d'industrialisation des Ardennes et, en 1973, président des Charbonnages de France[2].
Dirigeant du Front travailliste, membre du Conseil économique et social au début de 1973, il est élu, en , président de la section des problèmes économiques généraux et de la conjoncture.
Élu en 1983 conseiller de Paris, adjoint au maire chargé du commerce et de l'artisanat, et conseiller régional d'Île-de-France, il abandonne sa fonction à la mairie de Paris à la suite de son élection à la présidence du Conseil économique et social, en , succédant à Gabriel Ventejol. Il est ensuite réélu président de cette Assemblée, le , le , le et le .
À la demande du Premier ministre Édouard Balladur, il présente un « rapport sur les obstacles structurels à l'emploi », dit rapport Mattéoli, en , dans le but de « recenser les phénomènes qui vont à l'encontre de la création d'emplois ». Il constitue alors un groupe de réflexion où se retrouvent notamment Patrick Devedjian, Philippe Vasseur, Michel Godet, Didier Pineau-Valencienne, Claude Bébéar et Alain Minc. Ce rapport préconise la baisse des charges pour les emplois les moins qualifiés et propose le contrat d'insertion professionnelle (CIP). Créé par la loi quinquennale du [3] et le décret du [4], il est supprimé par le décret du [5] et la loi du [6] à la suite des manifestations d'étudiants et de salariés.
De 1985 à 1990, il est le patron de la société Tréfilerie et Câblerie d'Alsace.
En 1992, il fait démolir l'immeuble de la direction des phares, voisin immédiat du Conseil économique et social, pour y étendre les bureaux du Conseil. L'immeuble construit en 1867 était surmonté d'une coupole de phare datant du XIXe siècle.
En , le Premier ministre Alain Juppé le nomme médiateur dans le conflit avec la SNCF.
En , le Premier ministre Alain Juppé lui confie la mission d'étudier les conditions dans lesquelles les biens appartenant aux Juifs de France ont été confisqués, acquis par fraude, violence ou vol, tant par l'occupant que par les autorités de Vichy, entre 1940 et 1944. À la tête de la Fondation de la Résistance depuis 1993, Jean Mattéoli a aussi présidé la mission d'étude sur la spoliation des Juifs de France, créée après le discours de Chirac reconnaissant la responsabilité de l'État dans la déportation des Juifs de France. Il témoigne par ailleurs en défense de Maurice Papon, lors de son procès en 1998[7],[8].