Il est élu aux élections municipales de 2001 sur la liste PS conduite par Serge Blisko, qui prend la mairie du 13e arrondissement au maire sortant Jacques Toubon. Premier adjoint au maire du 13e et conseiller de Paris, Jérôme Coumet devient le maire du 13e arrondissement après la démission de Serge Blisko, qui ne souhaitait plus cumuler avec son mandat de député (il cumulait les deux depuis 6 ans) mais reste premier adjoint.
Jérôme Coumet devient ainsi, à 40 ans, le plus jeune des vingt maires d'arrondissement parisiens. « Moi compris, cela fait quand même une moyenne de 62 ans pour les maires d'arrondissement. Cela montre l'étendue du renouvellement à mettre en œuvre », commente-t-il pour Le Parisien[4].
Jérome Coumet estime qu'« on peut dire que j'ai un parcours d'apparatchik, mais ça m'a permis dans les années 1990 de participer à une formidable aventure : la mise au point de la stratégie de la conquête de Paris et la victoire en 2001. »[4].
Il a été désigné le par 91,5 % des militants PS de son arrondissement candidat à la mairie du 13e pour les élections municipales de . Au second tour, le , la liste d'union de la gauche qu'il menait a remporté le suffrage avec 69,88 % des voix.
Il a été réélu maire du 13e lors du conseil d'arrondissement du de même que le .
Il est connu pour développer et valoriser le street art dans son arrondissement, un des plus généreusement dotés de Paris[5].
En , le magazine Le Point affirme que neuf collaborateurs, anciens et actuels, de Jérôme Coumet bénéficient de logements sociaux[6],[7]. Un article auquel Jérôme Coumet a apporté un démenti formel en regrettant que « [des noms de collaborateurs] soient jetés à la vindicte populaire, au mépris du respect de la vie privée »[8]. Le Point sera condamné pour diffamation à la suite de cet article, le [9].
Le , il célèbre à la mairie du 13e le « mariage » de deux ours en peluche faisant partie des « Nounours des Gobelins », une collection de nounours de la taille d'un adulte, exposés de manière itinérante depuis octobre 2018 dans tout le quartier des Gobelins (13e arrondissement)[10],[11].