Jommelli se narodil 10. září1714 v Averse, malém městečku nedaleko Neapole Antoniu a Margaritě Cristiano Jommelli. Otec byl vcelku prosperující pláteník. Chlapec začal zpívat v chrámovém sboru místní katedrály. Tam si jeho talentu povšiml sbormistr Canon Muzzillo a zařídil přijetí chlapce ve věku devíti let na konzervatoř sv. Onofria (Conservatorio di Santo Onofrio) v Neapoli. Studoval u Ignazia Prota a Francesca Feo. Po třech letech přešel na Conservatorio di Santa Maria della Pietà dei Turchini, kde se jeho učiteli stali Francesco Nicola Fago a Leonardo Leo.
Jeho první opera, komedie „L’Errore Amoroso“, měla premiéru v zimě roku 1737 v Neapoli v Teatro Nuovo a měla značný úspěch.
První vážnou operou byla „Ricimero rè de’ Goti“ provedená v římském divadle Argentina na počátku roku 1740. Tato opera silně zaujala Henry Benedicta, vévodu z Yorku. Benedict se stal později kardinálem a jeho přímluvou si skladatel získal i přízeň Vatikánu. V průběhu čtyřicátých let zkomponoval Jomelli neuvěřitelnou řadu oper, které byly uváděny ve všech hlavních hudebních centrech Itálie (Bologna, Benátky, Turín, Padova, Ferrara, Lucca, Parma a samozřejmě Neapol a Řím.
V průběhu uvedení svých oper v Bologni se stal na nějaký čas žákem Padre Martiniho, patrně v té době nejvyšší hudební autority Itálie. Odtud se datuje i rozsáhlé dílo v oblasti chrámové hudby. První známou skladbou tohoto druhu je chvalozpěv „Sicut Erat“, pětihlasá fuga a cappella. Na přímluvu Johanna Adolfa Hasse byl jmenován kapelníkem Ospedale degl’ Incurabili v Benátkách. V této době vznikla čtyři oratoria („Isacco figura del Redentore“, „La Betulia liberata“, „Joas“, "Juda proditor“), nejméně dvě mše, Te Deum, řada motet a žalmů.
V roce 1748 byl pozván do Vídně, kde s mimořádným úspěchem uvedl operu „Didone“. Císařovna Marie Terezie jej zahrnula svou přízní i dary a zde se také seznámil s vynikajícím básníkem a operním libretistou Pietrem Metastasiem, který se stal autorem libret mnoha jeho oper.
Na rok 1750 byl papežemBenediktem XIV. vyhlášen Svatý rok, který v křesťanské tradici znamená, že kdo v tomto roce navštíví baziliku sv. Petra v Římě, dosáhne úplného odpuštění hříchů. Tato událost vždy znamená velký příliv návštěvníků Říma i obrovskou příležitost pro výkonné umělce. Jomellimu se podařilo dosáhnout jmenování asistentem kapelníka největšího křesťanského chrámu. Toto místo zastával po následující čtyři roky.
Po krátké zastávce ve Vídni se roku 1753 stal kapelníkem vévody Karla Eugena Würtemberského ve Stuttgartu. V tomto období slavil největší úspěchy a vytvořil svá nejcennější díla. Jeho opery byly prováděny ve vévodově paláci v Ludwigsburgu. Zde jej také v roce 1763 navštívil Wolfgang Amadeus Mozart se svým otcem Leopoldem.
Do Neapole se vrátil až v roce 1768. Obdržel mimořádnou nabídku od portugalského krále Josefa I., aby přijel do Portugalska a komponoval opery pro portugalský dvůr. Přes vysokou finanční nabídku se Jommelli omluvil chatrným zdravím. Král pak přesto přiznal skladateli vysokou rentu za to, že obdrží kopie všech jeho děl.
Toto stipendium mu umožnilo usadit se v Averse a zcela se věnovat kompozici.
V té době však již byla v Neapoli mnohem populárnější opera buffa než vážná Jomelliho opera seria a premiéry jeho děl se již nesetkávaly s tak jednoznačným přijetím.
V roce 1771 zcela propadla jeho opera „Ifigenia“ a Jommeli se zcela vzdal komponování oper s výjimkou přepracování svých starších děl pro uvedení v Portugalsku.
V roce 1771 utrpěl vážnou mozkovou příhodu, po níž byl částečně paralyzován. V práci však pokračoval až do své smrti. Soustředil se již zcela na duchovní hudbu a jeho Miserere je považováno za skladatelův mistrovský kus.
Jommeli zkomponoval řadu kantát, oratorií a další sakrální hudby. Nejdůležitější částí jeho díla jsou však opery. V žánru opery seria vytvořil okolo šedesáti děl, z valné části na libretaPietra Metastasia.
Ve svých operách se koncentroval více na příběh a dramatickou složku než na virtuositu pěveckých partů, čímž převyšoval většinu současníků, příslušníků neapolské operní školy. Obohatil operu o rozsáhlé ansámblové a sborové party a po vzoru francouzské opery a skladatelů jako byl např. Jean-Philippe Rameau, často zařazoval baletní intermezza. Instrumentace jeho děl je mnohem bohatší, orchestr využíval více dechových nástrojů. Rovněž stejně jako Johann Adolf Hasse nebo Christoph Willibald Gluck častěji psal recitativy s doprovodem orchestru a nikoliv pouze cembala, jak bylo v té době zvykem.