Fraunhofer ble lærling ved et optisk verksted i 1798, og ble senere ansatt ved Georg Friedrich von Reichenbachs, Joseph von Utzschneiders og Joseph Liebherrs fabrikk (i München) for å lage matematiske og fysikalske instrumenter. Kort tid etter ble han direktør for den optiske avdelingen ved denne fabrikken, og i 1809 etablerte han sammen med Reichenbach og Liebherr det berømte optiske instituttet i Benediktbeuern, hvor han raskt ble eneste eier. Instituttet flyttet til München i 1819, og Fraunhofer ble representant for vitenskapsakademiet.
I 1822 fikk han utdelt doktorgrad fra Universitetet i Erlangen som konservator og professor. Kun to år senere, i 1824, fikk han tildelt Den bayerske krones fortjenstorden. Fraunhofer ble av denne grunn adlet, og ansett som en av Münchens æresborgere. I likhet med mange andre glassmakere fikk Joseph von Fraunhofer et relativt kort liv, og var bare 39 år da han døde i 1826.
Som optiker var Fraunhofer hovedsakelig beskjeftiget med konstruksjon av akromatiske linser. For disse arbeidene var det nødvendig å ha tilgang til homogent lys, og denne avhengigheten gjorde at Fraunhofer oppdaget de mørke linjene som la grunnlaget for hele spektralanalysen. Fraunhofer studerte også diffraksjonsfenomenet, og fant da blant annet at man kunne fremstille et spektrum ved hjelp av et rutenett av fine tråder.
Blant Fraunhofers mange oppfinnelser kan man nevne den store parallaktiske refraktoren i Dorpat.
En av de vanskeligste operasjonene, når det kom til det praktiske arbeidet med optikken, var å polere den sfæriske overflaten av glasset nøyaktig nok. Basert på denne utfordringen oppfant Fraunhofer en maskin som slipte overflaten av glasset enda mer nøyaktig enn andre tidligere brukte slipemaskiner. Videre oppfant han flere polerings- og slipemaskiner som introduserte en ny og bedre produksjon. Maskinene var spesialiserte, derfor ble det mulig for produsentene å ta i bruk flere forskjellige glasstyper til optiske instrumenter.
