Nővérével együtt a Wisconsin állambéli Nenashában nőtt fel. Apja pszichológiát tanított, anyja pedig angol nyelvet és irodalmat, valószínűleg ezért sem voltak tanulási nehézségei. Kicsi gyerekként baseball-játékos akart lenni. Később rábukkant apja régi, klasszikus gitárjára, majd nekiállt gyakorolni. Egy idő után mégis úgy döntött, hogy dobolni kezd. Ez sem tartott sokáig, így visszatért a gitárhoz, de már a dobolás révén szerzett ritmusérzékkel.
Első fellépése 16 évesen volt egy iskolai tehetségkutatón. Ezután Seattle-be költözött, ahol a Sanctuary nevű power metal zenekar tagja lett. Tizenévesként a Megadethbe is majdnem bekerült. A Sanctuary végül feloszlott és a romjaiból jött létre a Nevermore. Jeff a mai napig a Nevermore tagja, fő dalszerzője. 2008-ban szólólemezzel jelentkezett (Zero Order Phase), melyen vendégként szerepelt korábbi Nevermore-beli gitárpartnere, Pat O’Brien is.
Jeff Loomis napjaink egyik legnépszerűbb metalgitárosa. Játékára jellemző a death metal komplexitása, a Jason Becker hatásaira visszavezethető neoklasszikus elemek, valamint a súlyos, modern megszólalású riffelés. 2000-től használ héthúros gitárokat, de a Schecter márkanév alatt saját modellje is kapható. 2008-ban megjelent szólólemezével bizonyította, hogy sokoldalú zenész, több stílusban is otthonosan mozog. Legújabb projektje Conquering Dystopia névre hallgat, melyet Keith Merrow gitárossal karöltve hoztak létre.
.jpg)
