Unter dem Namen The Mountain Goats veröffentlichte der damalige Collegestudent Darnielle erstmals 1991 ein Album, das beim kleinen, in Upland (Kalifornien) ansässigen LabelShrimper Records erschienene Taboo VI: The Homecoming. In den darauf folgenden Jahren wurden diverse weitere Werke auf Kleinlabels herausgebracht, wobei meist auch die Bassistin Rachel Ware zu hören ist, die Darnielle bis 1995 auch bei Konzerten begleitete. Später übernahm diesen Job Peter Hughes, der mittlerweile offizielles Mitglied der Mountain Goats ist. Von 2002 bis 2010 wurden die Alben der Band von 4AD veröffentlicht. Mit dem 2006 erschienenen Get Lonely platzierten sich die Montain Goats in den US-amerikanischen Albumcharts.[1] 2011 erschien das Album All Eternals Deck bei Merge Records.
John Darnielle war 2007 einer der Gäste auf Aesop Rocks Album None Shall Pass.
Es wurden mittlerweile auch eine größere Anzahl Singles, einige EPs sowie drei Compilationalben veröffentlicht. Einige der frühen, ursprünglich nur auf Kassette erhältlichen Alben wurden im frühen 21. Jahrhundert in den damals aktuellen Formaten neu aufgelegt.