Bevor J Mascis 1984 Dinosaur Jr. gründete, war er Schlagzeuger der Gruppe Deep Wound.[1] Ein Angebot, als Schlagzeuger bei Nirvana einzusteigen, lehnte er ab. Dinosaur Jr. avancierte zu einem der Vorreiter der amerikanischen Alternative-Rock-Szene der 1980er Jahre. Nach dem Ausstieg von Lou Barlow 1989 und Murph 1993 aus der Gruppe war Mascis das einzige feste Bandmitglied. 1996 veröffentlichte Mascis ein akustisches Solo-Album Martin & Me. Ab 2000 war er mit J Mascis + The Fog unterwegs. 2005 nahm er das Album J + Friends Sing + Chant for AMMA auf, eine Reminiszenz an den indischen Guru Amritanandamayi. 2005 kam es zur Reunion von Dinosaur Jr.
2005 gründete Mascis zusammen mit Dave Sweetapple und Kyle Thomas das Nebenprojekt „Witch“. Die Band erinnert leicht an die alten Sounds von Black Sabbath. Mit Witch nahm Mascis zwei Studio-Alben auf.
Im selben Jahr kamen Dinosaur Jr. wieder in der Originalbesetzung zusammen und spielten live auf einigen Festivals und Tours. 2007 erschien dann das Comeback-Album Beyond, 2009 das Album Farm.
2011 veröffentlichte er sein Soloalbum Several Shades of Why. 2014 folgte Tied to a Star. 2024 erschien What do we do now. Es sei „die beste Sammlung von Solostücken, die Mascis bisher geschrieben hat“, meinte der Plattenkritiker der Badischen Neuesten Nachrichten.[2]
↑Freakscene – The Story of Dinosaur Jr. Dokumentarfilm (83 Min.) über die Alternative-Rockband Dinosaur Jr. in der Mediathek von WDR Fernsehen / Rockpalast, 2020. Regie: Philipp Reichenheim. Produktion: Stephan Holl, Antoinette Köster und Philipp Reichenheim. Co-Produktion: Dinosaur Jr. Inc. + J Mascis. Eine Produktion von Rapid Eye Movies (Köln), Virus Films (Philipp Reichenheim) und Dinosaur Jr. Inc.