Gizzi verbrachte den größten Teil seiner Kindheit und Jugend in Pittsfield (Massachusetts). Nach Abschluss der Highschool ging er erst einmal als Arbeiter in eine Kabelfabrik und danach in ein Heim für verhaltensgestörte Jugendliche. Während der Nachtwachen befasste er sich mit Literatur und las unter anderem alles was die „ Burning Deck Press“ veröffentlicht hatte. Er begann seine Studien an der Brown University in Providence, Rhode Island. In den 1980er Jahren lebte er in New York City und studierte dort an der New York University. Er verdingte sich als Kellner, las viel und gab, angeregt durch einen Nachdruck von Blast, seine eigene Zeitschrift o*blék: a journal of language arts heraus, die er 1987 zusammen mit Conell McGrath gründete.
Heute ist Gizzi Herausgeber und im Aufsichtsrat der New Yorker Literaturzeitschrift Conjunctions. Er ist der Bruder des verstorbenen Dichters Michael Gizzi.