Christgau ble født i New York. Han sier at han ble rock and roll-fan da discjockeyenAlan Freed kom til byen i 1954. Han forlot New York for å begynne på college i New Hampshire, hvor han ble uteksaminert i 1962. I collegetiden ble han mer interessert i jazz, men vendte tilbake til rock and roll så snart han kom tilbake til New York.
Til å begynne med skrev han noveller, før han i 1964 ble sportjournalist og senere politireporter for Newark Star-Ledger. Christgau begynte som frilanser etter at en reportasje om en kvinnes død i New Jersey ble publisert i New York Magazine. Han ble forespurt om å ta over den inaktive musikkspalten i Esquire, og begynte der i 1967. Da Esquire la ned spalten flyttet han over til The Village Voice i 1969 og tok endog en jobb som collegelærer.
I 1972 ble han fast ansatt av Newsday, men vendte i 1974 tilbake til Village Voice som musikkredaktør. Fra 1974 til 2006 var han ansvarlig for Village VoicePazz & Jop-liste. I 2006 ble han avskjediget «for taste» (for smak) kort etter å ha blitt kritisert av New Times Media.[6] To måneder senere begynte han å skrive for Rolling Stone Magazine.