Nato a Glen Cove, presso Long Island, New York.[1], Ranaldo è padre di tre ragazzi, Cody, Sage e Frey, ed è stato sposato due volte, prima con Amanda Linn e in seguito con l'artista sperimentale Leah Singer, con la quale ha anche formato un duo di improvvisazione musicale e manipolazione della pellicola 16mm chiamato Drift.[4]
Trasferitosi a Brooklyn nel 1979, suonò con Rhys Chatham e con i Plus Instruments (con cui poi registrò anche un disco nel 1982). Tramite Chatham conobbe il compositore di avanguardia Glenn Branca ed entrò nel suo ensemble. Nella tumultuosa scena no-wave newyorkese dei primi anni '80 conobbe Thurston Moore e Kim Gordon, suoi futuri compagni nei Sonic Youth, negli anni a seguire una delle band di riferimento dell'intera scena indipendente americana, e non solo.[1]
Negli anni successivi alla consacrazione dei Sonic Youth (dopo l'album Daydream Nation del 1988), all'attività di musicista e scrittore Ranaldo affiancò quella di produttore. Tra i gruppi prodotti: Babes in Toyland, You Am I e Deity Guns.[1]
Come scrittore Ranaldo ha pubblicato sia libri a carattere musicale sia, soprattutto, poesie. I suoi ultimi libri di versi sono Lengths & Breath del 2004 e Road Movies del 2005 (edizione rivista e ampliata del libro omonimo pubblicato nel 1994). In traduzione italiana si può leggere ora Road Movies, pubblicato da quarup, Pescara 2007 (trad. di Fabio Genovesi).