Far til Robertson var jødisk og mor hans var av mohawkoppav. Han byrja å spele gitar i seksårsalderen og byrja sidan å skrive låtar.
Gjennombrotet kom etter kontakt med songaren Ronnie Hawkins og frå 1961 til 1963 spelte han i bandet hans the Hawks (først som bassist og seinare gitarist) og turnerte i både USA og Canada. The Hawks braut med Ronnie Hawkins og turnerte på eiga hand i nokre år. Robertson utvikla ein blendande teknikk og var ein gitarhelt i New York-området før det i det heile fanst gitarheltar. Etter at Bob Dylan først hadde nytta Robertson som studiomusikar, vart heile The Hawks bandet til Dylan. I samband med motorsykkelulukka til Dylan fekk gruppa ein eigen platekontrakt og vart lansert under det nye namnet The Band.
Robertson, som tidleg hadde byrja å skrive låtar, vart snart den fremste låtskrivaren til The Band. Nesten alle dei kjende låtane til The Band er skriven av han. Dette førte til konflikt mellom Robertson og trommeslagaren Levon Helm, som meinte at mange av låtane vart arbeidd fram som eit samarbeid mellom alle medlemmane i studio. Det var Robertson som tok initiativet til oppløysinga av The Band i 1976, og då gruppa vart gjenforeint i 1980-åra ville han ikkje vere med.
I 1987 debuterte han som soloartist med albumet Robert Robertson. I 1994 gjekk Robertson attende til røtene sine med gruppa The Red Road Ensemble og Music for the Native Americans. I 1998 kom albumet Contact from the Underworld of Redboy. I 2000 spelte han i lag med Levon Helm på Ronnie Hawkins-songen «Blue Moon in My Sign» på albumet Can't Stop Rockin' – men Helm og Robertson var aldri i studio samstundes.
