Robert B. Sherman syntyi New Yorkissa lauluntekijä Al Shermanin (1897–1973) poikana. Hän haavoittui toisessa maailmansodassa polveen. Hän opiskeli Bard Collegessa ja pääsi vuonna 1958 ensimmäistä kertaa Top Ten -listalle laululla "Tall Paul". Walt Disney kiinnitti huomiota lahjakkaisiin veljeksiin ja kiinnitti heidät Walt Disney Studiosin palvelukseen, ja he työskentelivät Disneyn alaisina tämän kuolemaan (1966) saakka.
Sherman avioitui 27. syyskuuta 1953 Joyce Sasnerin (k. 2001) kanssa. Parille syntyi neljä lasta.