Sherman syntyi New Yorkissa Rosa ja Al Shermanin perheeseen. Valmistuttuaan Beverly Hills High Schoolista hän perusti duon André Previnin kanssa. Sattumoisin molemmat säveltäjät voittivat vuonna 1965 musiikkikategorian Oscarit eri elokuvista.
Sherman meni vuonna 1957 naimisiin Elizabeth Gluckin kanssa, jonka kanssa hän sai kaksi lasta. Hänellä oli jo tytär edellisestä avioliitosta. Richard ja Robert Shermanin ensimmäinen Top Ten -hitti ”Tall Paul” on vuodelta 1958.