Bernstein kom fra en jødisk familie fra Rivne i Ukraina. Han fikk opprinnelig fornavnet Louis, etter at bestemoren hadde insistert på dette navnet. Foreldrene kalte ham imidlertid hele tiden Leonard og de endret offisielt navnet til dette da han var 15 år gammel. Faren Sam, som var forretningsmann, var i utgangspunktet ikke så begeistret for sønnens musikalske ambisjoner, men tok ham allikevel med på konserter. Etter å ha hørt pianomusikk i tidlig alder, var Bernstein svært fascinert og tiltrukket av dette. Han fikk utdannelse ved The Boston Latin School i piano og latin i 1934, han begynte deretter ved Harvard University hvor han studerte musikk med Walter Piston. Deretter gikk han ved The Curtis Institute of Music og tok eksamen i dirigering i 1939.
I 1940 deltok han for første gang ved Boston Symphony Orchestras sommerinstitutt, Tanglewood, og han kom til å være her i en rekke år sammen med dirigenten og grunnleggeren Sergej Koussevitskij.
Bernsteins siste opptreden som dirigent skulle vise seg å være nettopp ved Tanglewood, hele 50 år etter at han var her første gang.
Privatliv
Som ung mann i New York, levde Bernstein for sin tid ganske åpent som homofil, men etter en ganske stormfullt og intenst forhold, giftet han seg 9. september1951 med den chilenske skuespilleren Felicia Montealegre Cohn. De fikk barna Jamie (1952), Alexander (1955) og Nina (1962).
Det ble hevdet at ekteskapet skal ha vært motivert ønsket om å unngå sladder og berolige den konservative styret for Boston Symphony Orchestra da Bernstein søkte en så fremtredende plass som dirigent. Men Bernstein skal ha hatt et oppriktig, hengivent og harmonisk forhold til sin ektefelle og forble gift med henne så lenge hun levde. Ikke desto mindre hadde han en del diskrete utenomekteskapelige forbindelser og bodde en periode hos vennen Tom Cothran, men han flyttet tilbake til ektefellen da hun fikk lungekreft og bodde hos henne helt til hun døde.
Dirigent
Kort tid etter at Bernstein hadde blitt ansatt som assisterende dirigent ved New York Philharmonic Orchestra, måtte han debutere 14. november1943 på meget kort varsel og uten noen øvelse med orkesteret, da dirigenten Bruno Walter brått ble syk med influensa. Bernstein ble en øyeblikkelig suksess og populær blant publikum og musikere. Hans berømmelse kom raskt, særlig fordi debutkonserten også ble sendt på radio over hele USA.
Solisten var Joseph Schuster, som spilte Richard Strauss' Don Quixote, et stykke Bernstein aldri hadde dirigert tidligere, med Bruno Walter gikk igjennom og coached ham i forkant av konserten. Konserten forefinnes på CD.
Det oppsto en stor kontrovers da Bernstein før en konsert med New York Philharmonic Orchestr 6. april1962 i Carnegie Hall i New York tok offentlig avstand fra den tolkningen Glenn Gould skulle framføre av Johannes Brahms' Pianokonsert nr. 1.