Tyumenyben született, Szibériában. Családjával 1893-ban az Amerikai Egyesült Államokba emigrált. Édesapja 1896-ban bekövetkezett halála után ő maradt a családfenntartó. Újságot árult és alkalmi munkából élt. Táncdalokat kezdett írni. Nevet változtatott (IPI névazonosítója 00002852023, Irving Berlin néven 199 művét jegyezték be zeneszerzőként; neve mellett sehol nem szerepel szövegíró) és új nevén jelent meg 1907-ben a "Marie from Sunny Italy" című dal szövege.
1911-ben írta meg máig is örökzöld slágerét Alexander's Ragtime Band címen (ISWC kód T-914.722.115-6). Ekkortól zenei karrierje felfelé ívelt, a Broadway ünnepelt szerzőjévé vált,
miközben az 1930-as évektől számos híres hollywoodi film zenéjét szerezte. (például God Bless America. Jóval több dalszöveg fűződik a nevéhez, mint a szerzői jogi adatbázisban szereplő 199 zeneszám [8]
Sikerei ellenére sohasem tanult meg tökéletesen sem kottát olvasni, sem kottát írni. Speciális zongorát készítettek a számára; dalait egy asszisztens kottázta le.
Egészségi állapota élete vége felé hanyatlott; nem vehetett részt személyesen a 100. születésnapjára rendezett ünnepségen. Irving Berlin New Yorkban halt meg 101 éves korában és a Woodlawn temetőben nyugszik Bronxban (New York).
Híres dalai
Alexander's Ragtime Band
Cheek to Cheek ISWC T-903.719.100-7 (társszerző: Koot Hermanus)
White Christmas (T-911.923.533-5 társszerző Beck Randy)
God Bless America (T-302.076.672-3 társszerző Bray Dawid Owen)