Adler muutti perheineen Wieniin vuonna 1864 ja aloitti neljä vuotta myöhemmin musiikin teorian ja sävellyksen opinnot Anton Brucknerin johdolla Wienin konservatoriossa. Alun perin Adler suuntautui lakiuralle ja opiskeli oikeustiedettä Wienin yliopistossa, josta hän sai tohtorin arvon vuonna 1878. Opiskeluaikanaan hän piti yliopistolla Richard Wagneria koskeneen luentosarjan, joka julkaistiin nimellä Richard Wagner vuonna 1904. Lisäksi hän perusti Felix Mottlin kanssa Akademischer Wagnervereinin (Akateeminen Wagner-seura). Adler päätti hylätä oikeustieteen, laati väitöskirjan länsimaisesta musiikista ennen vuotta 1600 ja sai filosofian tohtorin arvon vuonna 1880.[1] Kaksi vuotta myöhemmin hän pätevöityi yksityisdosentiksi[2]. Hän sai myös valmiiksi teoksen harmonian historiasta. Vuonna 1884 Adler perusti Philipp Spittan ja Friedrich Chrysanderin kanssa Vierteljahrsschrift für Musikwissenschaft -julkaisun. Vuonna 1885 hän sai nimityksen musiikin historian professoriksi Prahan saksalaiseen yliopistoon.[1]
Adler ehdotti vuonna 1888, että Itävallan valtio julkaisisi teoksen merkittävästä itävaltalaisesta musiikista. Työtä varten perustettiin Denkmäler der Tonkunst in Österreich -niminen hanke, jonka päätoimittajana Adler toimi vuosina 1894–1938. Hankkeen yhteydessä julkaistiin itävaltalaista musiikkia 83 laitoksen verran. Adler oli vuonna 1892 Wienissä pidetyn Kansainvälisen musiikki- ja teatterinäyttelyn musiikin jaoksen järjestäjä. Hän sai vuonna 1898 nimityksen musiikin historian professoriksi Wienin yliopistoon. Hän perusti sinne musiikkitieteelliselle tutkimukselle omistetun instituutin. Adlerin luennot olivat suosittuja, ja niitä tulivat kuulemaan opiskelijat eri puolilta Eurooppaa. Hänen opiskelijoistaan monista tuli myöhemmin tunnettuja säveltäjiä ja musiikkitieteilijöitä.[1]
Adler oli Gustav Mahlerin läheinen ystävä ja julkaisi vuonna 1916 Mahleria käsittelevän kirjan. Hänen kiinnostuksensa ulottui hänen oman aikansa musiikkiin, ja hän ihaili myös Arnold Schönbergin teoksia. Vuonna 1924 Adlerista tuli Handbuch der Musikgeschichten toimittaja.[1]
Adlerin tytär, lääkäri Melanie Karoline Adler joutui Maly Trastsjanets -tuhoamisleirille, jossa hänet tapettiin 26. toukokuuta 1942.[3]
