Diabelli syntyi Mattseessa, lähellä Salzburgia. Hän aikoi aluksi ryhtyä papiksi, mutta ottikin musiikin opetusta Michael Haydnilta. Opiskeltuaan Diabelli muutti Wieniin, jossa hän elätti itsensä opettamalla pianon ja kitaran soittoa. Vuonna 1818 Diabelli tutustui Pietro Cappiin, josta tuli myöhemmin hänen liikekumppaninsa. Diabelli ja Cappi perustivat yrityksen Cappi & Diabelli, joka julkaisi muun muassa Franz Schubertin teoksia. Diabelli kuoli vuonna 1858.