È una delle quattro grandi squadre saudite insieme all'Al-Hilal, l'Al-Nassr e i concittadini dell'Al-Ittihad e, fino alla stagione 2021-2022, era assieme alle squadra già citate tra le uniche a non essere mai retrocesse.
Il club fu fondato nel cuore di Gedda, in via Principe Muhammad bin Abd al-Aziz Al Sa'ud, nel 1937 con il nome di Al-Thaghar da un gruppo di studenti della scuola Al-Falah, la più antica della città.
Il 3 luglio 2009 la squadra fu ricevuta dal Custode delle due Sacre Moschee, il reAbd Allah, dopo aver vinto quattro trofei internazionali nel 2008, ricevendo per l'occasione il titolo onorifico di "ambasciatore della patria".
Dal 2014 al 2016, sotto la guida dello svizzero Christian Gross, la squadra vinse tre titoli: la Coppa del Principe della Corona saudita 2014-2015, il campionato saudita 2015-2016 e la Coppa del Re dei Campioni del 2016. Al termine del campionato 2021-2022 l'Al-Ahli retrocesse in seconda serie, per poi riguadagnare la promozione già l'anno dopo.