Anži Mahatškala perustettiin 1991 ja seuraavana vuonna se aloitti Venäjän 2. divisioonassa. Anži nousi Venäjän 1. divisioonaan 1996 ja voitti sen 1999.[1][2] Ensimmäinen kausi Venäjän pääsarjassa päättyi neljänteen sijaan ja seura pääsi mukaan UEFA Cupiin.[3] UEFA Cupissa Anži sai vastaansa skotlantilaisen Rangersin, joka ei suostunut matkustamaan ensimmäiseen osaotteluun Dagestanin ja viereisen Tšetšenian turvallisuustilanteen vuoksi. Rangers vei asian urheilun vetoomustuomioistuimeen ja lopulta ottelupari päätettiin ratkaista yhdellä puolueettomalla kentällä pelatulla ottelulla. Rangers voitti Varsovassa pelatun pelin 1–0.[4][5]
Anži Mahatškala putosi 1. divisioonaan kauden 2002 päätteeksi.[6] Pääsarjatasolle Anži palasi kaudeksi 2010 voitettuaan edellisellä kaudella 1. divisioonan.[7] Anži Mahatškala osti kesällä 2011 Samuel Eto'on Internazionalesta[8] ja Juri Žirkovin Chelseasta.[9]