Pendidikan beliau dimulai di usia dini dimana beliau mengaji kepada beberapa ulama yang ada di Martapura, di antaranya kepada pamannya yang bernama KH Kasyful Anwar. Di bawah pengawasan pamannya inilah beliau bersama sepupunya, KH Syarwani Abdan Bangil, mendapatkan pembelajaran keagamaan.[2]
Pada 1350 H/1930 M, Guru Anang dan sepupunya berangkat ke Mekkah untuk menunaikan Ibadah haji sekaligus mempelajari agama dengan diantar langsung oleh pamannya, Kasyful Anwar.[1]
Setelah kembali dari makkah, Anang Sya'rani lalu mulai mengadakan pengajian di daerah tempat tinggalnya, di Kampung Melayu, Martapura. Beberapa diantara murid-muridnya adalah: