Church of God adlı tarikata bağlı Denis Michael Rohan adında Avustralyalı bir Hristiyan'ın 21 Ağustos 1969 tarihinde Mescid-i Aksa'yı kundaklamayı denemesinden sonra İslam ülkeleri başkanları BM'de daimi olarak temsil de edilen İslam Konferansı Teşkilatını kurdular. Pakistan'daki ikinci toplantılarında İslam Kalkınma Bankası'nın kuruluş planı gündeme getirildi. Bunun ardından İKÖ maliye ve ekonomik işleri bakanları 1973 yılında katıldıkları Cidde toplantısında mali ve parasal bir müessesenin kuruluşunun önemini vurguladılar. Nihayet İslam Konferansı Teşkilatı'nın 20 Ekim 1975 tarihli zirve toplantısında İslam Kalkınma Bankası'nın kuruluş planı onaylandı. Bugün İslam ülkelerinin tek çatı altında toplandığı tek kuruluş sıfatına sahiptir.