Den nordlige ø blev i 800-tallet købt af en arabisk købmand, som grundlagde Kilwa Kisiwani, Kilwa på øen, som senere blev en af de vigtigste handelspladser ved det Indiske ocean. Rigdommen medførte at man kunne bygge imponerende bygninger af sten og koral, som store moskeer og paladser. Blandt andet Vasco da Gama blev imponeret.
1505 blev byen erobret af portugiserne som byggede et fort og et fængsel, kaldet Gereza.
Songo Mnara, som også har storslåede ruiner af paladser og moskeer, ligger på en ø lige syd for Kilwa Kisiwani.