Ankeny didirikan oleh John dan Sarah Ankeny pada 1875 dan diinkorporasikan pada 28 Februari 1903.[6] Sebuah jalur rel kereta api Des Moines dari Ankeny ke Ames diselesaikan pada 1874 dan pelayanan penumpang didirikan pada 1880.[7]
Pertambangan menjadi sebuah aktivitas berpengaruh di wilayah Ankeny pada awal abad ke-20.