Khu vực của huyện đã là huyện trung tâm khwaeng của mueang Khong Chiam, nay là Si Mueang Mai. Ngày 1 tháng 1 năm 1957, 3 tambon Khong Chiam, Huai Yang và Pho Klang được tách ra từ Khong Chiam để lập tiểu huyện Ban Dan (king amphoe).[1] Ngày 11 tháng 11 năm 1959, đơn vị này đã được nâng thanhg huyện.[2]
Ngày 14 tháng 9 năm 1971, huyện đã được đổi tên thành Khong Chiam, còn huyện cũ Khong Chiam đã được đổi tên thành Si Mueang Mai, do trung tâm lịch sử mueang Khong Chiam nằm ở đó.[3]
Huyện này được chia thành 5 phó huyện (tambon), các đơn vị này lại được chia ra thành 50 làng (muban). Thị trấn (thesaban tambon) Ban Dan nằm trên một phần của tambon Khong Chiam. Có 5 Tổ chức hành chính tambon.