"산다"라는 이름은 오랜 역사를 가지고 있다. 산다라는 이름은 약 1300년 전부터 사용되었을 것으로 추정된다. 이곳에 사람이 살았던 역사는 온화한 기후와 풍요로운 자연 환경 덕분에 약 30,000년 전으로 거슬러 올라간다.
7세기 말에 고신지의 사내 마을이 현재의 야시키 주변에 만들어졌다. 산다 성은 무로마치 시대에 세워졌으며, 또한 조카마치가 아즈치-모모야마 시대에 세워졌다. 산다는 에도 시대에 구키 씨가 지배하는 36,000석의 작물을 생산하는 조카마치로써 번영하였다. 메이지 시대 이후 철도의 개통으로 아리마 군의 중심지로써 팽창하였고, 1956년에 아이 촌과 혼조 촌이 합병해 아이노 정이 되었다. 또한 산다 정, 미와 정, 히로노 촌, 오노 촌, 다카히라 촌이 합병해 산다 정이 되었고, 1957년에 산다 정이 아이노 정을 편입하였다. 1958년 7월에 산다 정은 시로 승격해 현재의 산다 시가 되었다.
1958년 10월 1일 시 승격 당시 처음으로 통계를 잡았을 때 인구는 32673명으로 효고현에서 가장 인구가 적은 자치단체였는데 시 승격 이후에도 인구는 제자리걸음으로 1985년 10월 1일 조사까지 3만 명대를 유지하였다. 그러나 오사카의 베드타운으로서 호쿠세츠미타 뉴타운 개발이 시작되면서 인구가 급격히 증가하여 1985년 4만명, 1990년 6만명, 1991년 7만명, 1993년 8만명, 1996년 10만명을 돌파했다. 인구 증가율은 효고현은 물론 10년 연속 일본 1위를 기록했으며, 1999년 10월 1일 조사에서는 11만 395명을 기록했으나 이후 인구 증가율이 둔화되었고, 2010년 국세조사에서 11만 4216명으로 집계된 이후 감소 추세를 보이고 있다. 뉴타운 내에 도시 인구의 절반 이상이 거주하고 있다. 신규 거주자가 적은 농촌 지역과 플라워타운의 고령화 대책이 시급해 보인다.