산웨이 시에는 약 6,000년 전의 신석기시대의 유적이 발굴되고 있으며 수렵이나 어로를 중심으로 활동을 하고 있었다. 고대에는 백월의 활동지였고, 중원의 영향이 미치게 된 것은 진대 이후이다. 진한대에는 남해군 박라현(博羅县)이 설치되어 있었다. 기원전 111년, 한의 무제에 의해 남월국이 멸망하면서 산웨이 지역에 해풍현(海豊县)이 설치되어 중원 왕조의 직접 지배가 시작되었다. 591년, 수의 문제는 동관군과 양화군을 합병해 순주(循州)를 설치해, 해풍현도 순주의 관할이 되었다.
622년, 당의 고조는 해풍현의 동부에 안륙현(安陸县, 현재의 루펑 시, 루허 현)을 설치했지만, 627년, 태종에 의해 폐지되어 해풍현으로 되돌려졌다. 오대십국시대, 순주가 정주(禎州)로 개칭되었고 북송 시대의 1021년에 황태자인 조정의 이름을 피해 혜주(恵州)로 개칭되어 해풍현 외에 박라, 하원, 귀선의 3현이 광남동로 혜주의 관할이 되었으며, 그 후에도 행정구의 변화가 있었지만 근대까지 산웨이는 혜주의 관할에 있었다.
중화인민공화국이 성립하면서 하이펑 현·루펑 현은 둥장 전원공서(東江専員公署)의 관할에 놓여졌다. 1953년에 둥장 전원공서는 웨둥 행정공서(粤東行政公署)로, 1957년에 후이양 전원공서(恵陽専員公署)의 관할로 행정 개편되었다(1958년부터 1983년까지는 샨터우 지구 전원공서의 소관).
1988년 1월, 국무원의 지시로 하이펑 현·루펑 현의 상위 행정구로서 산웨이 시가 설치되었고 하이펑 현 남부 연해의 산웨이, 훙차오, 마궁, 둥융, 톈치, 지에성, 저랑의 7진을 청 구로 했고 루펑 현 북부 산간의 허톈, 허커우, 신톈, 뤄시, 수이춘, 상후, 난완, 둥컹의 8진으로 이루어진 루허 현이 설치되었다. 1995년에 루펑 현이 현급시로 승격해 현재에 이르고 있다.