삼국시대에는 위나라가 지배하고 있었는데 양주 공략의 주요 길목이어서 오나라가 끊임없이 이를 확보하려 하였다. 215년에는 위 무장 장료가 악진, 이전 등이 7,000명의 병력으로 오나라의 10만 명을 막아냈다. 특히 장료는 몸소 정예 기병 800명과 함께 오나라군을 기습하여 손권의 본진을 무너트렸다. 만총은 230년대 초기에 노후화된 합비성의 북서쪽에 합비 신성을 축조하고 234년 또다시 오나라의 손권을 격퇴했다. 지금도 합비에는 합비 신성 유적지가 남아 있다.
수나라 때는 합비현에 여주(廬州, 庐州)가 설치되었고 명나라와 청나라까지 계속됐으므로 루저우로도 알려졌다. 현재 도시는 송나라 때 시작된다. 초기 합비는 현재보다 훨씬 북부에 있었다. 남송 때는 금나라에 대항하는 최전선이 되었고 양국의 교역으로 번성하기도 했다. 1853년에서 1862년까지 안후이성의 임시성도였다.
1912년에 허페이현으로 이름이 바뀌었고 1945년중일 전쟁 승리 후에 안후이성의 성도가 되었다. 1949년1월 21일, 국공내전이 한창일 무렵 중국 국민당군을 물리친 인민해방군이 허페이에 입성하여 2월 1일 현을 허페이시로 승격시켰다. 1952년8월 25일 정식으로 안후이 성의 성도가 되었다.
지리
안후이성 중앙, 장강과 화이허의 사이에 있으며 작은 호수들이 많다. 안후이성 성도로서 행정 시설이 많고 석유 관련 산업이 눈에 띈다. 대규모 공장은 적지만 주요 과학 대학과 기술 연구 개발 시설의 비중이 높다.
난징에서 서쪽으로 81 km 떨어져 있다. 연평균 기온은 16.6 °C이고 연평균 강수량은 1000 mm이다. 겨울에 눈이 이따끔씩 온다. 7 ~ 9월에는 기온이 37 °C까지 오르기도 하며 일반적으로 습도가 높다.
안후이 성의 가장 큰 담수호인 차오호는 시에서 남동쪽으로 15 km 떨어진 곳에 있는데, 최근 10년 사이 심각하게 오염됐다.
도시의 2008년 1인당 GDP는 34482위안[5049달러]이고 노동자의 평균 임금은 30603위안이다.
국공내전 전에 허페이의 주요 산업은 농업이었다. 중화인민공화국이 성립된 후에 안후이성 성도는 화이닝에서 허페이로 옮겼다. 도시 개발을 지원하고자 많은 유능한 사람이 타지에서 왔다. 오늘날 허페이는 기계, 전자, 화학, 철강, 방직, 담배 산업 등이 발달해 있다.
안후이성 성도인데도 허페이는 여전히 가난하다. 안후이성 소재 타지에서 많은 사람들이 일자리를 찾고자 이곳으로 몰려들지만, 일자리를 얻기는 쉽지 않다. 그러나 도시 주변 특별경제구역의 새로운 산업 개발은 기술 학교 학생과 대학 졸업자를 위한 새로운 일자리를 창출했다.
2005년 여름에 시 당국은 도시 미관을 개선하고자 불법 건축물 수 천 개를 철거하고 오랫동안 세워져 있던 많은 지역의 시장을 철거하였다. 많은 빈민과 저임금 노동자가 거리로 내몰리는 부작용이 있지만, 화재와 전염병 위험을 감소시키는, 주민의 주거 환경 개선에 기여했다.