Det finnes flere hellere her med spor etter bosetning tilbake til steinalderen,[4] størst er Sandhelleren og Håkkahelleren (32,5 m dyp, 12 m bred og 6 m høy). Halmøya skal ha vært skipreide i Håkon den godes tid, og skulle stille med minimum ett skip med mannskap.[5] Øya er også gammelt kirkested. Halmøy kirke nevnes første gang i skriftlige kilder i 1468, men er trolig betydelig eldre.[6][7] Kirken ble revet i 1874.[8] Halmøya var bebodd i enda hundre år, fram til 1970-tallet.