Det har vore kyrkje på staden sidan mellomalderen, og ho var forfallen tidleg på 1600-talet. I 1619 fekk ein løyve til å oppføre ny kyrkje. Våpenhuset er truleg frå omkring 1700, og kyrkja vart omfattande vølt i 1803–06 og fekk galleri i vest og nord. Den berømte rosemålinga i kyrkja er frå 1826 og vart utført av Aslak Ånundson Vasshus og Knut Åvoldsson Byklum. Målinga vart restaurert i 1938 og 1997.
Bykle gamle kyrkje vart avløyst av ei ny kyrkje i 2004.