Епархия Оверни была основана в III веке. Изначально епархия Оверни входила в митрополию Буржа. По преданию епископом епархии Оверни был святой Австремоний.
В XI и XII веках епархия Оверни имела важное значение в истории Католической церкви. Епархию несколько раз посещали Римские папы. В 1095 году Оверни посетил Римский папа Урбан II, в 1106 году — Пасхалий II, в 1120 году — Каликст II, в 1130 году — Иннокентий II и в 1164 году — Александр III.
В конце XII века епархия Оверни стала называться как епархия Клермона.
9 июля1317 года епархия Клермона передала часть своей территории новой епархии Сен-Флура.
29 ноября1801 года после конкордата с Францией территория епархии Клермона была увеличена за счёт упразднённой епархии Ле-Пюи-ан-Веле.