В IX—X вв. Оломоуц был важным центром Великой Моравии. Позднее он стал столицей региона Моравии. В X веке территория Моравии входила в состав епархии Регенсбурга, и позднее она вошла в состав епархии Праги.
Епархия Оломоуца была основана в 1063 году. В 1182 году моравский маркграф стал независимым и получил право назначать епископов для епархии Оломоуца. В 1207 году Католическая Церковь в Моравии получила освобождение от налогов и право избирать самостоятельно епископа. В XIII веке епископы Оломоуца имели титул князя-епископа и епископство Оломоуца было одним из церковных княжеств Священной Римской империи. 30 апреля 1344 года епископ Оломоуца стал викарным епископом архиепархии Праги.
В 1777 году епархия была повышена до архиепархии, а 5.12.1777 года архиепархия Оломоуца отдала часть своей территории новой епархии Брно.
Во время тоталитарного режима архиепископ Йосеф Матоха был интернирован с 1950 года до своей смерти в 1961 году. Новый архиепископ архиепархии Оломоуца был назначен Ватиканом в 1989 году.
30 мая1996 года архиепархия Оломоуца отдала часть своей территории новой епархии Острава-Олавы.