Oberhain nevét először egy 1370-ben kelt dokumentumban említették Obirn Hayn alakban. A múltban különösen a bányászata volt jelentős. A 19. században pedig a város fontos bevételi forrásai közé tartozott az olívaolaj kereskedelem.
1918-ig a hely a Schwarzburg-Rudolstadt hercegség területéhez tartozott.
1950. július 1-jén Barigau, Mankenbach és Unterhain korábban önálló településeket is Oberhainhoz csatolták
.