Hermsdorf wurde im Jahr 1350 als „Hermansdorf“ erwähnt. Ab 1551 ist das Rittergut Ringethal als Grundherr über den Ort belegt. Hermsdorf gehörte somit zusammen mit den benachbarten Orten Ringethal und Falkenhain zur Herrschaft Ringethal, welche eine zum Kreisamt Freiberg gehörige Exklave darstellte, die zum größten Teil von den Ämtern Rochlitz und Nossen umgeben war.[1]
Durch die zweite Kreisreform in der DDR wurde Hermsdorf im Jahr 1952 dem Kreis Hainichen im Bezirk Chemnitz (1953 in Bezirk Karl-Marx-Stadt umbenannt) angegliedert, der ab 1990 als sächsischer Landkreis Hainichen fortgeführt wurde. Mit der 1994 erfolgten Verwaltungsreform wurde Hermsdorf am 1. Januar 1994 in die Gemeinde Rossau eingegliedert[4] und dem neu gebildeten Landkreis Mittweida zugeteilt. Seit 2008 gehört die Gemeinde Rossau mit ihren Ortsteilen zum neu gebildeten Landkreis Mittelsachsen.