Après ses études, Otto Hermann a travaillé comme organiste et professeur de musique. De 1906 à 1908, il est le premier directeur musical de l'Opéra national estonien de Tallinn ainsi que son chef d'orchestre principal. Il a organisé et dirigé les premiers concerts symphoniques dans la capitale estonienne.
Hermann a également composé des chœurs et des chants solistes ainsi que quelques œuvres pour orchestre. Les plus connues sont la Kevade sümfoonia (« Symphonie de printemps », 1924), cinq poèmes symphoniques, quatre suites pour orchestre ainsi que la musique de scène pour le drame Die Argonauten de Franz Grillparzer. En 1926, Hermann composa l'opéra Ilo, qui ne fut pas représenté[1].
Otto Hermann est aujourd'hui enterré dans le cimetière de Keila[2].