כיליד העיר זארבריקן, הרמן החל לשחק במועדון הכדורגל אוכטלפאנגן מהעיר הסמוכה אילינגן. בגיל 13, הצטרף לקבוצת הילדים של זארבריקן. בקיץ2008, הצטרף לבורוסיה מנשנגלדבך.
ב-16 בינואר2010, הרמן ערך את הופעת הבכורה שלו כשחקן, כאשר עלה כמחליף למשחק הבונדסליגה נגד בוכום. גלדבאך כבש שער תוך פחות מדקה מרגע כניסתו למשחק, כאשר הרמן מבשלו לפביאן באקר. המשחק לעומת זאת, הסתיים בהפסד קבוצתו 1–2. במחצית השנייה של עונת 2009–2010, שותף, הרמן ב-13 משחקי ליגה, וכך זכה לעצמו בחוזה חדש עד ל-2014. בשלב מאוחר יותר בקריירה, כאשר הפך עצמו לשחקן סגל קבוע במועדון, האריך את חוזהו עד ל-2019. בקיץ 2024 פרש הרמן ממשחק פעיל, לאחר שהעביר את כל קריירת הבוגרים שלו בבורוסיה מנשנגלדבאך. ב-15 עונותיו בקבוצה ערך הרמן 351 הופעות ליגה והבקיע בהן 47 שערים. נכון לאוגוסט 2024, מספר הופעות הליגה מדרג את הרמן במקום הרביעי בטבלת שיאני ההופעות של בורוסיה מנשנגלדבאך בבונדסליגה בכל הזמנים, אחרי ברטי פוגטס, אובה קאמפס והרברט וימר[1].