ראמין, בן לכומר, נולד בקרלסרוהה, גרמניה. בגיל 12 התקבל למקהלת הנערים סנט תומאס המהוללת של כנסיית תומאס בלייפציג, על ידי מי שהיה אז הממונה על השירה בכנסייה, גוסטב שרק. באותה עת היה קארל שטראובה, נגן העוגב, המנצח, המוציא לאור והתומך במוזיקה של מקס רגר, עוזרו של שרק, והוא נתן דעתו על כישרונו של ראמין כנגן עוגב ומלחין. בהמשך, כששטראובה קיבל עליו את משרת הממונה על המוזיקה בכנסיית תומאס, היה ראמין לעוזרו וממלא מקומו בשעת הצורך כמנצח מקהלה ומנהל.
בתקופת מלחמת העולם הראשונה גויס ראמין לשירות צבאי; אף על פי כן, הצליח לעמוד בהצטיינות בכל בחינותיו בקונסרבטוריון של לייפציג בינואר 1917 וב-30 במאי 1918 הודיע לו שטראובה במכתב לחזית על בחירתו לנגן עוגב בכנסיית תומאס. ראמין שב מן המלחמה ונכנס לתפקידו, משרה בה החזיק במשך עשרים ושתיים שנים עד פרוץ מלחמת העולם השנייה.
ראמין בנה קריירת ביצוע מצליחה כנגן עוגב קונצרטי; עם זאת, בשנות ה-30' הקדיש את זמנו יותר ויותר לניצוח. הוא קיבל עליו את ניהול התאחדות המורים לשירה (Lehrergesangsverein) בלייפציג ב-1923 ועבד בקביעות עם מקהלת הגוונדהאוס. בשנת 1935 התמנה למנצח המקהלה הפילהרמונית שליד הפילהרמונית של ברלין, מינוי שהעצים את פרסומו. הוא היה נגן העוגב בעצרת המפלגה הנאצית בנירנברג ב-1936, שם ניגן בעוגב שנבנה במיוחד לתכלית זו, הגדול ביותר בגרמניה באותו זמן. בראש השנה האזרחית 1940 התמנה ראמין למנצח מקהלת תומאס בכנסיית תומאס, כמחליפו של קארל שטראובה, משרה בה החזיק עד מותו. לאחר מינוי זה, הקדיש ראמין את זמנו לביצוע היצירות הכוראליות של באך, והקנה לו ולמקהלה תהילה בינלאומית בשני קונצרטים ברוסיה1953 ובדרום אמריקה1955. שנה לאחר סיור זה, האחרון בחייו, לקה ראמין באירוע מוחי פתאומי ומת ב-27 בפברואר 1956.
כמה מהקלטותיו של ראמין יצאו מחדש על תקליטורים. הידועה ביותר בהן היא הגרסה רבת-השבחים (אם כי מקוצרת מאוד) שלו מ-1941 למתאוס פסיון של באך, עם הסולנים קארל ארב, טיאנה למיץ וגרהרד היש. ראמין היה פעיל גם כמורה לעוגב. בין תלמידיו הנודעים כריסטוף אלברכט, קארל ריכטר, האנס-מרטין שניידט והלמוט ואלכה.