כשהיה בני בן עשר רשם אביו אותו ושנים מאחיו לשיעורי מוזיקה, בהם גודמן התבלט מאוד. הוא החל לנגן בלהקת ג'אז של נערים בבית האל, וקיבל הדרכה גם בתחום הג'אז וגם במוזיקה קלאסית, דבר שהשפיע על נגינתו ויצירתו. גודמן למד מהר והשתלב בנגינה המקצועית כבר מגיל צעיר מאוד. כשהיה בן 16 הצטרף לאחת הלהקות המובילות של שיקגו, התזמורת של בן פולק, איתם הקליט את הקלטותיו הראשונות. ההקלטה הראשונה תחת שמו הוקלטה אחרי שנתיים בלבד.
תקופת הסווינג
בסוף שנות העשרים עבר גודמן לניו יורק, שם זכה להערכה רבה. בשנת 1932 הקים את התזמורת שלו, שהפכה לאחת הגדולות והחשובות בתולדות הג'אז. בתזמורת של גודמן התגלו מוזיקאים רבים וחשובים, והיא הופיעה והקליטה הקלטות רבות. בני גודמן נחשב לאחד מהמוזיקאים שעיצבו את תקופת הסווינג. לא רק שהיה אחד משלושת מנהיגי התזמורות הגדולים (כשהאחרים הם אלינגטון ובייסי) הוא גם גילה מוזיקאים רבים וחשובים, כשהחשוב מביניהם הוא כנראה צ'ארלי כריסטיאן.
כריסטיאן הופיע בהרכב בשנת 1939, הביא איתו את הגיטרה החשמלית שלו, ונחשב לאבי הגיטרה החשמלית בג'אז. זה לא הדבר היחיד שכריסטיאן הביא איתו להרכב. הוא הביא גם את סגנונו הייחודי ואת רעיונותיו המורכבים. בהמשך הפך כריסטיאן לאחת ההשפעות הגדולות על מייסדי הבי בופ, וניצנים מהשפעה זו נראו עוד בתקופתו עם גודמן. במשך השנתיים שכריסטיאן ניגן עם התזמורת הוא כתב קטעים רבים (שעל חלקם גודמן לקח את הקרדיט) והיווה השראה למוזיקאים.
בשנות הארבעים הביג בנדים נהיו פחות פופולריים, ויותר קשים להקלטה (בשל בעיות עם חברות התקליטים). כשהחל הבי בופ להופיע וקצת יותר מאוחר הקול ג'אז גודמן השתתף במעבר. הוא הקליט עם להקות קטנות, כנהוג בסגנון, ונגינת הקלרינט שלו השפיעה על כל הנגנים שבאו אחריו. גם ההקלטות שלו זכו לתהודה חיובית הן ממבקרים והן מהקהל. בפעם הראשונה שהוא שמע את נגינתו של ת'לוניוס מונק, פסנתרן שהיה מחלוצי הבי בופ, הוא אמר: "אני אוהב את זה, אני אוהב את היצירה ואני אוהב את הדרך שבה הוא מבצע אותה [...] אני חושב שיש לו חוש הומור ויש לו כמה דברים טובים שם".
למרות שבשנה וחצי הראשונות זכה גודמן לביקורת חיובית, בהמשך הוא לא עמד בקצב השינויים שהתרחשו בתחילת מהפכת הבופ. עד מהרה הוא הפך מתוסכל ועזב את הסגנון לחלוטין. אין ספק שגודמן נזכר בספרי ההיסטוריה בזכות נגינת הסווינג שלו, שנמשכה גם לאחר שהופיע הבופ. בסופו של דבר שינה גודמן את דעתו לחלוטין ואף טען כי "אולי הבופ החזיר את המוזיקה אחורה יותר מכל דבר אחר [...] באופן בסיסי זה שגוי לחלוטין, אפילו הסולמות לא נכונים".
לאחר שהתייאש מהבי בופ חזר גודמן לנגן גם מוזיקה קלאסית ואף הצטיין בכך. רבים החשיבו אותו לגדול נגני הקלרינט של אותה התקופה. הוא התנסה גם בשילובים בין הסווינג למוזיקה הקלאסית, וכתב עיבודים רבים ליצירות קלאסיות, למשל של המלחין בלה בארטוק.