Pochodził z dość zamożnej rodziny[2]. Jego rodzicami byli Brown i Maggie Glasgow[2]. Miał bardzo muzykalną siostrę przyrodnią, Ann, pianistkę w triu jazzowym, które odbywało próby w ich domu i prawdopodobnie dzięki temu sam został muzykiem[3].
Sięgnął po saksofon zainspirowany grą usłyszanego na koncercie Colemana Hawkinsa. W liceum Lincolna, do którego uczęszczał, grał na saksofonie altowym na szkolnych potańcówkach. Towarzyszyła mu siostra na fortepianie. W Wheeling także po raz pierwszy wystąpił w dużej, piętnastoosobowej orkiestrze[3]. Po rozpoczęciu studiów w West Virginia State College w Charleston również występował w dużym zespole uczelnianym. Po roku porzucił studia i latem 1928 wrócił w rodzinne strony. Dołączył do „najbardziej swingującego zespołu jazzowego w okolicy” Perry’s Broadway Buddies[2]. Grupa regularnie występowała na starych stanowych terenach targowych na miejskiej Wheeling Island i w starej tawernie U Henry’ego Claya, niedaleko osady West Alexander[2].
W 1929 otrzymał pierwszy znaczący angaż, zostając członkiem orkiestry pianisty i organisty Sammy’ego Stewarta. Zamienił wówczas saksofon altowy na tenorowy. Stało się tak zarówno ze względu na potrzeby zespołu, jak i spotkanie z Cecilem Scottem, saksofonistą tenorowym, z którym okazjonalnie występował. W 1930 zamieszkał na stałe w Nowym Jorku[1].
Grał w najlepszych big-bandach epoki swingu, prowadzonych przez legendarnych liderów takich jak Fletcher Henderson, Benny Carter, Count Basie i Cab Calloway. Dla orkiestry Hendersona skomponował przebój Christopher Columbus ze słowami Andy’ego Razafa. Natomiast najdłużej, bo od 1937 do przedwczesnej śmierci, grał w orkiestrze Caba Callowaya. Ponadto występował jako sideman w mniejszych formacjach, firmowanych przez m.in. Bessie Smith, Lionela Hamptona, Roya Eldridge’a, Billie Holiday i Teddy’ego Wilsona[3]. Dokonywał z nimi także licznych nagrań. Od czasu do czasu i niedługo prowadził również własne zespoły[1]. W 1937 i 1938 amerykańskie czasopismo muzyczne „Metronome” nominowało go w swoim corocznym plebiscycie do Orkiestry Gwiazd (All-Star Band)[2].
„The New Grove Dictionary of Jazz”: Berry pozostawał pod silnym wpływem Colemana Hawkinsa, ale szybko wypracował własny, charakterystyczny styl. (...) Jego brzmienie było mniej zmysłowe niż Hawkinsa, a wyobraźnia melodyczna nie tak płodna, ale nie ustępował starszemu saksofoniście pod względem wyrafinowania harmonicznego i przewyższał go, jeśli chodzi o swing i drive. Berry był niedościgły w grze w szybkich tempach. Wtedy najbardziej ujawniała się jego nadzwyczajna kontrola oddechu, nieomylne wyczucie czasu i mocny, równy ton instrumentu[2].
Zmarł mając 33 lata wskutek pęknięcia czaszki i obrażeń wewnętrznych odniesionych w wypadku drogowym, który wydarzył się ok. 24 km od Conneaut w stanie Ohio[4]. Samochód wiozący go razem z członkami orkiestry Callowaya na występy w kanadyjskimToronto wpadł podczas gęstej mgły w poślizg i uderzył w końcowy fragment stalowego mostu[4][5]. Po przewiezieniu do rodzinnego Wheeling został pochowany na tamtejszym cmentarzu Penisula[4]. W 1964 ze względu na budowę tunelu w części tej nekropolii jego grób przeniesiono na Greenwood Cemetery[5].
Wg amerykańskiego krytyka jazzowego i pisarza Gary’ego Giddinsa muzycy nazywali Berry’ego „Chu” albo dlatego, że przygryzał (chew – gryźć, żuć) ustnik saksofonu, albo ze względu na jego wąsy à la Fu Manchu[6].