Urodził się według większości biografów w 1915, ale on sam twierdził, że w 1913[4]. Jego ojcem był Indianin z plemienia Zuni, który pół roku po narodzinach syna porzucił rodzinę i słuch po nim zaginął[5]. Wczesne dzieciństwo Harry spędził pod opieką babki (matka ciężko pracowała na utrzymanie rodziny), a potem u mieszkającego w Louisville w stanie Kentucky – wujka, górnika i farmera. To on zainteresował siostrzeńca muzyką, ucząc go gry na fisharmonii. W późniejszym czasie Harry znalazł w domu stary kornet, na którym ćwiczył gamy. Słuchał również płyt z nagraniami Louisa Armstronga i Bessie Smith, co miało wpływ na jego grę.
W wieku jedenastu lat ciężko zachorował na dur brzuszny i był bliski śmierci. Rok później matka zabrała go do Columbus. Zadowolona z muzycznych zdolności syna, kupiła mu (kosztem dużych wyrzeczeń[6]) trąbkę, na której wkrótce zaczął grać zarobkowo w miejscowej orkiestrze, kierowanej przez Earla Hooda. W 1933 przyłączył się do The Jeter-Pillars Orchestra i wraz z nią przeniósł się do St. Louis, gdzie grał jeszcze dwa lata. Następnie został polecony Lucky’emu Millinderowi, który w Nowym Jorku prowadził wówczas znaną orkiestrę. Znalazł się w jej składzie, występując u boku doskonałych muzyków: trębacza Charliego Shaversa, pianisty Billy’ego Kyle’a i saksofonisty Dona Byasa. Praca w orkiestrze nie układała się najlepiej. Edison bowiem został z dnia na dzień zwolniony[6], kiedy Millinder zatrudnił Dizzy’ego Gillespiego. Ten jednak wkrótce przeszedł do orkiestry Teddy’ego Hilla i Edison został ponownie zaangażowany.
Po niemiłym okresie współpracy z Millinderem, Edison w 1937 znalazł się w big-bandzieCounta Basiego. Dzięki „miłej łagodności”[7] jego gry Lester Young od razu nazwał go „Sweetie Pie”, co w rezultacie dało przydomek: „Sweets”. Edison grał w orkiestrze Basiego 13 lat, aż do 1950, kiedy okresowo zawiesiła działalność. W tym czasie nagrał z nią ponad 50 płyt, rejestrując m.in. swoje duety z innym wybitnym trębaczem – Buckiem Claytonem. Ponadto zaprzyjaźnił się wówczas z Billie Holiday, która występowała wtedy w zespole Basiego.
W 1952 przeprowadził się do Kalifornii, gdzie stał się bardzo pożądanym muzykiem studyjnym. Stał się też głównym trębaczem solistą w muzycznych poczynaniach Nelsona Riddle’a, aranżera, kompozytora i bandlidera, ówczesnego potentata w kalifornijskim przemyśle nagraniowym. Przez sześć był stałym członkiem orkiestr studyjnych takich gwiazd, jak Frank Sinatra, Bing Crosby, Nat „King” Cole, Ella Fitzgerald i Jerry Lewis. Uczestniczył również w realizacji ścieżek dźwiękowych do wielu filmów fabularnych. Dzięki swojej aktywności muzyka sesyjnego został objęty przez system emerytalny dla artystów studyjnych, uzyskując w ten sposób cotygodniowe i wypłacane dożywotnio świadczenie w wysokości 800 USD[6]. Zapewniło mu to w późniejszym okresie życia wysoki standard materialny.
W drugiej połowie lat 50. Edison prowadził także własny zespół, ponadto regularnie występował w koncertach Jazz at the Philharmonic oraz grał w orkiestrach Henry’ego Manciniego, Quincy’ego Jonesa, Buddy’ego Richa i Louiego Bellsona. Po reaktywacji big-bandu Basiego często występował z nim jako gość specjalny. Znów głównie przebywał w Nowym Jorku, gdzie odnosił sukcesy ze swoim zespołem. W jego składzie znajdował się wokalista Joe Williams, polecony „Sweetsowi” przez Basiego. Muzyczny alians Edisona z Williamsem był bardzo udany i zaowocował m.in. nagraniem kilku cenionych płyt. Na początku lat 60. jednak Edison postanowił powrócić do Kalifornii i pracy muzyka studyjnego. Jako członek zespołów akompaniujących występował również w cyklicznych i pojedynczych telewizyjnych programach rozrywkowych, których gwiazdami byli m.in. Frank Sinatra, Rosemary Clooney, Glen Campbell, Bill Cosby i Della Reese. Reaktywował także swoją grupę (kwintet), z którą występował w Los Angeles i Las Vegas, mając długoterminowe angaże.
W latach 70. corocznie koncertował w Europie, początkowo z big-bandem Louiego Bellsona, a potem z mniejszym zespołem, który prowadził wraz ze starym przyjacielem z orkiestry Basiego, saksofonistą Eddiem „Lockjaw” Davisem. W późniejszym okresie zajął się także działalnością edukacyjną, prowadząc stałe seminaria jazzowe na słynnym Uniwersytecie Yale. Dwukrotnie (1983, 1992) otrzymał Jazz Tribute Award[8], przyznawaną corocznie przez Los Angeles Jazz Society, niekomercyjną organizację, mającą na celu „zainteresowanie, edukowanie i zaangażowanie uczniów szkół publicznych w żywe rytmy i dźwięki jedynej w pełni amerykańskiej muzyki – jazz”[9].
W 1985 stwierdzono u niego chorobę nowotworową. Nie zakończył jednak kariery i niemal do końca życia pozostał aktywnym artystą. Na krótko przed śmiercią powrócił do rodzinnego Columbus, żeby być blisko mieszkającej tam córki. Zmarł 27 lipca 1999.
Epizody filmowe
Edison jako jeden z muzyków jam session pojawił się w słynnym, krótkometrażowym filmie dokumentalnym Jammin’ The Blues. Wyprodukowany przez Normana Granza, a sfotografowany i wyreżyserowany przez Gjona Mili obraz uzyskał w 1944 nominację do nagrody Oscara. Obecnie jest dostępny w formacie DVD pod nazwą handlową: Jammin’ the Blues • Norman Granz Presents Improvisations.
Nagrał partie trąbki, eksponowane w ścieżce muzycznej biograficznego filmu Lady Sings the Blues z 1972, w którym główną rolę (Billie Holiday) zagrała Diana Ross.
Wybrana dyskografia
Jako lider lub współlider
1953/2003 Harry Edison Quartet (Pacific Jazz/Fresh Sounds Spain)
1954 Willie Smith with Harry Edison (Aladdin Records)