Edison bracht zijn kinderjaren in Kentucky door, waar zijn oom hem in contact bracht met muziek. Nadat hij als twaalfjarige terug naar Columbus verhuisde, begon hij met trompetspelen.
Edison werd pas echt bekend als solist bij de Count Basie Orchestra en als de componist en arrangeur. Hij speelde ook in de film Jammin' The Blues uit 1944.
Toen de Count Basie band tijdelijk uit elkaar ging begon Edison aan een solocarrière. In de vroege jaren 50 ging hij wonen aan de westkust en werd een veelgevraagd artiest, die belangrijke bijdragen leverde aan onder meer het werk van Billie Holiday, Frank Sinatra, en Ella Fitzgerald. In dezelfde periode leidde hij ook zijn eigen small-groupsessies en ging nog samenwerken met o.a.
Art Tatum, Coleman Hawkins, Ben Webster en Oscar Peterson.
