Manone wurde 1900 in New Orleans, Louisiana geboren. Im Alter von zehn Jahren verlor er seinen rechten Arm bei einem Straßenbahnunfall, weshalb er während seiner Bühnenauftritte eine Armprothese trug.
Nachdem er mit verschiedenen Bands aus seiner Heimatstadt gespielt hatte, fing er in den 1920ern an, wahllos durch die USA zu reisen und arbeitete so unter anderem in Chicago und New York City. 1924 machte er mit den Arcadian Serenaders, die sich früher „The Original Crescent City Jazzers“ nannten, seine erste Aufnahme, bevor er 1927 mit seiner Band „Joe Manone's Harmony Kings“ eigene Aufnahmen kreierte. 1928 spielte er in Chicago, zog dann um nach New York, wo er 1929 mit den „Benny Goodman's Boys“ eine Platte aufnahm. Bald zog es ihn doch wieder zurück nach Chicago, wo er die Leitung der Band „Cellar Boys“ übernahm. 1934, nun wieder zurück in New York, landete er mit „Rhythm Is Our Business“ (#20) einen ersten Hit in den Charts, dem sieben weitere folgen sollten – einer der größten war „Isle of Capri“. Sein letzter Erfolgstitel im Juli 1938 war eine Version des populären Slim-Gaillard-Nonsens-Songs „The Flat Foot Floogie“. 1940 zog Manone nach Los Angeles, wo er in dem Film Rhythm on the River mitspielte. Er trat in Las Vegas auf und entschied sich, dort hinzuziehen. Manone spielte noch bis weit in die 1970er Jahre. 1982 starb er in Las Vegas.
1948 erschien seine Autobiographie „Trumpet on the Wing“.