In der Kindheit durch mehrere Unfälle erblindet, wuchs Sonny Terry bei musikalischen Eltern auf (sein Vater war neben seiner Haupttätigkeit als Farmer auch Folkmusiker) und entwickelte bald einen eigenen lautmalerischen Mundharmonikastil, der auch Geräusche von Zügen und Tierlaute imitierte und bei dem er oft Stimmlaute mit einbrachte. Ein wichtiger Einfluss war der Harmonikaspieler DeFord Bailey, der in der landesweit ausgestrahlten Radiosendung Grand Ole Opry auftrat. Ab 1929 arbeitete Terry als Wandermusiker und arbeitete in den 1930er-Jahren mit Blind Boy Fuller, mit dem er 1937–1940, bis zu dessen Tod, in New York Plattenaufnahmen machte.
1947 spielte Sonny Terry am Broadway im Musical Finian's Rainbow, 1955–1957 zusammen mit Brownie McGhee in dem Stück Cat on a Hot Tin Roof (1955 gemeinsamer Auftritt auch im gleichnamigen Film Die Katze auf dem heißen Blechdach), in den 1950er-Jahren nahm er sogar Werbespots (für Alka-Seltzer) auf.