Crudup työskenteli siirtotyöläisenä ympäri Etelää ja Keskilänttä kunnes perheineen palasi Mississippiin vuonna 1926. Hän lauloi gospelia ja aloitti sitten blueslaulajan uransa Clarksdalen lähistöllä. Crudup vieraili Chicagossa Harmonizing Four -yhtyeen jäsenenä vuonna 1939 ja yritteli katulaulajan uraa ilman suurempaa menestystä. Levytuottaja Lester Melrose löysi hänet sattumalta kadulta ja syyskuussa 1941 Crudupista tuli RCA Victorin levyttävä artisti. Crudup levytti 1940-luvulla kappaleita kuten "Rock Me Mama", "Who's Been Foolin' You", "Keep Your Arms Around Me", "So Glad You're Mine" ja "Ethel Mae". Alkuperäinen "That's All Right" ilmestyi vuonna 1946, mutta ei silloin muodostunut hitiksi. Crudup lopetti levyttämisen RCA:lle vuonna 1954 rojaltiriitojen takia ja palasi työläiseksi.
RCA:n jälkeen Crudup vaihtoi Checker-merkille ja esiintyi nimellä Percy Lee Crudup.[2] Hän myös teki erään Elmore Jamesin singlen toisen puolen nimellä Elmer James, kun Elmore oli ollut tavoittamattomissa. Näihin aikoihin Crudup ja James kuuluivat aikansa superyhtyeeseen, jossa oli myös Sonny Boy Williamson II.
Crudup palasi esiintyjäksi 1960-luvulla ja levytti myös joitakin albumeja Delmark- ja Liberty-merkeille. Hän teki kiertueen Englantiin vuonna 1969 ja Australiaan vuonna 1972 sekä esiintyi Bonnie Raittin konserteissa. Tammikuussa 1974 Crudup sai sydänkohtauksen. Maaliskuun lopussa hän halvaantui ja kuoli 28. maaliskuuta 1974. [3]