Elmore James 1918-ban született Leora Brooks törvénytelen fiaként Richlandben (más források szerint Lexingtonban vagy Cantonban), Mississippiben. Mezőgazdasággal foglalkozott, mielőtt vándorzenészként elkezdte volna a zenész életet. Olyan zenészekkel dolgozott, mint Robert Johnson és Sonny Boy Williamson II. Robert Johnson hatással volt gitárstílusára és repertoárjának egy részére is.
Erősített slide gitáron játszott. Erőteljes játékával és falzett hangjával Elmore James a chicagói blues egyik legfontosabb zenészévé vált.
1943 és 1945 között tengerészgyalogos volt. Vándorként élt és stoppolt a déli államokon. 1951-ben kezdett lemezekeket megjelentetni a Lillian McMurry Trumpet Records kiadójánál. A következő tizenkét évben James többek között a Modern Records és a Chess Records blueskiadóinak készített felvételeket.
Legnagyobb slágerei a Dust My Broom (1983), a Grammy Hall of Fame (1998), a The Sky Is Crying, a Shake Your Money Maker, és a It Hurts Me Too voltak, amelyeket ma is számtalan zenész ad elő.
Elmore James 45 évesen egy szívrohamban meghalt.
Jamesre jellemző volt erőteljes, durvának nevezhető énekhangja, amit elektromosan felerősített slide gitárjával kísért. Első sorban azokra a fiatal brit zenekarokra volt hatással, amelyeknek az afro-amerikai blues hatott az 1960-as évek elején. James tisztelői közé tartozik többek között Keith Richards, Brian Jones, John Mayall, Jimi Hendrix és Eric Clapton.
A Rolling Stone magazin 2011-ben Jamest a 30. helyre sorolta minden idők 100 legnagyobb gitárosainak listáján.
