Bishop bracht de eerste jaren van zijn leven door op een boerderij in Iowa zonder stroom en stromend water. Op 10-jarige leeftijd verhuisde hij met zijn familie naar Oklahoma, waar hij opgroeide in een omgeving met alleen blanke mensen, zodat hij slechts weinig 'zwarte' muziek kreeg te horen. Op een dag werd hij opmerkzaam door het mondharmonicaspel van Jimmy Reed op de radio. Omdat hij echter geen verbinding had met het zwarte bluescircuit, duurde het nog een tijd voordat hij deze muziek zou ontdekken.
In 1959 verhuisde hij naar Chicago om daar de universiteit te bezoeken. Hij raakte snel bevriend met enkele Afro-Amerikanen en bevond zich spoedig midden in het bluescircuit van Chicago. Twee jaar later ontmoette hij Smokey Smothers, die hem leerde spelen op de bluesgitaar. Tijdens de vroege jaren 1960 raakte hij bevriend met Paul Butterfield. Beiden begonnen spoedig samen op te treden in het openbaar. Nadat ze in 1963 een baan hadden aangenomen in de North Side van Chicago, werden ze plaatselijk bekend. Het echte succes diende zich aan met de Paul Butterfield Blues Band. Bishop is op alle vroege BBB-albums te horen, totdat hij in 1968 afscheid nam van de band. Hij verhuisde naar San Francisco, waar hij onder andere speelde met Eric Clapton, Jimi Hendrix en B.B. King.
In 1969 richtte hij de Elvin Bishop Group[5] op. Nog in hetzelfde jaar verscheen het debuutalbum The Elvin Bishop Group, gevolgd door Feel It! (1970) en Rock My Soul (1972). In 1974 verscheen dan het album Let It Flow met de single Traveling Shoes, die voor de eerste keer in de hitlijst kwam. Na de productie Juke Joint Jump (1975) verscheen nog in hetzelfde jaar het album Struttin' My Stuff. De single Fooled Around and Fell in Love (1976) van dit album lukte de doorbraak tot de hogere regionen van de hitlijsten.
Op het album Raisin' Hell (1977) is een van de meest bezochte live-concerten van de band vastgelegd. Na Hog Heaven (1978), Is You Is or Is You Ain't My Baby (1981) en een Best Of-compilatie uit 1979 werd de band uiteindelijk ontbonden.
Pas in 1988 meldde Bishop zich terug met het album Big Fun bij Alligator Records. Er volgden Don't Let the Bossman Get You Down (1991), Ace in the Hole (1995), The Skin I'm In (1998), Hometown Boy Makes Good (1999), de live-albums That's My Partner! (2000), King Biscuit Flower Hour Presents in Concert (2001) en From the Front Row:Live (2003) en uiteindelijk Party Till the Cows Come Home (2004) en Gettin' My Groove Back (2005). In 1995 was Bishop op tournee met B.B. King en hij hield zich ondertussen ook bezig als studiomuzikant, onder andere voor John Lee Hooker en Clifton Chenier.
Discografie
1969: The Elvin Bishop Group (Sundazed)
1970: Feel It! (Sundazed)
1972: Rock My Soul (Epic Records)
1972: The Best Of Elvin Bishop: Crabshaw Rising
1974: Let It Flow (Capricorn Records)
1975: Juke Joint Jump (Capricorn Records)
1975: Struttin' My Stuff (Capricorn Records)
1976: Hometown Boy Makes Good! (Capricorn Records)
1977: Raisin' Hell [live] (Capricorn Records)
1978: Hog Heaven (Capricorn Records)
1981: Is You Is or Is You Ain't My Baby
1988: Big Fun! (Alligator)
1991: Don't Let the Bossman Get You Down! (Alligator)
1992: Sure Feels Good: The Best Of Elvin Bishop
1992: 20th Century Masters: The Millennium Collection...
1994: Tulsa Shuffle: The Best Of Elvin Bishop
1995: Ace in the Hole (Alligator)
1997: The Best Of Elvin Bishop
1998: The Skin I'm (Alligator)
2000: That's My Partner! [live] (Alligator)
2001: King Biscuit Flower Hour Presents in Concert [live] (King Biscuit Entertainment)
2001: Extended Versions (Collectables Records)
2002: 20th Century Masters (Universal Records)
2003: Ace in the Hole (Alligator)
2003: Feel It! (Sundazed)
2003: That's My Partner! (met Little Smokey Smothers) (Alligator)
2004: Party Till the Cows Come Home (Acadia)
2004: Best of Elvin Bishop (Universal Special Products)
2004: Fillmore & Epic Recordings (Evangeline)
2004: Extended Versions
2005: Gettin' My Groove Back (Blind Pig Records)
2006: Best of Elvin Bishop (Umvd)
2007: Booty Bumpin': Recorded Live (Blind Pig Records)
2008: The Blues Rolls On (Delta Groove Productions) - Grammy Awards 2009 nominatie
2008: Tulsa Shuffle-the Best of Elvin Bishop (Blue Label) (SPV)