Upchurch nousi maineeseen Chicagon musiikkipiireissä 1950-luvulla. Hän aloitti uransa tekemällä sessioita esimerkiksi Jerry Butlerin kanssa ennen työskentelyään Chess Recordsin kitaristina. Hän esiintyi muiden muassa Dellsin, Howlin’ Wolfin, Gene Chandlerin ja Muddy Watersin julkaisuilla. Usein hän teki yhteistyötä rumpali Maurice Whiten kanssa. 1960-luvun alussa hän perusti oman Phil Upchurch Combo -kokoonpanonsa ja teki instrumentaalisen hitin ”You Can’t Sit Down” (1961). Yhtye teki lisää singlejä, mutta yksikään niistä ei saavuttanut ”You Can’t Sit Down” -kappaleeseen verrattavaa suosiota.[1]