Jagielka ligadebuterte for Sheffield United i 1. divisjon (nest høgste divisjon) 5. mai 2000. Han etablerte seg på førstelaget til Sheffield United i 2002/03-sesongen. I 2005/06-sesongen vart han kåra til årets spelar i den nest høgste divisjonen. Etter Sheffield United i 2007 rykte ned frå toppligaen, vart han overført til Everton for 4 millionar pund, høgste summen Sheffield United hadde fått i ein spelarovergang. Han vart kåra til årets spelar i Everton i 2008/09-sesongen. Sommaren 2019 vende Jagielka tilbake til Sheffield United der han mykje sat på benken til han i 2021 gjekk vidare til Derby County. Han la opp i 2023 etter å ha vore Stoke-spelar i 16 månader.
Landslagsspel
Jagielka debuterte for England som innbytar i ein vennskapskamp mot Trinidad og Tobago 11. juni 2008. Frå hausten 2010 til 2015 fekk han mange kampar på det engelske landslaget. Han spelte to kampar under VM i fotball 2014, der England rauk ut i gruppespelet. Etter to kampar som innbytar i 2016 var han ferdig med landslagsspel. Han var kaptein i ein av sine 40 kampar og skåra til saman 3 landslagsmål.