Grayling har en kandidatgrad i historie fra Cambridge Universitet. Han arbejdede som tv-journalist og tv-producent 1985–2001, blandt andet hos BBC. I parlamentsvalget i 2001 blev Grayling indvalgt i Underhuset for valgkredsen Epsom og Ewell.
Fra 2005 indgik han i det konservative partis skyggekabinet, hvor han blandt andet var skyggeindenrigsminister i 2009–2010. Han var også skyggeleder af Underhuset i 2005.
Minister
Efter valget i 2010 blev han udnævnt til viceminister (minister of state) for arbejdsmarkedet.[3]
Da Grayling blev lordkansler i 2012 var han den første ikke-jurist på denne post siden 1558.[4]
^"Her Majesty's Government". Number10.gov.uk. 19. maj 2010. Hentet 13. november 2010. {{cite web}}: |archive-url= kræver at |archive-date= også er angivet (hjælp)