Cornyn begon zijn carrière als rechter, en werd in 1990 verkozen tot het Hooggerechtshof van Texas. In 1998 werd hij verkozen als procureur-generaal van Texas (Attorney-General of Texas).
Bij de verkiezingen van 2002 volgde hij Phil Gramm op als Amerikaans senator voor Texas. Cornyn werd in 2008 herkozen. Vanaf 3 januari 2013 was hij Minority Whip voor de Republikeinen in de Senaat. Hij werd herkozen in 2014 en sinds 3 januari 2015 is hij de Majority Whip.