Thompson undervisade juridik vid Northwestern University 1964-1969 och arbetade därefter som åklagare. Som federal åklagare vann han rättegången mot tidigare guvernören Otto Kerner som hade tagit emot mutor. Han var också åklagare i rättegångar mot några av den beryktade borgmästarenRichard J. Daleys medarbetare, vilka också fälldes för korruption.
I 1976 års guvernörsval förlorade ämbetsinnehavaren Daniel Walker redan i demokraternasprimärval mot utmanaren Michael Howlett som i sin tur förlorade valet mot Thompson. Valet gällde exceptionellt bara en tvåårig mandatperiod, eftersom delstaten Illinois inte längre ville hålla guvernörsval samtidigt som presidentval. Thompson omvaldes tre gånger, varje gång till fyra år. Han var ordförande för National Governors Association1983-1984.