Senator George W. Campbell avgick 1814 för att tillträda som USA:s finansminister. Jesse Wharton blev utnämnd till senaten. Följande år valde delstatens lagstiftande församling Williams till Whartons efterträdare. Williams valdes 1817 till en hel mandatperiod i senaten. Han bestämde sig för att kandidera 1823 till omval men den gången förlorade han mot Andrew Jackson.