År 1834 utexaminerades Williams från Harvard och fortsatte sedan med juridikstudier vid Dane Law School i Cambridge. År 1837 inledde han sedan sin karriär som advokat.[1] Williams gick först med i Demokratiska partiet men bytte 1854 parti till det nya Republikanska partiet. År 1857 tillträdde han som talman i Maines senat.[2] Guvernör Hannibal Hamlin avgick senare samma år och efterträddes av Williams. Han efterträddes sedan 1858 av Lot M. Morrill.[3]