Choate utexaminerades 1819 från Dartmouth College. Därefter studerade han juridik först vid Harvard University, sedan under USA:s justitieministerWilliam Wirt. Han inledde 1823 sin karriär som advokat i Massachusetts. Han var ledamot av Massachusetts House of Representatives, underhuset i delstatens lagstiftande församling, 1825-1826 och ledamot av delstatens senat 1827.