Il épouse Anne Lee (l'une de ses cousines), en 1789, dont il aura six enfants. Après la mort de son épouse en 1804, il se remarie à Margaret Scott, dont il aura trois enfants.
Le président, George Washington, le nomme Attorney General après la mort de William Bradford. Le Sénat approuve sa nomination et il entame son mandat le 10 décembre 1795, et sert jusqu'à la fin du mandat de Washington. Il est maintenu par son successeur John Adams et reste à ce poste pendant toute la durée de son mandat, jusqu'au 19 février 1801.
Après avoir quitté son poste de procureur général, il devient officier du port situé sur le Potomac et l'un des plus éminents avocats de la Virginie et du district de Columbia.
Il représente notamment William Marbury et d'autres fonctionnaires nommés par John Adams dans le cas Marbury v. Madison, cas emblématique et historique porté devant la Cour suprême des États-Unis face à l'administration de Jefferson.
