Né à New York d'un père avocat, il étudie à l'Université Yale. Après avoir gradué en 1745, il effectue sa cléricature auprès de son père avant d'être reçu avocat en . En 1767, il devient membre du Conseil de la colonie de New York en remplacement de son père.
Smith souhaitait l'union des colonies britanniques en Amérique du Nord. C'est cependant le contraire qui arrive, lorsque la province de Québec est séparée en deux. Il conserve son poste de juge en chef, mais uniquement pour la province du Bas-Canada. Il est nommé membre du Conseil exécutif du Bas-Canada le , puis membre du Conseil législatif du Bas-Canada lors de sa création en 1792. Il est le premier à présider ce conseil, du jusqu'à son décès
1752 : Laws of New-York from the year 1691 to 1751, inclusive (avec William Livingston)
1757 : The history of the province of New-York, from the first discovery to the year M.DCC. XXXII.
1757 : A review of the military operations in North-America ; from the commencement of the French hostilities on the frontier of Virginia in 1753, to the surrender of Oswego, on the 14th of August, 1756
1762 : Laws of New-York from the 11th Nov. 1752, to 22d May 1762 (avec William Livingston)
1826 : Continuation of the history of the province of New York, to the appointment of Governor Colden, in 1762