Judson Sherman besuchte vorbereitende Schulen. Später bekleidete er in Angelica einige lokale Ämter. Zwischen 1831 und 1837 war er bei der Bezirksverwaltung im Allegany County angestellt. Um das Jahr 1850 war er stellvertretender Finanzminister (Treasurer) seines Staates. In den 1850er Jahren schloss er sich der damals gegründeten Republikanischen Partei an.
Zwischen September und November 1861 nahm Sherman als Hauptmann im Stab von Brigadegeneral Wood für drei Monate am Bürgerkrieg teil. Über seinen weiteren beruflichen Werdegang ist nichts überliefert. Er starb am 12. November 1881 in Angelica.