Am 21. April 1823 wurde er zum Richter am Amtsgericht im 18. Bezirk ernannt – ein Posten, den er bis zu seinem Rücktritt 1826 innehatte. Zu jener Zeit kandidierte er als Demokrat erfolglos um das Amt des Gouverneurs von New York. Danach war er als Sekretär für Special Envoy Extraordinary and Minister Plenipotentiary in Kolumbien tätig und 1827 als Chargé d’Affaires in Zentralamerika. 1828 ließ er sich in Buffalo nieder, wo er Präsident der Filiale der Second Bank of the United States wurde. Ferner war er später Präsident der Bank of Pensacola in Florida und zwischen 1837 und 1838 Direktor der Alabama and Florida Railroad Company.
Am 14. Juni 1838 sank das DampfschiffPulaski vor der Küste von North Carolina. Zu jenem Zeitpunkt befand sich Rochester am Bord des Schiffes.