In 1789 werd hij gekozen tot lid van het lagerhuis van het parlement van de staat New York, en in 1791 tot lid van de Senaat van de staat New York.
In 1795 werd hij gekozen tot luitenant-gouverneur van de staat New York, en hij deed dienst in het Huis van Afgevaardigden van de Verenigde Staten van 1822 tot 1829.
Zijn langstdurende invloed was het stichten van de Rensselaer School in 1825, waaruit het huidige Rensselaer Polytechnic Institute voortkwam, een gerenommeerde technische universiteit.
Bij zijn dood was het grondbezit van Rensselaer ongeveer 10 miljoen dollar waard, wat overeenkomt met ongeveer 88 miljard in tegenwoordige dollars. Daarmee is hij een van de tien rijkste Amerikanen in de geschiedenis[2].