Bei den Kongresswahlen des Jahres 1868 für den 41. Kongress wurde Greene im elften Wahlbezirk von New York in das US-Repräsentantenhaus in Washington, D.C. gewählt, wo er am 4. März 1869 die Nachfolge von Charles Van Wyck antrat. Van Wyck focht allerdings dessen Wahl wegen eines Fehlers bei der Anmeldung erfolgreich an, so dass Greene nach dem 17. Februar 1870 aus dem Kongress ausschied.
Zwischen 1885 und 1888 saß Greene in der New York State Assembly. Er verstarb am 21. Juli 1895 in New York City und wurde dann auf dem „The Plains“ Cemetery in Otisville beigesetzt.