Nach dem Tod des Abgeordneten Joel Cook wurde Reyburn bei der fälligen Nachwahl für den zweiten Sitz von Pennsylvania als dessen Nachfolger in das US-Repräsentantenhaus in Washington gewählt, wo er am 23. Mai 1911 sein neues Mandat antrat. Da er im Jahr 1912 nicht mehr kandidierte, konnte er bis zum 3. März 1913 nur die laufende Legislaturperiode im Kongress beenden. Nach seiner Zeit im US-Repräsentantenhaus praktizierte Reyburn wieder als Anwalt. Später zog er sich in den Ruhestand zurück, den er in Aiken (South Carolina) und auf seinem Anwesen Black Hill in Connecticut verbrachte. Er starb am 25. Juli 1946 in New Haven und wurde in Philadelphia beigesetzt.