Henry Foster war ein Cousin von US-VizepräsidentJohn C. Breckinridge (1821–1875). Er genoss eine gute Schulausbildung und absolvierte unter anderem das College of Meadville. Nach einem anschließenden Jurastudium und seiner 1829 erfolgten Zulassung als Rechtsanwalt begann er in Greensburg in diesem Beruf zu arbeiten. Gleichzeitig schlug er als Mitglied der Demokratischen Partei eine politische Laufbahn ein.
In den Jahren 1857 und 1858 saß Foster als Abgeordneter im Repräsentantenhaus von Pennsylvania. 1858 strebte er die Rückkehr in den Kongress an, unterlag jedoch; 1860 bewarb er sich ebenfalls ohne Erfolg um das Amt des Gouverneurs von Pennsylvania. 1868 kandidierte er erneut erfolglos für den Kongress. Bei den Wahlen des Jahres 1870 wurde er schließlich im 21. Distrikt seines Staates in das US-Repräsentantenhaus gewählt, wo er am 4. März 1871 John Covode ablöste und bis zum 3. März 1873 eine Legislaturperiode absolvierte. Im Jahr 1872 wurde er nicht wiedergewählt.
Nach dem Ende seiner Zeit im US-Repräsentantenhaus praktizierte Henry Foster wieder als Anwalt. Im Jahr 1879 zog er nach Irwin, wo er am 16. Oktober 1880 verstarb.
