Herbert Pell studierte nach dem Besuch der Pomfret School in Connecticut an der Harvard University sowie der Columbia University. Seine politische Laufbahn begann er zunächst in der Progressive Party und war in dieser zwischen 1912 und 1914 Mitglied im Parteikomitee im Orange County des Staates New York. Im Anschluss wechselte er zur Demokratischen Partei und wurde für diese in das US-Repräsentantenhaus gewählt, in dem er vom 4. März 1919 bis zum 3. März 1921 den 17. Kongresswahlbezirk von New York vertrat. Nachdem er 1920 eine Wahlniederlage erlitt und aus dem Kongress ausscheiden musste, war er von Juli 1921 bis Januar 1926 Vorsitzender des Demokratischen Parteikomitees im Staat New York sowie 1924 Delegierter zur Democratic National Convention.
Danach war Pell gelegentlich Lecturer an der Columbia University, der Harvard University sowie anderen höheren Bildungseinrichtungen sowie 1936 Vize-Vorsitzender der demokratischen Wahlkampfkommission (Democratic National Campaign Committee), die die erfolgreiche Wiederwahl von Franklin D. Roosevelt bei der US-Präsidentschaftswahl 1936 organisierte.