Bateman studerade vid University of Pennsylvania. Han arbetade sedan som läkare i New Jersey. Han blev invald i USA:s representanthus i kongressvalet 1814. Han omvaldes tre gånger. Senator Joseph McIlvaine avled 1826 i ämbetet och efterträddes av Bateman. Han avgick i januari 1829 på grund av dålig hälsa och avled sexton dagar efter sin avgång.