Harry Jeffrey besuchte die öffentlichen Schulen seiner Heimat und studierte danach bis 1924 an der Ohio State University in Columbus. Nach einem anschließenden Jurastudium an derselben Universität und seiner 1926 erfolgten Zulassung als Rechtsanwalt begann er zunächst in Columbus und ab 1927 in Dayton in diesem Beruf zu arbeiten. Zwischen 1927 und 1930 gehörte er als Leutnant der United States Army Reserve an. Von 1933 bis 1936 war er als Staatsanwalt für den Attorney General von Ohio tätig. Politisch schloss er sich der Republikanischen Partei an.
Nach dem Ende seiner Zeit im US-Repräsentantenhaus praktizierte er wieder als Anwalt. Zwischen 1967 und 1977 war er Kurator der Wright State University. Er starb am 4. Januar 1997 in seiner Heimatstadt Dayton, wo er auch beigesetzt wurde.