James Heidinger besuchte die öffentlichen Schulen seiner Heimat und danach die North Illinois Normal School in DeKalb. Anschließend studierte er an der Valparaiso University in Indiana. In den folgenden Jahren arbeitete er als Lehrer im Wayne County. Nach einem anschließenden Jurastudium am Northern Illinois College of Law in Dixon und seiner 1908 erfolgten Zulassung als Rechtsanwalt begann er in Fairfield in diesem Beruf zu arbeiten. Zwischen 1914 und 1926 amtierte Heidinger als Bezirksrichter im Wayne County. Von 1927 bis 1933 war er stellvertretender Attorney General von Illinois. Politisch wurde er Mitglied der Republikanischen Partei. Im Juni 1928 nahm er als Delegierter an der Republican National Convention in Kansas City teil, auf der Herbert Hoover als Präsidentschaftskandidat nominiert wurde.