Im Jahr 1939 zog James O’Hara mit seinen Eltern nach Michigan, wo er bis 1943 die High School der University of Detroit besuchte. Während des Zweiten Weltkrieges war er als Soldat der US Army im pazifischen Raum eingesetzt. Nach dem Krieg studierte er bis 1954 an der University of Michigan in Ann Arbor. Nach einem anschließenden Jurastudium an der gleichen Universität und seiner im Jahr 1955 erfolgten Zulassung als Rechtsanwalt begann er in Detroit sowie im Macomb County in seinem neuen Beruf zu arbeiten.
1976 verzichtete James O’Hara auf eine weitere Kongresskandidatur. Stattdessen bewarb er sich erfolglos um die Nominierung seiner Partei für die Wahlen zum US-Senat, die stattdessen an Donald W. Riegle ging. In den folgenden Jahren praktizierte er als Anwalt in der Bundeshauptstadt Washington. Von 1978 bis 1981 war er Mitglied und später Vorsitzender einer Kommission, die sich im Auftrag der Bundesregierung mit Mindestlöhnen befasste. James O’Hara starb am 13. März 1989 in Washington. Er wurde auf dem Nationalfriedhof Arlington in Virginia beigesetzt.