Нарадзіўся на Коні-Айлендзе ў Брукліне ў яўрэйскай сям’і[13][14][15]. Бацька, эмігрант з Польшчы Луіс Карфункл, быў мастаком і прадпрымальнікам; маці, Сэйдзі Хелен Кун (родам з Будапешта) — піяністкай і арганісткай (бацькі ажаніліся ў 1911 годзе), і Джэром у дзяцінстве таксама атрымаў сур’ёзную музычную адукацыю[16][17]. Уся яго сям’я на працягу некалькіх пакаленняў была звязана з мастацтвам (дзядзькі — мастак-партрэтыст Іван Рыгоравіч Алінскі, 1878—1962, і скульптар Дэвід Карфункл, 1880—1959)[18][19].
Вучыўся ў сярэдняй школе Аўраама Лінкольна у бруклінскім раёне Коні-Айлэнд, дзе ён жыў да дзевятнаццаці гадоў. У 1937 годзе атрымаў ступень бакалаўра ў Сіці-каледжы пры Нью-Ёркскім універсітэце, дзе таксама пазнаёміўся з Хербертам Хаўптманам, а ў 1938 годзе — ступень магістра па біялогіі ў Гарвардскім універсітэце (з-за квоты на студэнтаў-яўрэяў ня быў прыняты ў Гарвардскую медыцынскую школу)[20]. На працягу двух гадоў працаваў клеркам у Дэпартаменце аховы здароўя Нью-Ёрка, а ў 1943 годзе абараніў дысертацыю па фізічнай хіміі ў Мічыганскім універсітэце (дзе таксама пазнаёміўся з будучай жонкай, яны ажаніліся ў 1942 годзе). У тым жа годзе стаў супрацоўнікам Манхэтэнскага праекта на базе Чыкагскага ўніверсітэта, дзе займаўся даследаваннямі па экстракцыі плутонію з яго аксіду.
У 1946 годзе Карле увайшоў у штат ваенна-марской навукова-даследчай лабараторыі ў Вашынгтоне (ён працаваў там да адначасовага з жонкай выхаду на пенсію ў адзін і той жа дзень у ліпені 2009 года), дзе зноў сустрэўся з Хаўптманам. У 1950-я гады супрацоўнічаў з ім над стварэннем прамога метаду расшыфроўкі трохмерных малекулярных структур з дапамогай рэнтгенаўскай крышталаграфіі. За гэтыя працы ў 1985 годзе быў ганаранваны Нобелеўскай прэміяй па хіміі. У 1981—84 гадах быў прэзідэнтам Міжнароднага саюза крышталёграфаў.
У 1992 годзе падпісаў «Папярэджанне чалавецтву».
Узнагароды
Hillebrand Award Вашынгтонскай секцыі Амерыканскага хімічнага таварыства (1969, сумесна з Ізабелай Карле)
Жонка (з 1942 года) — крышталограф Ізабела Карле (1921—2017), тры дачкі — хімік-арганік Луіс Хэнсан (Louise Isabella Karle Hanson, нар. 1946), крышталограф Джын Мар’яна Карле (Jean Marianne Karle, нар. 1950) і геолаг Мадлен Тоні (Madeleine Diane Tawney, нар. 1955)[21].
