Народився в світській єврейській родині, але його дід по материнській лінії — Андреас Вол — був рабином. Відмовившись від посади головного рабина Вільнюса він залишався релігійним істориком і просвітителем. Мати Поланьї — Сесілія Вол[en] — народилася в Російській імперії. Її після закінчення Віленської гімназії батько відправив до Відня, щоб віддалити від російських соціалістичних діячів і запобігти її арешту. Батько — Міхай Поллачек — народився в містечку Длха на Ораві (Словаччина) в багатій єврейській сім'ї вихідців з Ужгорода (Унгвар), який тоді, як і Словаччина, входив до складу Австро-Угорської імперії. Карл Поланьї народився, коли його батьки жили у Відні, а в 1904 році їхня сім'я, яка переїхала в Будапешт, змінила прізвище на угорський манер — Полани (Поланьї) замість Поллачек. Хоча батько Поланьї брав участь у спорудженні значної частини залізничної системи Угорщини, в 1899 році він практично збанкрутував. Молодший брат вченого — Майкл Поланьї — відомий хімік і філософ; племінник — Джона Чарлза Полані — лауреат Нобелівської премії з хімії; племінниця — Єва Цайзель[en] — відомий скульптор і дизайнер.
Навчався в Будапештському університеті, отримав ступінь доктора філософії в 1908 році і права в 1912 році. Незважаючи на буржуазне походження, активно брав участь в лівому молодіжному русі. Певний вплив на братів Майкла і Карла мав революціонер-народник Самуїл Клячко, з яким після від'їзду з Вільнюса Сесілія Поланьї зберегла близькі стосунки, вони дружили сім'ями. Вплив народників був однією з причин, чому Поланьї з недовірою ставився до соціал-демократів та більшовиків. Карл був ініціатором створення та першим президентом радикального студентського руху «Коло Галілея».
У цей час зустрічався з Дьордем Лукачем, Карлом Мангеймом, Оскаром Ясі, в недалекому майбутньому — видатними мислителями, філософами і соціологами. У 1910—1912 роках працював у свого дядька в юридичній фірмі, але розчарувався в покликанні юриста і зайнявся журналістикою, співпрацював у лівобуржуазному виданні «Вільна думка» (Szabadgondolat). У 1914 році був в числі засновників Угорської радикальної партії і став її секретарем[1].
Переворот Дольфуса в Австрії та встановлення в сусідній Німеччині нацистської диктатури змусили Поланьї емігрувати в 1933 до Англії. З 1937 року вів лекції в Лондонській асоціації робітничого руху, дещо пізніше викладав соціально-економічну історію на заочних відділеннях Оксфордського і Лондонського університетів. З 1940 року перебував у США. Викладав у Колумбійському університеті в 1947—1953 роках.
Через те, що дружині Поланьї, яка брала участь в комуністичному русі в Угорщині, був заборонений в'їзд в США, Поланьї жив у Канаді з 1950 року неподалік від кордону і їздив на роботу в Сполучені Штати. У жовтні 1963 року, за рік до смерті, Карл Поланьї здійснив візит до соціалістичної Угорщини, де виступив в Угорській академії наук з курсом лекцій з економічної соціології. Остання монографія Поланьї, «Дагомея і работоргівля» 1966 року була опублікована посмертно.
