Янаш Харсаньі быў адзіным дзіцем у прыняла каталіцкай яўрэйскай сям'і. Яго бацька быў фармацэўтам, маці хатняй гаспадыняй. Вучыўся ў Лютэранскай гімназіі, сярод выпускнікоў якой быў Джон фон Нейман. У 1944 годзе Харсаньі страціў студэнцкую адтэрміноўку ад войска і, з-за яўрэйскага паходжання, быў накіраваны працоўны батальён ў Югаславіі. Калі праз 7 месяцаў батальён быў адпраўлены ў канцэнтрацыйны лагер Харсаньі ўдалося збегчы, ён схаваўся ў езуіцкім кляштары.