Рођен је 13. маја1911. године у Петроварадину. Имао је два брата, Карла и Оскара. Основну школу и нижу гимназију (данас виши разреди основне школе) завршио је у Петроварадину. А 1926. године почео је да учи занат у авио-индустрији Икарус. Због очевог лошег материјалног стања, породица је 1929. године морала да се пресели из Петроварадина у Загреб, где су убрзо умрли Костини родитељи, Стјепан и Ана.
Коста је касније уписао Војну пешадијску подофицирску школу у Билећи. Када је завршио, 1931. године, као најбољи у класи, имао је право избора гарнизона у којем је желео да службује. Изабрао је и задржан је у Билећи да обучава нове питомце у Школи резервних официра. Ту је почео да се занима за марксистичку литературу и раднички покрет. Када је војна полиција открила да подофицир Коста Нађ поседује марксистичке књиге, 1932. године, ухапшен је и одведен најпре у Никшић, а потом у Сарајево, где је 1933. године осуђен на две године робије. Пошто је успео да побегне из Сарајева, отишао је у Загреб, где је живео илегално.
Пошто су Костина браћа били чланови Комунистичке партије Југославије (КПЈ), и он се прикључио партијском раду, најпре у илегалној штампарији Покрајинског комитета КПЈ за Хрватску, која се налазила у подруму куће у којој је становао, а потом је сарађивао и у организацији „Пријатељи слободе“.
Одмах по избијању Шпанског грађанског рата, у пролеће 1936. године, Коста се пријавио др Павлу Грегорићу, који је организовао слање југословенских добровољаца у Шпанију. После неколико неуспелих покушаја, успео је тек јануара 1937. године да илегално пређе границу. На путу до Шпаније, био је затваран у Аустрији, Швајцарској и Француској, али је успео да пређе Пиринеје и 8. марта 1937. године се пријавио у прихватни логор добровољаца у Фигнерасу.
У Интернационалним бригадама Коста Нађ био је водник, командир чете и командант Балканског батаљона. Крајем јануара 1939. године, штитећи одступницу хиљадама шпанских избеглица, примио је команду једне од две последње бригаде, које су се повлачиле преко Пиринеја на север. У борбама код Брунета и на Ебру био је четири пута рањен. Добио је чин капетанаШпанске републиканске армије и одликован шпанским републиканским Орденом ослобођења, а 1937. године примљен је у КПЈ.
Пошто је Краљевина Југославија забранила југословенским добровољцима повратак у земљу. Коста је с неколико стотина Југословена од фебруара 1939. до маја 1941. године био у француским логорима — Сен Сипријен, Гирс и Верне. У мају 1941. године с осталим друговима одлази из логора у Немачку у радни логор Десау. То је учињено по препоруци руководства КПЈ, како би лакше успели да се пребаце у окупирану Југославију.
Када је Врховни командант НОП и ДВЈ Јосип Броз Тито реорганизовао руководство партизанских јединица Босне и Херцеговине, почетком фебруара 1942. године Кости Нађу је поверена команда над свим јединицама западне Босне (од реке Босне до Уне). Од 23. фебруара до краја јула, када је у западну Босну продрла група пролетерских бригада с Врховним штабом, јединице под Костином командом (око 14.000 бораца) створиле су огромну слободну територију повезану са Далмацијом, Ликом, Банијом и Славонијом.
Током 1942. године партизанске јединице, под командом Косте Нађа, ослободиле су: Приједор, Крупу, Добрљин, Кључ, Дрвар, Босански Петровац, Мркоњић Град, Јајце и др. Од 2. до 4. новембра, Коста је руководио дотад највећом операцијом у Народноослободилачком рату — битком за Бихаћ. Његова тактика освајања утврђених градова, по систему клинова, изненађивала је и збуњивала непријатеља. Врховни командант НОВ и ПОЈ Јосип Броз Тито је 6. новембра Костиним јединицама упутио признање и похвалу за „јуначко држање при ослобођењу Бихаћа“.
Основни задатак дивизија којима је од јесени 1943. године командовао Коста Нађ, био је осигурање планираног продора НОВЈ на исток, у Србију. То је било могуће остварити тек 1944. године, када почиње прва фаза завршних операција за ослобођење Југославије. Почетком 1944. године постављен је за команданта Главног штаба НОВ и ПО Војводине.