После окончания начальной сельской школы учился в Золотоношской классической гимназии, которую и закончил в 1917 году. Ещё учась в гимназии заинтересовался революционными идеями и вошел в юношеский социал-демократический кружок, в декабре 1918 года участвовал в восстании против гетмана Скоропадского.
Работал в органах политпросвещения и народного образования Украинской ССР, был корреспондентом газет «Большевик» и «Пролетарская правда».
Сначала принадлежал к группе символистов «Музагет», позже к литературным организаций «Комункульт», «Октябрь», а с 1927 года — член Всеукраинского союза пролетарских писателей.
На доме № 51-а по ул. Владимирской, в котором жил в 1928—1966 годах, установлена мемориальная доска.
Культурный писатель это — все. Он — исследователь жизни, он и ученый, он и мыслитель. Я знавал в своей жизни много талантливых литераторов. Но редко кому из них можно было адресовать высшую горьковскую похвалу. К Миколе же Ивановичу Терещенко она подходила полностью. … Для меня было загадкой, когда он, до предела загруженный всяческой работой, — исследовательской, издательской, переводческой, — пишет свои собственные оригинальные произведения. Но вот, засидевшись у него однажды допоздна, я заторопился (хозяину-то ведь надо спать!) и начал прощаться. — Ничего, — сказал он, — я все равно еще не скоро лягу. Только сейчас и начинается мое любимое время. Вот сяду в эту качалку, выключу верхний свет и — «гармонией упьюсь, над вымыслом слезами обольюсь».[К 1]. И в подтверждении своих слов, желая показать мне, как это делается, он сел в качалку, положив на колени какую-то большеформатную книгу, а поверх нее листы чистой бумаги… В доме уже все спали когда я уходил от него. Это была наша последняя встреча в доме на Владимирской...
Первые стихи появились в печати в 1918 году, первый сборник стихотворений самого Николая Терещенко — «Лаборатория» — был издан в 1924 году. Затем последовали сборники стихов «Чернозем» (1925), «Цель и предел» (1927), «Страна работы» (1928), «Республика» (1929), «Леса» (1930), «Порыв» (1932), «Сенька-арсеналец» (1930), «Цэнь-Цань» (1930).
Стихи выходили в Киеве в переводе на русский язык, а в 1933 году сборник «Стихи» был издан на русском языке в Москве издательством «Советская литература».
Стихи периода Великой Отечественной войны составили сборники «Девушка с Украины» (1942), «Верба рясна» (1943), «Зори» (1944).
После войны вышли сборники стихов «В битвах и трудах» (1951), «Правда» (1952), «Щедрая земля» (1956), «Лирический летопись» (1958), «годы и люди» (1960), «Сердце человеческое» (1962). В 1966 году было посмертно издано двухтомное собрание стихов поэта.
Один из зачинателей украинской советской поэзии. Ранние стихи Терещенко отмечены влиянием символизма. В первом сборнике «Лаборатория» (1924) проявилось стремление к реалистичной выразительности художественного слова. Терещенко становится певцом нового человека, темы труда и дружбы народов.
