3 липня1995 — 8 травня1998 року — міністр охорони навколишнього природного середовища та ядерної безпеки України. Був членом ради СБУ, членом Ради національної безпеки при Президентові України, членом Ради національної безпеки і оборони України з серпня 1996 по вересень 1998 року, членом Комісії з питань ядерної політики і екологічної безпеки при Президентові України з грудня 1997 по липень 2000 року, членом Державної комісії з проведення в Україні адміністративної реформи з липня 1997 по липень 2001 року. 4 жовтня 1997 року у Відні на сесії Генеральної конференції МАГАТЕ підписав від імені уряду України Конвенцію про безпеку поводження з радіоактивними відходами та відпрацьованим паливом.
Член фракції «Наша Україна» з травня 2002 року, заступник керівника фракції з червня 2002 року, член Комітету з питань паливно-енергетичного комплексу, ядерної політики та ядерної безпеки з червня 2002 року, член Постійної делегації ВР України в ПАРЄ з червня 2002 року.
Очолював тимчасову Комісію з питань розробки концепції національної безпеки, очолював спеціальну роботу депутатської групи з підготовки до ратифікації Договору про скорочення стратегічних наступальних озброєнь, брав участь у роботі тимчасової Комісії з розслідування дій посадових осіб під час ДКНС, очолював українську делегацію на переговорах з Росією з проблем ядерного роззброєння.
Заступник голови Народного Руху України з травня 1998 по лютий 1999 року.
1999, лютий — обраний головою Українського Народного Руху.
1999, 18 грудня — на установчому з'їзді партії обраний головою партії Український Народний Рух.
2003, січень — на IV з'їзді Українського Народного Руху, під час якого було ухвалено рішення про нову назву партії — Українська Народна Партія — обрано головою УНП.
Публікаційна діяльність
У вересні 2015 року видавництво «Ярославів Вал» опублікувало монографію Костенка «Історія ядерного роззброєння України»[1]. Книга найбільш інформативно представляє процес ядерного роззброєння України у контексті становлення Української держави у перші роки незалежності. Історія викладена за хронологією ухвалення усіх рішень (включно із закритими) парламенту, уряду, президента щодо ядерного роззброєння[2], а також публікацій у західних, російських та українських ЗМІ і невідомих загалові фактів про кулуарну частину політичної боротьби між проукраїнською та прокремлівською частинами української влади. Книга дає вичерпну відповідь на запитання, яке стало особливо актуальним після початку військової агресії Росії проти України у 2014 році: «Хто винен, що Україна віддала ядерну зброю без надійних гарантій національної безпеки?»[3]
Невдовзі після було проведено серію презентацій, зокрема, у місті Києві (14-й Київський книжковий ярмарок «Медвін»[4], Київський міський будинок учителя[5], Український кризовий медіа-центр[6], НТУУ «Київський політехнічний інститут імені Ігоря Сікорського»[7]), Полтаві (Полтавський національний педагогічний університет імені Володимира Короленка[8][9]), Рівному (Рівненський державний гуманітарний університет[10]), Львові (Львівський національний університет імені Івана Франка[11], «Форум видавців у Львові»[12]), Ужгороді (Ужгородський національний університет[13]), Чернівцях[14][15][16]), Івано-Франківську (Народний дім «Просвіта»[17][18]), Тернополі (Тернопільський національний технічний університет імені Івана Пулюя[19][20]), Миколаєві (Миколаївська обласна державна адміністрація[21][22]), Одесі (Одеський університет ім. Мечникова[23]).