Il devint membre du comité central du PCUS en 1956 et, au niveau « local », premier secrétaire du Parti communiste d'Ukraine de 1957 à 1963.
Nommé au Politburo, il participa au renversement de Nikita Khrouchtchev le et entra rapidement en concurrence voilée avec Léonid Brejnev. Un modus vivendi s'instaura : Brejnev devint premier secrétaire du parti, Alexis Kossyguine, Premier ministre, et Anastase Mikoyan prit la tête nominale de l'État.
Mikoyan s'étant toutefois rapidement retiré, en 1965, Nikolaï Podgorny accéda le [1] à la fonction de président du præsidium du Soviet suprême de l'URSS (chef de l'État), fonction essentiellement honorifique qu'il occupera jusqu'à sa mise à la retraite forcée en juin1977. Son épouse est décédée en 1995.