Il suit en 1938 les cours de l'université militaire de Kiev, et entre début 1939 à l'école du NKVD.
Il est nommé, en , au poste d'assistant de l'officier opérationnel du contre-espionnage militaire NKVD pour la région militaire de l'Oural, puis en , chef-adjoint du contre-espionnage militaire (Osobii Otdél) NKVD de la 82e Division d'infanterie de l'armée rouge. Il participe à ce titre à la célèbre bataille de Khalkhin Gol qui se conclut par la défaite des Japonais. Il prend part à la Seconde Guerre mondiale contre la Wehrmacht, et est blessé dans le secteur de Mojaïsk (sud-ouest de Moscou) au cours de la bataille.
Remis sur pied en , Fedortchouk est nommé chef du contre-espionnage militaire du NKVD pour la 92e brigade de chars, et il participe aux combats sur les fronts de Kalinine et du front Ouest. Nommé en 1943 chef-adjoint du SMERSH pour la garnison de Iaroslavl, puis en , chef du SMERSH pour la garnison de Kalinine. Nommé en 1949 chef de section a la Direction du MGB (Ministère de la Sécurité d'État) pour la région militaire de Moscou, puis il occupe le même poste en 1950 dans le groupe central des forces soviétiques en Autriche.
À partir de 1953, no 2 du MGB-MVD-KGB dans le groupe de Forces soviétiques en Autriche, jusqu'au retrait de l'armée soviétique. De 1955 à 1963, vice-directeur, puis directeur du Osobii Otdél pour la région militaire de Moscou. Numéro deux de la Direction du KGB dans le groupe des Forces soviétiques en Allemagne (il est alors en RDA) puis nommé en 1966-1967 patron des Forces soviétiques en Allemagne. Nommé chef du Contre-espionnage militaire du KGB (3e direction du KGB) à partir de 1967. Nommé en chef du KGB pour la région militaire d'Ukraine.
Fedortchouk est nommé directeur du KGB en , à la suite de l'élection de Iouri Andropov au poste de Président du Politburo et secrétaire général du Comité central du PCUS. Le , Fedortchouk est déchargé de cette fonction de directeur du KGB et nommé Ministre de l'Intérieur (MVD), il succède à ce poste à Nikolaï Chtchelokov. Il est évincé de tout poste opérationnel lorsqu'il est nommé, en 1986, inspecteur général du ministère de la Défense, jusqu'à ce que ce poste soit supprimé en 1991 lors de la disparition de l'Union soviétique.
Fedortchouk n'a pas laissé un bon souvenir en Ukraine et au sein du KGB.
Quand il a dirigé la Direction du KGB d'Ukraine, il s'est distingué en faisant augmenter les effectifs de son service et en portant des coups extrêmement durs aux nationalistes et aux dissidents. Certains officiers du KGB, comme le chef du KGB en Pologne Vitaly Pavlov critiquent Fedortchouk. Pavlov se rappelle un Fedortchouk qui n'émettait aucune proposition à ses homologues polonais, tandis que d'autres décrivent surtout sa brutalité et sa méconnaissance du fonctionnement du renseignement extérieur (Fedortchouk ne comprenait pas pourquoi les officiers du KGB à l'étranger devaient apprendre les langues étrangères, estimant qu'il suffisait que l'officier du KGB prenne avec lui un traducteur).
