Il suivit ensuite les cours de l'école supérieure d'infanterie de l'Armée rouge à Vystrel entre 1925 et 1927, puis à l'Académie militaire Frounzé, d'où il sortit diplômé en 1932. Il reçut alors le commandement d'un division, puis devint chef d'état-major du district militaire de Kalinine puis de la Volga de 1939 à 1940.
Il participa à la guerre d'Hiver contre la Finlande en tant que chef d'état-major de la 7e armée.
Seconde Guerre mondiale
Pendant la Seconde Guerre mondiale, Gordov fut successivement chef d'état-major de juin à , commandant de la 21e Armée d' à , commandant du front de Stalingrad du au [1], commandant de la 33e Armée d' à , et enfin commandant de la 3e Armée de la garde d' à .
Après la guerre
Après la guerre Gordov fut nommé à la tête du district militaire de la Volga jusqu'à sa retraite, en .
Le , Gordov fut arrêté pour participation à un complot contre le gouvernement soviétique et condamné à mort le . La sentence fut exécutée le jour-même dans la prison de Lefortovo, à Moscou.
Gordov fut réhabilité le et son nom figure sur un monument à la mémoire des victimes de la répression politique.