Narodil se ve vesničce Čepuchino ve Voroněžské gubernii v chudé venkovské rodině ruského původu[1] jako jedno ze čtyř dětí. Absolvoval čtyřletou obchodní školu. V roce 1920 se stal vojákem 11. záložního střeleckého pluku Rudé armády. Účastnil se bojů proti Nestoru Machnovi a války s Polskem. V roce 1922 absolvoval velitelskou školu v Poltavě. Od roku 1921 byl členem komunistické strany SSSR. Stal se velitelem roty, později i praporu. V květnu 1926 přijat na Frunzeho akademii generálního štábu Rudé armády. Absolvoval ji s vynikajícím prospěchem a hodnocením. Od roku 1929 působil v řadě štábních funkcí. Od roku 1934 následovalo další postgraduální studium na Frunzeho akademii v Moskvě. V roce 1939 se zúčastnil operací ve východním Polsku. Téhož roku byl povýšen na generálporučíka a pověřen funkcí velitele operačního oddělení Rudé armády. V roce 1940 byl jmenován zástupcem náčelníka generálního štábu Rudé armády. V roce 1941 byl vyznamenán Leninovým řádem.
Po napadeníSSSRnacistickým Německem působil na řadě bojišť často jako muž poslední naděje a to velmi úspěšně. Setrvával přitom ve funkci zástupce náčelníka generálního štábu, zřejmě s vyhlídkami na post budoucího náčelníka. V červenci 1942 odešel na vlastní žádost do funkce veliteleVoroněžského frontu. V listopadu 1942 vedl jako velitel Jihozápadního frontu hlavní protiúder u Stalingradu vedoucí k obklíčení Paulusovy 6. německé armády. Na jaře 1943 obsadil Donbaskou oblast. Při pokusu o dosažení Dněpru utrpěl jedinou vážnou porážku své kariéry při Mannsteinově bočním úderu, nicméně stabilizoval frontu v jižní části Kurského oblouku. V Bitvě u Kurska úspěšně odrazil německou ofenzívu proti jižnímu úseku fronty a počátkem srpna přešel do protiútoku. Po vyčerpávajících bojích v srpnu-září 1943 se rozhodující měrou podílel na vyčištění východní Ukrajiny od německých oddílů a vytvořil dněperská předmostí na západním břehu řeky. Z Ljutěžského předmostí pak 6. listopadu1943 (už v hodnosti armádního generála a velitele Prvního ukrajinského frontu) osvobodil Kyjev. V prosinci 1943 a lednu 1944 provedl své dvě poslední úspěšné operace-žitomirskou a rovenskou a současně se podílel s I. S. Koněvem na úspěšné obkličovací korsuň-ševčenkovské operaci.
Smrt
Při inspekční cestě směrem na město Slavuta byl 29. února1944 postřelen ze zálohy vojáky Ukrajinské povstalecké armády u vesnice Myljatyn v rajónu Ostroh v Rovenské oblasti a 15. dubna1944 zemřel na sepsi. Jeho poslední naplánovanou operaci, která skončila faktickým „vyčištěním“ Ukrajiny provedl maršál SSSR Georgij Konstantinovič Žukov. Byl respektován svými podřízenými stejně jako německou generalitou, která uznale hodnotila jeho agresivitu a originalitu způsobu vedení boje. V SSSR dlouho byl nezaslouženě poněkud podceňován. Šlo o jednoho z mála sovětských důstojníků, kteří unikli stalinským represím 30. let.