Zakhàrov va néixer a Tver, en el si d'una família camperola. El 1913 va graduar-se a l'escola primària superior de la ciutat de Tver, treballant com a mecànic a Petrograd. S'uní a la Guàrdia Roja, precursor de l'Exèrcit Roig, el 1917, sent un participant actiu als esdeveniments revolucionaris de 1917, incloent l'assalt al Palau d'Hivern del 7 de novembre. Durant la Guerra Civil Russa serví a les ordres de Kliment Voroixílov, lluitant contra les tropes del general Anton Denikin al nord del Caucas i a Stàvropol.
El 1928 es graduà a l'Acadèmia Militar Frunze. Entre juliol de 1933 i febrer de 1936 va ser cap d'operacions del Districte Militar de Belarús; entre febrer i octubre de 1936 comandà un regiment de fusellers i, el 1937, a l'Acadèmia d'Estat Major General (la seva graduació estava un any pel davant del previst, tant per la mancança d'oficials a l'Exèrcit Roig pel seu ràpid creixement com per efecte de les purgues de Stalin. Així doncs, Zakhàrov serví en diversos alts comandament abans de la Gran Guerra Patriòtica. El 1937 va ser nomenat Cap de l'Estat Major del Districte Militar de Leningrad, entre 1938 i 1940 va ser Vicecap de l'Estat Major General de l'Exèrcit Roig, i després Cap de l'Estat Major del Districte Militar d'Odessa.
Cap a finals de 1941, després de l'inici de l'operació Barbarroja, va ser destinat al nord, on va ser nomenat Cap de l'Estat Major del Front Nord-occidental. Poc després, va ser nomenat Cap de l'Estat Major del Front de Kalinin, càrrec que ocupà la major part de 1942. El 1943 va ser nomenat Cap de l'Estat Major del Front de l'Estepa, que passà a anomenar-se 2n Front Ucraïnès cap a mitjans d'any. Va ser en aquest càrrec on Zakhàrov es mostrà com un dels màxims comandants militars. Ajudà a planejar diverses operacions brillants contra les forces alemanyes, com les de Belgorod-Khàrkiv, Kirovohrad, Korsun Xevtxenko, Uman Botoshanskii, Iaşi-Chişinău, Debrecen, Budapest, Viena o Praga, primer com a subordinat del Mariscal Ivan Kóniev i després de Rodion Malinovski. Després del final de les hostilitats contra els alemanys, Zakhàrov va ser traslladat a l'est, on va ser nomenat Cap de l'Estat Major del Front Transbaikal, on col·laborà en la planificació de la posterior invasió de Manxúria.
Després de la guerra, Zakhàrov ocupà diversos càrrecs clau a l'Exèrcit. Entre 1945 i 1960 va ser Comandant de l'Acadèmia Militar Superior (posteriorment anomenada Acadèmia Militar de l'Estat Major General Voroixílov, Adjunt al Cap de l'Estat Major General, Inspector en Cap de l'Exèrcit, Comandant en Cap del Districte Militar de Leningrad i Comandant en Cap del Grup de Forces Soviètiques a Alemanya Oriental. El 8 de maig de 1959, Zakhàrov va ser promogut al grau de Mariscal de la Unió Soviètica. Paral·lelament a la promoció va ser nomenat Cap de l'Estat Major General i viceministre de Defensa entre 1960 i 1963. Després va ser degradat, tornant breument a l'Acadèmia d'Estat Major General (segons algunes memòries s'esmena la interferència de Khrusxov en afers militars). Immediatament després a la deposició del poder de Khrusxov al novembre de 1964, Zakhàrov tornà a ser nomenat Cap de l'Estat Major General, en substitució del general Serguei Biriúzov, mort en un accident d'aviació, i tornà a ser nomenat viceministre de Defensa, càrrec que ocuparia fins a la seva jubilació el 1971. El 1967 va fer un llarg viatge a Egipte per supervisar la restauració de l'Exèrcit egipci després de la seva derrota enfront Israel en la Guerra dels Sis Dies.
Колпакиди А., Север А. ГРУ. Уникальная энциклопедия. — М.: Яуза Эксмо, 2009. — С. 692-693. — 720 с. — (Энциклопедия спецназа). — 5000 экз. — ISBN 978-5-699-30920-7
Richard Woff: Matvei Vassilievich Zakharov, in: Shukman Harold: Stalin's Generals (New York 1993). (See also Shukman, Harold (2001). Stalin's Generals. Phoenix Press. ISBN 1842125133.)
B.Z. Gryaznow: Marschall Sacharow (Moskau 1979) -russisch
.svg){kind=small}
