Iniziò ad arbitrare nel 1953 e nel 1961 gli fu affidata la prima partita di Vysšaja Liga, massimo campionato sovietico, nel quale arbitrò in totale 164 partite. Tra le più importanti gare che diresse nel suo Paese vi sono state due finali della Kubok SSSR (coppa dell'Unione Sovietica): Ararat - Dinamo Kiev nel 1973 e Dinamo Tbilisi - Ararat nel 1976.
Kazakov viene ricordato anche per aver annullato un gol regolare al Belgio negli ultimi minuti dell'incontro di Rotterdam contro i Paesi Bassi del 18 novembre 1973. Era l'ultima gara del gruppo 3 di qualificazione al campionato del mondo 1974,[6] e le due squadre erano appaiate in testa alla classifica. L'incontro finì 0-0 e per la miglior differenza reti si qualificarono gli olandesi,[7] che si sarebbero rivelati la grande rivelazione del torneo finendo secondi dietro ai padroni di casa della Germania Ovest.