Rodil se je v revni kmečki družini kozaškega rodu. Najprej je od leta 1903 služil v kozaškem konjeniškem 9. polku. Med letoma 1904 in 1905 je v sestavi 26. donsko kozaškegapolka sodeloval v rusko-japonski vojni. V tem času se je srečal z Mannerheimom.
Po njem so leta 1935 poimenovali mesto Prikumsk v Budjonnovsk (Будённовск), Stavropolski kraj. Mesto so leta 1957 spet preimenovali v Prikumsk, leta 1973 pa nazaj v sedanje ime, Budjonnovsk.