1881'de Rus İmparatorluğu'nun Dnipro Oblastı (bugünkü Ukrayna'nın Dnipro oblatsı) Verhniye'de yoksul bir ailenin çocuğu olarak doğdu. Maden işçiliği yaparak eğitimini zorlukla bitirdi. 1905'te Rusya Sosyal Demokrat İşçi Partisi'ne girdi. 1906'da Bolşevik delegesi olarak Stockholm kongresine katıldı. Birkaç defa tutuklandı ve sürgüne gönderildi.
1917 Ekim Devrimi'nden sonra Petrograd Savunma Komitesi Başkanı oldu. 1918'de Ukrayna 5. Kızıl Ordusu'nu kurdu. 10. Ordu kumandanıyken Çariçin Savunması sırasında Josef Stalin ile dost oldu. Stalin, Çariçin'den ayrıldıktan sonra Kızıl Ordu Komutanı Lev Troçki tarafından 10. Ordu komutanlığından azledildi.
Türk Kurtuluş Savaşı'nın sürdüğü yıllarda askeri bilgisiyle savaşın taktik ve stratejisine katkıda bulunması amacıyla Ankara'ya gönderildi.[1]
1925-1940 arasında Halk Savunma Komiserliği yaptı. II. Dünya Savaşı'nda Leningrad Savunması'nı yaparak Wehrmacht'ın kenti ele geçirmesini önledi. Savaş sonunda Mareşal rütbesine terfi ettirildi. ve 1947'de Politbüro üyesi oldu. 1953-1960 arasında Yüksek Sovyet Prezidyumu Başkanlığı yaptı. 1969 yılında öldü.
İzmir ziyareti anısına belediyenin kararıyla İzmir'de büyük bir caddeye Kasım 1933'te "Voroşilof Caddesi" adı ve ayrıca Voroşilov'a İzmir'in fahri hemşehrisi unvanı verildi.[2] Voroşilov'un bir heykeli Taksim Cumhuriyet Anıtı'nda Atatürk'ün ardında yer alıyor.[3]
