Knud oli kuningas Eerik Ejegodin poika, mutta Eerik kuoli Knudin ollessa alle 10-vuotias. Koska Knud oli liian nuori isänsä seuraajaksi, hänen sedästään Niilo Sveninpojasta tuli uusi kuningas. Niilo nimitti Knudin vuonna 1115Slesviginjaarliksi. Knud kävi sotia lähiseudun vendejä vastaan. Kun vendien ruhtinas kuoli vuonna 1129 Knud sai Saksan kuninkaan Lotharin nimittämään itsensä uudeksi ruhtinaaksi ("knes"). Vendien ruhtinas Niklot nousi vuonna 1129 kapinaan Knudia vastaan, mutta Knud kukisti kapinan.
Kuningas Niilon poika Maunu piti Knudia kilpailijana Tanskan kruunusta. Maunu yritti turhaan saada isäänsä puolelleen. Lopulta Maunu murhautti Knudin, kun tämä oli matkalla tapaamaan serkkuaan Knuut Pyhän tytärtä Ceciliaa. Knudin murha johti kapinaan Niiloa ja Maunua vastaan. Kapina huipentui Fotevikin taisteluun vuonna 1134, jossa Maunu kaatui. Niilo joutui puolestaan pakenemaan ja surmattiin myöhemmin.
Pitkän sisällissotien kauden jälkeen Knudin kuoleman jälkeen syntynyt poika Valdemar I nousi Tanskan kuninkaaksi vuonna 1157. Valdemarin aikana paavi julisti Knudin pyhimykseksi. Knudin juhlapäivää eli nuutinpäivää juhlittiin pitkään hänen kuolinpäivänään. Mutta myöhemmin nuutinpäivä siirrettiin nykyiselle paikalleen 13. tammikuuta, pyhän Knud IV Svendsenin muistopäivälle.
Knudin kuoleman jälkeen Slesvigissa ja muualla Tanskassa perustettiin knudsgilde nimellä kulkevia kauppiaskiltoja.