Er war der dritte Sohn des Herzogs Otto I. von Kärnten, der jüngere Bruder PapstGregors V. und der älteste der vier Söhne Ottos, der seinen Vater überlebte. Bei der Königswahl von 1002 war er einer der Kandidaten. Er wurde im Dom zu Worms begraben.
Konrad von Kärnten war seit etwa 1002 mit Mathilde von Schwaben verheiratet, einer Tochter von Herzog Hermann II. Das Paar hatte zwei Söhne: