Kim est le fils de Kim Ung-gyun, membre du clan des Kim d'Andong et ministre Yejo[1]. Sa mère est une concubine kisaeng[2]. Il commence sa carrière comme Chamseogwan de la Bibliothèque royale. En 1886, il réussit l'examen littéraire du Gwageo[1]. Le 16 mai 1887 (calendrier lunaire), il est nommé ministre envoyé à Tokyo[3], puis revient en Corée le 21 septembre 1891 (calendrier lunaire)[4].
Kim est un grand partisan de la réforme et tente d'évincer le clan Yeoheung Min(en) du pouvoir et de porter Daewongun à la tête[5]. Daewongun veut également employer Kim dans le nouveau gouvernement en tant que membre de la fraction progressiste[6]. Il est nommé ministre de l'Agriculture, de l'Industrie et du Commerce le 1er avril 1895 (calendrier lunaire)[7], poste dont il démissionne le 17 août 1895 (calendrier lunaire)[8],[9]. En août 1895, il est nommé membre de 1ère classe de Junchuwon[10]. Le 27 août 1895, il est nommé envoyé coréen au Japon[11], poste dont il démissionne le 1er février 1896[12]. Il redevient membre de 1ère classe du Junchuwon[13]. En juillet 1896, il rejoint le nouveau Club de l'indépendance[1].
Kim occupe divers postes dans l'empire coréen tels que celui de président du Jungchuwon et de fonctionnaire spécial du Gungnaebu. Il montre sa désapprobation à la signature du traité d'Eulsa en 1905 qui fait de la Corée un protectorat japonais[1]. Le 8 mai 1906, il est rétrogradé au rang d'observateur de la province du Chungcheong du Sud[14]. Pour repousser la colonisation japonaise, il devient président des organisations Daehan[1]. En 1907, il est nommé Gyujanggak Jaehak[1] et se retire de la fonction publique la même année[15].
Après l'annexion de la Corée en 1910, Kim est anobli au titre de baron[16]. Lors du mouvement du 1er mars 1919, il participe en tant que représentant de la Corée[17]. Après cet épisode, il dévient président du Daedongdan[18]. Le 19 octobre 1919, il s'enfuit à Shanghai en train avec Yi Jong-uk, un agent du gouvernement provisoire de la république de Corée à Séoul[19]. Il est déguisé en homme de la campagne durant le trajet[20]. Son exil aide le Daedongdan à agir depuis Shanghai[21]. Après la dissolution de l'organisation, il rejoint le gouvernement provisoire de la République de Corée[1]. Il meut à Shanghai le 4 juillet 1923[22].