청년 시기 상지현 조선족중학교(상조중,尙朝中,원 송강성립제1(상지)초급조선중학교), 연변대학 농학부(农学部에서 재학한 경력이 있다.1950년 6월 조선전쟁(한국전쟁)이 발생하여 중국중앙정부의 항미원조 보가위국이란 호소(또는 조선민주주의인민공화국 정부가 젊은이들의 참전을 호소)하에 지원군의 신분(조선민주주의인민공화국으로 귀국)으로 조선전쟁(한국전쟁)에 참가하였다.
1957년경, 조선전쟁 정전 후 조선 중앙 정부의 복구 건설 수요가 있어 가족들을 데리고 조선으로 건너가서 정착 생활하였다. 조선 정착 생활 후 김일성종합대학을 졸업하고 모스크바 대학교에 유학하였다.
조선로동당에서 정치 거장 인생을 시작하기 전에 중앙당학교 교원사업을 수락한 적 있다. 1980년대 중반에 조선민주주의인민공화국 부수상(부총리)과 외무상(외교부장)등의 중요한 직무를 담당하였다. 현재 담당하고 있는 직무는 최고인민회의상임위원회 위원장(제12대, 제13대, 제14대, 제15대 련임위원장),로동당 중앙위원회 위원,로동당 중앙위원회 정치국 상임위원,외교 예절상의 국가원수이다. 현재 김영남은 조선민주주의인민공화국 정치계에서 가장 년(연)로한 정치가로서 조선로동당내 서렬 2위에 머물고 있다. 하지만 지금은 연로하여 최고인민회의 상임위원장직에서 물러나 그 자리를 최룡해에게 넘겨주고 모든 직무에서도 물러나 은퇴한 상태이다.
현재 최고인민회의 상임위원회 위원장(1998년9월5일~2019년4월 11일,제12대、제13대、제14대、제15대).
현재 로동당 중앙위원회 위원
현재 로동당 중앙위원회 정치국 상무위원(2010년 9월).
일화
김영남은 문장력이 뛰어나 김일성 주석의 연설문 초안을 대부분 작성했다고 한다.이 때문에 비중이 그다지 크거나 권한이 막강하지도 않은 국제문제를 담당했던 로동당 중앙비서국 비서(서기)였음에도 로동당 중앙정치국 정식 위원으로 승격되는 등 전 김일성 주석과 각별하고 돈독한 관계를 유지할 수 있었다.[2]
김영남은 공적인 대화가 시작되기전 서로 인사를 나눌때는 매우 친절하고 편안한 사람으로 느껴지지만, 일단 본론으로 들어가면 냉혹할 정도로 자신의 각본에 따른다고 한다.
김영남의 친동생 김기남은 로동당 중앙정무국 부위원장 등 여러 중요한 직무을 담당하고 있다.