1568년(선조 1년) 과거에 급제한 이후, 예문관, 홍문관, 제주 목사, 좌부승지, 대사헌, 대사간, 부제학, 이조참판 등을 역임하였다. 임진왜란 직전인 1591년(선조 24년) 성절사(聖節使)로 임명되어 명나라 북경(北京)에 가서 일본이 쳐들어 올 준비를 하고 있다는 소식을 보고하고 조선은 일본의 앞잡이가 되지 않겠다고 변무하였다. 이 당시, 일본에게 점령된 조선이 일본의 앞잡이가 되어 명을 정벌하려 한다는 풍문이 일본으로부터 복건(福建)을 경유하여 북경으로 들어왔기 때문이다. 같은해 11월, 한양에 돌아와 보고한 이후, 한성부 판윤(지금으로 치면 서울시장 격)이 되었다. 1592년(선조 25년, 만력 20년) 임진왜란이 일어나자 병조판서, 부체찰사로서 평안도로 피란하는 왕을 따라나섰고, 이조판서가 되어 왕을 따라 환도한 뒤 우의정, 좌의정 등을 지냈다.
김응남은 남응운, 김상용과 함께 조선 중기를 대표하는 전서(篆書)의 대가였다. 특히 노수신, 이산해와 만들어 낸 조광조의 신도비명은 최고의 역작이라고 칭송받았다고 한다(참고로 이산해는 김응남의 처남이기도 하다).
김응남은 이순신과 원균과 관계에서 대체로 원균을 옹호하고 이순신을 깍아내렸다. 《조선왕조실록》 선조편에서도 그의 발언은 원균을 계속 두둔하는 것으로 일관하였다. 《선조실록》1597년3월 10일(음력 1월 23일)에는 이순신의 전공을 그의 부하인 정운이 독촉하여 마지못해 이순신이 출전하여 거둔 것이라고 하였고, 이어 3월 14일(음력 1월 27일)에는 “수군으로서는 원균만한 사람이 없습니다.”라고 하는 등 윤두수와 함께 이순신에 대한 경계심과 반감을 계속적으로 보였다.
1597년(정유년, 선조 30년, 만력 25년) 9월, 개성(開城)에서 경리(經理) 양호(楊鎬)를 만난 후 병을 얻었으나, 양호가 지시한 군량 담당 업무로 인하여 고병(告病, 병을 이유로 사직)하지 못하였다. 이후 업무로 영남(嶺南)으로 내려갔고, 같은해 10월 출발하였으나 풍기(豐基)에서 병세가 심해져 가마에서 업무를 수행하였다. 같은해 11월, 한양으로 돌아왔으며 사은사(謝恩使)에 임명되었으나 병이 중하여 사양하였고, 사은사는 정곤수(鄭崑壽)로 대체되었다. 1598년 음5월, 선조는 어의(御醫)허준(許浚)을 보내어 김응남을 간병하게 하였으나, 허준은 이미 늦었다고 하였고, 선조는 내의원 약재를 내주면서까지 간병할 것을 지시하였다. 그러나 같은해 음11월 24일, 김응남은 병을 이기지 못하고 사망하였다.[1]
.svg){kind=small}
