1926년 11월 6일 경상북도영주군안정면에서 황분현의 5남 중 막내로 태어났다. 1945년 안정국민학교 용산분교 교사로 재직했다. 1950년 육군사관학교 10기로 입학했다. 1951년 임관해 수도경비사령부 참모장, 주월한국군사령부 참모장, 육군3사관학교장을 역임했다.
1979년 1군단장 재임 중 12·12 군사 반란에 가담한 직후 육군참모차장이 되었고, 1980년 5·18 광주 민주화 운동의 무력 진압을 지시하였다. 1980년 7월 16일 육군 대장으로 진급하여 제3야전군사령관을 역임하였다. 1981년 육군참모총장에 올랐다. 1984년부터 감사원장을 지냈다. 1989년 민주정의당 중앙상임고문 겸 당무위원 등을 지냈다.
1997년 4월 17일, 12·12 군사 반란과 광주 민주화 운동 유혈 진압과 관련하여 재판에서 징역 8년형을 선고받았으나 같은 해 12월 특별사면 석방되었다.
