인천전문대를 중퇴하고 단국대 체육학과 편입 후 졸업해 1990년에 입단하며 1980년대를 주름잡던 팀의 포수 조범현, 김경문을 밀어내고 주전 포수 자리를 차지했다. 1990년대를 대표하는 최고의 수비형 포수 중 하나였고, 주전으로 활동하며 상대적으로 장타력이 좋은 박현영과 출장 시간을 이상적으로 배분했으며, 김인식이 감독으로 취임 후 일발 장타력을 인정받던 이도형까지 포수진에 가세한 덕분에 팀의 포수진은 현재까지도 내려오는 전통의 포수 왕국의 컬러를 확립했다. 공격력 부분에서 백업인 박현영, 이도형에 비해 열세였던 덕분에 특출난 시즌 성적을 기록하지는 못했으나 1995년 한국시리즈 우승에 크게 기여한 일등 공신이었다. 이후 국가대표 출신 초대형 포수 유망주 최기문, 진갑용, 홍성흔이 연달아 입단하며 그의 주전 포수 자리를 자연스럽게 세대 교체하는 시도가 진행됐는데 최기문을 밀어낸 진갑용이 타격, 수비 양쪽에서 부진을 거듭하며 확실한 후계자로 믿음을 주지 못했다.
현역 마지막 시즌부터 플레잉 코치로 활동했고 다음 해에 은퇴하며 10년 동안 배터리코치로 활동했다. 홍성흔 이후 포수 자원인 용덕한, 양의지 등을 강인권 코치와 함께 프로에 안착시키는데 큰 영향을 미쳤다.김광수 감독대행 체제로 2011 시즌이 끝난 후 감독 후보군에 올랐지만, 당시 투수코치였던 김진욱이 신임 감독이 됨에 따라 팀을 떠나 SK 와이번스의 배터리코치로 옮겼다.
취임식 때 그는 공격적인 야구를 선보이겠다는 포부를 밝혔다. 2015년 감독 부임 첫해 페넌트레이스 성적 79승 65패, 3위로 마쳤고 와일드카드 결정전에서 SK를 꺾고 올라온 넥센과의 준 플레이오프에서 4차전에 크게 뒤지던 경기를 7회부터 9회까지 연속 9득점을 올리며 7점 차 대역전승을 해 3승 1패를 기록하며 플레이오프에 진출했다. 이어 NC와의 플레이오프에서도 벼랑 끝에 몰렸으나 4차전 더스틴 니퍼트, 5차전 장원준의 활약으로 3승 2패로 NC를 꺾고 감독 부임 첫 해에 한국시리즈에 진출했다. 2015년 한국시리즈에서 1차전에 역전패를 당했으나 2차전부터 5차전을 내리 이기며 14년 만에 팀의 우승을 이끌었다. 이 우승으로 그는 역대 4번째로 감독 부임 첫 해에 우승을 이끈 주인공이 됐고, 이 공로로 2015년 시즌 감독상을 받았다. 1995년 현역 시절, 2001년 코치 시절, 2015년 감독 시절 우승해 한 팀에서 선수, 코치, 감독으로 모두 우승한 기록을 세웠다. 이후에도 2차례 더 팀을 KS 우승으로 이끌었으며, 7년 연속으로 한국시리즈에 진출시켰다.
2016년5월 11일SK와의 경기에서 통산 세 자릿수 승을 달성했다.
그러나 2020년대부터 스토브리그 FA 시즌마다 팀에서 이적하는 선수가 생기며 서서히 내리막을 걷기 시작했고, 2022년에는 9위로 추락하며 8년만에 포스트 시즌 진출에 실패했다. 결국 2022년 시즌 마감과 함께 계약이 만료됐고, 이승엽을 후임 감독으로 내정함에 따라 팀을 떠나게 됐다.
한국 프로 야구 선수협회 5적 네임 밸류로 불렸으나 당시 구단주가 KBO 회장이면서 두산 그룹의 오너였던 박용오 회장이었고 선수협에 가입하면 구단 자체를 없애 버린다고 엄포를 놓자 그는 선수들의 안전을 보장받는 조건으로 구단과 선수협 가입 불가에 합의했다. 그러나 구단이 심정수를 트레이드시키며 구단의 약속이 이행되지 않자 다시 선수들을 이끌고 선수협에 가입했다.
OB 베어스 주장 시절 정말 무서운 군기 반장이었다. 경기 끝나고 선수들을 소집해서 엄하게 다그치는 일도 자주 있었다. '이광용의 옐로우카드'에 출연해 "당시 감독이던 김인식이 성격이 부드러우셔서 군기 반장을 해야 할 필요가 있었다"고 밝혔다.
.svg){kind=small}