후지 시립 요시와라 상업고등학교를 졸업하고 아시아 대학에 진학하지만 1년 만에 중퇴했다. 이후 사회인 야구팀 다이쇼와 제지를 거쳐 1971년 드래프트 번외로 니시테쓰 라이온스에 입단했다. 후에 활약하게 되는 요미우리 자이언츠로부터의 입단 권유가 있었지만, 당시 약소 팀이었던 니시테쓰에 등판 기회가 많을 것이라고 판단해 선택했다고 한다.
당시 니시테쓰는 검은 안개 사건으로 인해 주력 투수들이 잇따라 퇴단하는 등 전력이 크게 떨어지고 있던 시기여서 이나오 가즈히사 감독은 신인이었던 가토를 히가시오 오사무와 함께 선발 로테이션의 일원으로서 기용했다. 입단 첫 해인 1972년에 시즌 17승(15선발승)을 기록하여 퍼시픽 리그 신인왕을 차지했고 구단을 매각하는 등 경영에 있어서의 부담을 겪고 있는 라이온스에서 히가시오와 함께 ‘투수 2인방’으로서 활약했다.
1976년에 세키모토 시토시, 다마이 노부히로와의 맞트레이드로 이하라 하루키와 함께 요미우리 자이언츠로 이적하여 하리모토 이사오와 함께 1976년 시즌 요미우리 전력 보강의 상징으로 여겨졌다. 같은 해 4월 18일 히로시마 도요 카프전(히로시마 시민 구장)에서는 역대 51번째(62번째)의 노히트 노런을 달성했고 그 해 15승(7선발승) 4패의 좋은 성적을 올리는 등 센트럴 리그에서는 정식 타이틀이 아닌 최고 승률을 기록하면서 요미우리의 리그 우승 달성에 기여를 했다.
이후 요미우리의 중심 투수로 오랫동안 활약하며(86년 14선발승으로 74년(10선발승)에 이어 3번째 10선발승 이상) 올스타전에도 6차례나 출전했다. 1989년부터는 요미우리의 선수 겸 코치로 활동했고, 이듬해 1990년에는 19년간의 현역 생활을 은퇴했다.
그 후
1991년 ~ 1994년까지 4년 간 후지 TV와 닛폰 방송의 야구 해설위원으로 활동했지만, 그다지 언변에는 자신이 없었다고 후에 밝히기도 했다. 1995년부터는 세이부의 2군 투수 코치로 부임했고 1998년 시즌 도중부터는 2군 투수 코치로 옮긴 모리 시게카즈의 뒤를 이어 1군 투수 코치를 맡았다. 2000년에는 세이부 구단 프런트에서 근무하다가 2001년에 다시 1군 투수 코치를 맡았다.
2007년부터 다시 SK 와이번스의 1군 투수코치로 발탁되면서 같은 해 팀의 한국시리즈 우승에 기여했고 11월에 열린 아시아 시리즈에서는 코치로서 일본을 방문했다. 이듬해 2008년에 SK로서는 사상 최초의 2년 연속 정규 페넌트레이스 우승과 한국시리즈 우승을 이끌었고 2년 뒤인 2010년에는 정규 페넌트레이스 우승, 한국시리즈 우승을 동시에 이끌었다. 하지만 다음 해인 2011년에는 시즌 중 치질 수술을 받는 바람에 잠시 조웅천이 대신해서 나선 적이 있었다.[2] 2011 시즌 종료 후 재계약 불가 통보를 받고 SK를 퇴단했다.[3]