ニューヨーク市ブルックリン区生まれ。本名のケビンという名を好まず、「レフティ」や「ストレッチ」にしようとも考えていたが、野球選手時代に、一塁にいたコナーズが投手に「ボールをこっちに投げろよ」（Chuck it to me）と叫んだことから、他の選手やファンがこれはうってつけだと考え、この一塁手の名前はチャックとなった。
プロスポーツで身を立てるのが難しいと判断したコナーズは、俳優の道を目指すことにした。ハリウッドの近くで選手生活を送っていたこともあり、MGMの演出家の目に留まって、1952年にキャサリン・ヘプバーン主演の映画Pat and Mikeに出演。翌53年にはSouth Sea Womanでバート・ランカスターとも共演した。多くの映画やTVドラマに出演したが、中でも1958年に米ABCで放送開始された『ライフルマン』では銃の達人にして子どもを育てる男やもめを演じ、代表作となった。その後は、似たような役を振られることが多くなり、短期間のシリーズものにも出演するようになった。NBCが1965年から1966年にかけて放送した、南北戦争後の世界を描いた『荒野の流れ者』、『アフリカ大牧場』や『ルーツ』などである。また、映画『フリッパー』にも出演した。1991年に、オクラホマシティにある西部劇俳優の殿堂に名を連ねた。
