Élu à la Chambre des représentants de Rhode Island en 1956, Chafee est réélu en 1958 et 1960. Il devient le chef de la minorité républicaine à la Chambre[1]. Il est élu gouverneur de Rhode Island en 1962, avec 398 voix d'avance sur son adversaire démocrate. Il est réélu gouverneur en 1964 et 1968, avec de très larges majorités[4]. Il est finalement battu par Frank Licht(en) en 1968[3].
Chafee démissionne en 1972 pour se présenter au Sénat des États-Unis face au démocrate sortant Claiborne Pell. Il est battu par Pell alors que Nixon est facilement réélu à l'élection présidentielle[3]. En 1976, il est élu pour succéder à l'autre sénateur démocrate de Rhode Island, John O. Pastore[1],[3]. Après l'élection, Pastore démissionne de manière anticipée et le gouverneur de Rhode Island nomme Chafee pour terminer son mandat à partir du [2]. Il est réélu en 1982, 1988 et 1994[2].
Sénateur, Chafee se bat notamment pour l'expansion du Medicaid. Républicain modéré[1], Chafee est considéré comme l'un des derniers « républicains Rockefeller »[3]. Il devient président de la conférence républicaine du Sénat en 1985[2] mais perd le poste en 1990 au profit de Thad Cochran, plus conservateur[1],[3]. En 1995, lorsque les républicains reprennent le contrôle du Sénat, il prend la présidence de la commission sur l'environnement et les travaux publics[3].
.svg)
