En 1978, il est élu à la Chambre des représentants des États-Unis dans le 4e district du Mississippi, succédant à Cochran[2]. Il devance largement le fils du sénateur démocrate John C. Stennis et trois autres candidats[3]. Républicain conservateur, il représente une circonscription du sud-ouest de l'État[4].
En , il organise une conférence de presse pour répondre aux accusations d'homosexualité le concernant. Bien que marié, il avoue avoir été inculpé en 1976 pour « avoir commis des actes obscènes » au USMC War Memorial, connu pour être un lieu de rencontre gay, et être l'un des survivants de l'incendie mortel qui s'est déroulé lors de la projection d'un film homosexuel pour adultes en 1977[4],[5]. Il nie cependant être homosexuel[6] et est réélu de justesse en novembre suivant[4].
Le , Hinson est arrêté par la police et inculpé pour sodomie, après avoir été découvert dans les toilettes avec un assistant de la bibliothèque du Congrès[4],[5]. Il démissionne de son mandat de représentant le suivant[2].