Chehaibi joue pour la Jeunesse sportive kairouanaise dans les catégories des jeunes, avant de devenir titulaire en seniors à l'âge de 19 ans.
Évoluant au poste de milieu de terrain offensif, il constitue avec Khemaïs Laabidi un duo très efficace au service des attaquants Moncef Ouada et Kacem Jabbes, ce qui permet à l'équipe, après un premier contact avec l'élite de 1972 à 1974, de revenir en force en 1975 et de ne pas tarder à remporter le championnat en 1977.
Cet exploit attire l'attention sur la Jeunesse sportive kairouanaise et ses meilleurs éléments, Laabidi, Ouada, Chehaibi, Jabbes et Fethi Rimani, sont sélectionnés en équipe nationale. Chehaibi participe ainsi à la CAN 1978 puis fait partie du groupe sélectionné pour la coupe du monde 1978.
Il poursuit sa carrière jusqu'en 1982 puis choisit une carrière d'entraîneur en Tunisie et dans les pays arabes du Golfe, avec toutefois peu de réussite.