Bavay, Bavai, Latijn Bagacum Nerviorum moet in het Gallisch Beuken betekend hebben.
In de Gallische tijd was Bavay waarschijnlijk een Nervische plaats, in de vroege Gallo-Romeinse tijd zeker de hoofdplaats van de Civitas Nerviorum in Belgica Secunda. Nog in de Romeinse tijd werd Cambrai of Kamerijk de nieuwe hoofdstad, terwijl de Civitas Nerviorum van de Nerviërs of Nervii werd omgedoopt tot Civitas Cameracensis.
Bavay was in Noord-Gallië een bijzonder belangrijk knooppunt van zeven heirbanen in alle richtingen, namelijk naar Soissons, Reims, Trier, Amiens, Doornik, Utrecht en Keulen. De belangrijkste vormde wel de verbinding met Keulen via Tongeren, die historici de Via Belgica noemen. Doordat de heirbaan in de Merovingische tijd werd gerestaureerd noemde men hem nadien Chaussée Brunehaut, naar de Frankische koningin Brunhilde van Visigotische afkomst. Een andere belangrijke heirbaan was die van Bavay richting Utrecht, nog bewaard tot Asse (oude spelling Assche). Die is vandaag de dag ondanks een kleine onderbreking nog bijna volledig als weg in gebruik. Tussen Edingen en Asse vervult dit traject nog de rol van een lokale hoofdweg.
De opgravingen met onder andere het forum (Forum van Bavay) en het museum geven een beeld van wat de stad moet geweest zijn. Een stuk van de antieke omwalling werd in 1862 geklasseerd en in 1909 ingeschreven als monument historique. Verschillende antieke restanten werden in 1949 en 1992 ingeschreven als monument historique.
Een deel van de middeleeuwse vestingen werd in 1992 als monument historique ingeschreven.
De Église Notre-Dame de l'Assomption in het stadscentrum dateert uit de 16de eeuw.
De Église Saint-Nicolas in Louvignies dateert uit de 18de eeuw.