A terület már a kőkorszakban lakott volt. A város mai területén létezett egy római kolónia, Castrilocus néven. A 7. századbanSzent Ghislain és követői egy kápolnát építettek itt. A középkorban a kereskedelem és gazdaság virágzott, a népesség gyorsan nőtt. A 13. század végére a város lakossága elérte a 4700 főt. Mons 1295-ben Hainaut székhelye lett. A 15. század végére 8900 lakója volt a városnak.
1515-ben V. Károly spanyol király ellenőrzése alá került a térség. A 16. században az ellenreformáció ideje alatt sok embert öltek meg a városban. 1691. április 8-án, kilenc hónapos ostrom után XIV. Lajos francia király csapatai bevették a várost. 1697 és 1701 között osztrák, majd 1701 és 1709 között ismét francia ellenőrzés alatt állt, majd a hollandok irányítása alá került. 1715-ben az osztrákok ellenőrzése alá került. XV. Lajos1746-ban ismét ostromolta a várost. 1792-ben aztán Hainaut tartományt annektálta Franciaország.
1814-ben, Napóleon államának összeomlása után Hollandia kezére került Mons. A hollandok jelentős erődítési munkálatokat végeztek. 1830-ban Mons a független Belgium része lett. Az 1860-as években jelentősen átépítették a várost (körutak építése). 1914. augusztus 23-a és 24-e között a britek itt harcoltak a németek ellen, akik később elfoglalták a várost. Az első világháború utolsó napjaiban kanadai egységek szabadították fel Mons-t a német megszállás alól. 1944 szeptemberében súlyos harcok dúltak az amerikai és a visszavonuló német csapatok között a város térségében. 2006 áprilisában a helyi börtönben lázadás tört ki, halálesemény nem történt.
Oktatás
A városban három egyetem működik:
Faculté polytechnique de Mons (FPMs)
Facultés universitaires catholiques de Mons (FUCAM)
Université de Mons-Hainaut (UMH)
Kultúra
Ducasse de Mons (ismertebben Doudou) egy helyi ünnep, amelyet pünkösdvasárnap rendeznek meg.
A város 2015-ben – a csehországiPlzeň mellett – az Európa kulturális fővárosa cím birtokosa.