Hij schreef enkele zonderlinge werken over kerkelijke discipline, vaak onder pseudoniemen als Marcellus Ancyranus, Claudius Fontétut of Jacques Barnabe. Tijdens een reis door de Spaanse Nederlanden was hij geschandaliseerd dat de meeste vrouwen er met ontblote schouders en keel bij liepen. Het bracht hem ertoe een moraliserend boekje te schrijven, De l'abus des nuditez de gorge, om dit fenomeen terug te dringen. Nog bekender was zijn Historia flagellantium uit 1700. In dit theologisch traktaat over het verbod op zelfkastijding sprak hij zich uit tegen het publieke karakter van dergelijke vertoningen. Het boek verkocht zeer vlot, mee door de uitvoerige sadomasochistische beschrijvingen.[1] Toen men hem vroeg waarom hij doorgaans in het Latijn schreef, zei hij: "Het is uit angst dat de bisschoppen me zouden lezen: ze zouden me vervolgen".
Zijn broer Nicolas, de beroemde satireschrijver, zei over hem: "Als hij geen doctor van de Sorbonne was geworden, hij zou doctor van de Italiaanse komedie zijn geweest". Voltaire, die hem wist te waarderen, noemde hem "een bizarre geest die bizarre boeken heeft geschreven in een buitengewoon Latijn".
Publicaties
Éclaircissement sur un passage de S. Augustin, 1667
Ad Decretalem super specula de Magistris, 1667 (over de Sorbonne)
De l'abus des nuditez de gorge, Bruxelles, 1675 (over gedecolleteerde vrouwen in kerken)
De antiquo jure presbyterorum in regimine ecclesiastico, 1676
Historia confessionis auricularis ex antiquis Scripturae, 1683 (over de noodzaak van de biecht)
Considérations sur le Traité historique de l'établissement et des prérogatives de l'église de Rome et de ses évêques, par Mr. Louis Maimbourg, 1685
Historia flagellantium, 1700 (over de excessen van flagellatie)