Jean-Jacques Willmar steunde koning Willem I toen deze in 1838 te kennen gaf bereid te zijn de Belgische onafhankelijkheid te erkennen en het Verdrag van Londen goedkeurde, hetgeen inhield dat heel Franstalig Luxemburg aan België kwam. Dit deel vormt thans de Belgische provincie Luxemburg. Het was grotendeels dankzij de inspanningen van Willmar dat de Kamer van Afgevaardigden en de Senaat van Luxemburg het Verdrag van Londen accepteerde.
Jean-Jacques Willmar werd in 1840 benoemd tot procureur-generaal en van 1841 tot 1848 was hij lid van de Assemblée des États. Op 8 mei 1848 werd Willmar als een van de drie Luxemburgers[3] gekozen in het Frankfurter Parlement[4].