Jeans militärische Karriere begann mit der Belagerung der Festung Metz im Jahr 1444, der ein Feldzug in der Normandie folgte. 1450 eroberte er gemeinsam mit Jean de Dunois in der Schlacht von Formigny die gesamte Normandie. Die Folgejahre widmete er – weiterhin zusammen mit Dunois – der Rückeroberung der Guyenne, die 1453 mit der Eroberung von Bordeaux endete. Er wurde Gouverneur von Guyenne und hatte sich mit dem Kampf gegen Graf Jean V. d’Armagnac zu befassen, als dieser sich gegen den König erhob.
Als Favorit König Karls VII. hatte Jean die Abneigung des königlichen Nachfolgers Ludwig XI. zu ertragen. Ludwig XI. entzog ihm die Guyenne, und Jean II. schloss sich der Ligue du Bien public an. Nach dem Friedensschluss wurde er begnadigt und zum Gouverneur des Languedoc ernannt. Darüber hinaus machte Ludwig XI. ihn zum Ritter des Ordre de Saint-Michel bei dessen Gründung am 1. August 1469. Schließlich war er – wie auch schon sein Vater – Großkämmerer von Frankreich.