Baxter naît le à Saint-Jean, au Nouveau-Brunswick. Membre du Parti conservateur, Baxter est procureur-général de la province de 1915 à 1917. Il se lance en politique fédérale et est élu député de la circonscription de Saint-Jean-Albert le . Entretemps, Il est nommé ministre des Douanes sous le gouvernementMeighen le de la même année. Il prend ensuite la direction du Parti conservateur provincial et le mène à la victoire en 1925. Baxter est un dirigeant du mouvement Maritime Rights (Droits maritimes) qui exprime le mécontentement des provinces maritimes face à leur perte d'influence lors de la confédération canadienne.
Il quitte la politique en 1931 et est nommé juge en chef de la Cour suprême du Nouveau-Brunswick en 1935, poste qu'il occupe jusqu'à sa mort, le . Son fils, John B.M. Baxter Jr, est plus tard ministre au sein du cabinet de Richard Bennett Hatfield.
Son fils, John B. M. Baxter Jr. sert ensuite dans le cabinet de Richard Hatfield. Il est l'arrière-grand-père de Luke Macaulay Baxter, le fils de Kirk Macaulay Baxter.