Le premier groupe d'armées B participe à l'offensive allemande à l'ouest en mai 1940 sur la Belgique et les Pays-Bas. Son but est de s'emparer des ponts sur la Meuse après l'action aéroportée sur Rotterdam. Le groupe d'armées comprenait alors environ 300 000 hommes et était dirigé par le général Fedor von Bock qui sera nommé maréchal après cette campagne victorieuse en .
Un nouveau groupe d'armées B est créé dans le Nord de l'Italie sous les ordres du GeneralfeldmarschallRommel en 1943 contre une éventuelle attaque alliée à cet endroit. Ce groupe d'armées B est déplacé dans le Nord de la France et est chargé de la protection des côtes de la Manche contre un éventuel débarquement allié (estimé possible de l’embouchure la Loire aux côtes du Pays-Bas). Après le , il participe à la bataille de Normandie. Le , le GeneralfeldmarschallKluge succède à Rommel, blessé à la suite d'une attaque aérienne sur son véhicule. Moins d'un mois plus tard, le , le GeneralfeldmarschallModel remplace Kluge, soupçonné d’être impliqué dans le complot du contre Hitler.
Pendant l'été 1944, le groupe d'armées B continue de combattre en France. Replié aux Pays-Bas en , il est chargé de mettre en déroute l’opération Market Garden ; au début de l'hiver 1944-1945, il participe à l'offensive allemande des Ardennes qui finit par échouer. De plus en plus affaibli, il se retrouve encerclé dans la poche de la Ruhr (dans le Nord-Ouest de l'Allemagne) et divisé en des portions de plus en plus réduites : la dernière d'entre elles se rend le , le jour du suicide de son dernier chef, Walter Model.