Das Artilleriekommando wurde ab 1971 zur Einnahme der Heeresstruktur III aufgestellt und Mitte 1972 in Dienst gestellt. Zur Aufstellung wurde der Stab des Korpsartilleriekommandeurs 2 herangezogen, der bereits seit 1959 dem Kommandierenden General zur Seite stand. Diese Dienststellung ging wiederum aus dem Korpsartilleriekommandeur 402 hervor, der bereits 1957 in Ulm ausgeplant wurde.
Nach Ende des Kalten Krieges erklärte die nukleare Planungsgruppe der NATO 1991 den Verzicht auf nukleare Artilleriesysteme in Deutschland. Die amerikanische Sondermunition wurde weitestgehend aus Deutschland abgezogen. Das Artilleriekommando wurde daher 1994 etwa zeitgleich mit der Umgliederung des II. Korps zum II. (Deutsch-Amerikanischen) Korps außer Dienst gestellt.
Das Artilleriekommando führte aufgrund seiner Ausplanung als Teil der unselbständigen Korpstruppen kein eigenes Verbandsabzeichen. Die Soldaten trugen daher das Verbandsabzeichen des übergeordneten Korps.
↑O.W. Dragoner: Die Bundeswehr 1989. Heeresamt. I. Korps. II. Korps. III. Korps. 4. Auflage. 2.1 – Heer, Februar 2012 (relikte.com [PDF; abgerufen am 3. Juli 2018]).