Les premiers plans en vue d'un arsenal à Berlin furent conçus vers 1685 par l'architecte français François Blondel (1618-1686) sur mandat du « Grand Électeur » Frédéric-Guillaume Ier de Brandebourg. Les projets, toutefois, ne peuvent être réalisées en raison de manque de ressources. Ce n'est pas avant le , que le fils et successeur de Frédéric-Guillaume, Frédéric III (le futur roi Frédéric Ier) posa la première pierre pour les fondations du bâtiment. Son premier bâtisseur fut l'architecte Johann Arnold Nering (1659-1695) qui décéda le de l'année même où commencèrent les travaux, dont le gros œuvre fut assuré par son confrère Martin Grünberg, tandis que la direction générale était confiée à Andreas Schlüter[1].
Après que l'électeur se couronne lui-même roi en Prusse en , les travaux ont été menés avec plus d'engagement. Achevé en , année à laquelle le sculpteur français Guillaume Hulot termine le portail principal avec le buste doré de Frédéric Ier, le bâtiment se présente sous la forme d'un plan carré de 90 mètres de côtés, formé par quatre ailes érigées autour d'une cour intérieure (Schlüterhof)[1]. En effet, les travaux de construction et d'installation se prolongèrent jusqu'en , sous le règne du « Roi-Sergent » Frédéric-Guillaume Ier. L'armée prussienne a utilisé l'édifice dès l'année prochaine. L'assaut de l'arsenal du est la principale émeute ayant lieu à Berlin après les combats de barricades de la Révolution de Mars en Prusse.