De Kunstkammer werd gesticht in de 16e eeuw door de keurvorsten van Saksen. KeurvorstAugust van Saksen (1526-1586) en zijn zoon waren de eersten die schilderijen in een in hun slot ingerichte Kunstkammer op een systematische manier gingen verzamelen.
Veel van de schilderijen werden illegaal toegeëigend door Frederik August I, zoals Portret van een bebaarde man in een zwarte baret (1657) en Portret van een man met een hoed versierd met parels (1667) van Rembrandt. Beide schilderijen behoorden oorspronkelijk in de collectie van het Koninklijk Paleis in Warschau. In 1745 werd de collectie verrijkt door Francesco III d'Este, hertog van Modena, die de beste honderd kunstwerken uit zijn collectie verkocht.
Intussen was het museum erg beroemd geworden in Europa. Schilderijen uit heel Europa werden door het museum aangekocht uit Italië, Parijs, Amsterdam en Praag. Hoogtepunt van de aangekochte schilderijen is de overname van RafaëlsSixtijnse Madonna in 1754. Tot op heden vormt dit schilderij voor de meeste bezoekers het hoogtepunt van de collectie.
Tijdens de Tweede Wereldoorlog moesten de schilderijen in veiligheid gebracht worden. Het gebouw zelf raakte zwaar beschadigd tijdens deze oorlog. Door wateroverlast in 2002, werd er voor 20 miljoen euro schade toegebracht aan het gebouw.
Voorjaar 2001 werd de collectie Leidse fijnschilders uit Dresden getoond in Museum De Lakenhal in Leiden en voorjaar 2015 is een belangrijk deel van de collectie van de Gemäldegalerie tentoongesteld in het Groninger Museum.