Etter at forfølgelsen av hugenotter ble gjenopptatt i Frankrike garanterte den brandenburgiske kurfyrste dem beskyttelse, religionsfrihet og fulle borgerrettigheter i Brandenburg med Potsdam-ediktet i 1685.
Gens d'armes (fransk: de bevæpnede) var de adelige, som tjente som livgarde for kongen. Betegnelsen har røtter i fransk språk. En brandenburgisk Eskadron Gens d'armes ble etablert i 1691. Plassen ble dannet ved etableringen av Friedrichstadt ca. 1700.[1]
Kurfyrsten, som senere ble kong Fredrik I av Preussen, gav både den lutherske og den fransk-reformerte (kalvinistiske) menigheten en plass til å bygge kirke på. Begge kirkene ble oppført fra 1701.
Kürassierregiment Gens d'armes hadde sitt kvarter her, og drev eksersis. Fredrik den store bygget om plassen fra 1780, og utstyrte den franske og den tyske kirken med 60 meter høye rundkupler.[1]
Den egentlige utformingen av plassen fant sted under kong Fredrik den store med oppførelsen av to identiske kuppeltårn ved siden av kirkene. De ble bygget mellom 1780 og 1785 etter planer av Carl von Gontard. Som forbilde hadde Fredrik den store Piazza del Popolo i Roma.
Plassen var opprinnelig anlagt som marked, og het først Linden-Markt, senere Friedrichstädtischer eller Neuer Markt. Sitt nåværende navn fikk det da «soldaterkongen» Fredrik Vilhelm I av Preussen i 1735 lot oppføre staller for Kürassierregiment «Gens d'armes».
Hans sønn Fredrik den store lot stallene fjerne i 1773, og plassen fikk etter planer av Georg Christian Unger en enhetlig utforming. Mellom begge kirkene ble det bygget et lite fransk komedieteater. Det ble erstattet av et nytt nasjonalteater bygget mellom 1800 og 1802, med 2000 sitteplasser. Teatret, bygget av arkitekten Carl Gotthard Langhans, brant imidlertid ned allerede 1817. Karl Friedrich Schinkel utarbeidet planene for Königliche Schauspielhaus (det kongelige teatret) som ble bygget samme sted, ferdigstilt i 1821.
Schiller-minnesmerket foran teatret ble utført av Reinhold Begas, sønn av Carl Begas den eldre. Den festlige grunnstensnedleggelsen fant sted 10. november 1859 i anledning 100-årsdagen for nasjonaldikteren Friedrich Schillers fødsel, og minnesmerket ble innviet tolv år senere
Plassen ble kalt Gendarmen-Markt fra 1898, og deretter inntil ca 1903 Gensdamenmarkt. Plassen har siden 1905 hatt sitt nåværende navn Gendarmenmarkt. Mittelmarkt, Friedrichstädter Markt og Schillerplatz utgjør deler av plassen.[1]
Gendarmenmarkt spilte også en rolle i Preussens politiske liv. En forsmak på revolusjonen i Tyskland i 1848/1849 fant sted allerede i 1847 på Gendarmenmarkt med den såkalte «kartoffelrevolusjonen» (potetrevolusjonen), et opprør mot stigende matvarepriser. De falne fra barrikadekampene under marsrevolusjonen i 1848 ble begravet under en stor seremoni fra Deutscher Dom. Fra september 1848 møttes den prøyssiske nasjonalforsamlingen i flere uker i den store salen i det kongelige teatret.
Plassen ble i forbindelse med Vitenskapsakademiets 250-årsjubileum omdøpt til Platz der Akademie av DDR-regjeringen. Etter gjenforeningen fikk den sitt opprinnelige navn tilbake.