Pokopališče je nastalo leta 1898, potem ko je notranje samostansko pokopališče pričelo postajati premajhno. Eden prvih znamenitih ljudi, ki so bili pokopani na novem pokopališču, je bil Anton Čehov; njegova pozlačena grobnica je delo Fjodorja Šehtela.
Danes je na pokopališču pokopanih več kot 27.000 ljudi, med katerimi so tudi znani ruski pisatelji, glasbeniki, dramatiki, pesniki, igralci, politiki, znanstveniki, vojaki ...[2][3]
Pokopališče je zasnovano v obliki parka, pri čemer se v njem nahajajo številne manjše kapele in večji spomeniki. Trenutno se deli na tri dele: staro pokopališče (deli 1-4), novo (5-8) in najnovejše pokopališče (9-11).[4]
V času Sovjetske zveze je bilo to pokopališče drugo najprestižnejše (za Nekropolo Kremeljskega zidu). Po razpadu Sovjetske zveze je pokopališče Novodeviči zavzelo prvo mesto, saj od leta 1985 dalje niso v Kremlju pokopali nikogar. Danes tako pokopavajo tu le najbolj pomembne in znane ljudi.