Концепция памятника была создана профессором Высшей школы изобразительных искусств Саара[нем.]Йохеном Герцем и группой студентов[1]. В апреле 1990 года они обратились к еврейским общинам ФРГ и ГДР с просьбой предоставить списки известных им еврейских кладбищ на территории современной Германии, существовавших до 1933 года. По мере получения названий они поначалу скрытно вынимали камни брусчатки из мостовой на площади и высекали на каждом из них название кладбища и дату получения информации от общины. Затем камни укладывались обратно надписью вниз. Саарбрюкенский дворец был выбран местом акции, поскольку во времена национал-социализма в нём находилось местное управление гестапо[2].
После того как о работе стало известно, она была поддержана муниципалитетом Саарбрюккена[2], министр-президентомСаарландаОскаром Лафонтеном, министерством образования и культуры, местными еврейской общиной и сберегательной кассой[1]. К маю 1993 года таким образом были нанесены надписи на 2146 камней. 23 мая 1993 года памятник был официально открыт[2]. На краю площади расположены информационные панели, повествующие о подоплёке памятника и об истории его создания[2].