Lors du percement du boulevard Saint-Germain, les rues Childebert et d'Erfurth, ouvertes dans les années 1710, sont supprimées. À la suite de la démolition des maisons qui enserraient l'église Saint-Germain-des-Prés, un square d'une superficie de 1 511 m2 est créé en 1872. Il est situé au niveau du 168 bis, boulevard Saint-Germain, au pied de l'église Saint-Germain-des-Prés, le long du boulevard Saint-Germain. Ne pas confondre avec le square Laurent-Prache situé à l'angle opposé de l'église (rue de l'Abbaye).