Cléry-le-Petit liegt etwa 31 Kilometer nordnordwestlich von Verdun an der Maas (frz. Meuse) und ihrem Nebenfluss Andon. Umgeben wird Cléry-le-Petit von den Nachbargemeinden Doulcon im Nordwesten und Norden, Dun-sur-Meuse im Norden und Nordosten, Liny-devant-Dun im Osten und Südosten, Brieulles-sur-Meuse im Süden sowie Cléry-le-Grand im Westen.