Annay-la-Côte liegt etwa 37 Kilometer südöstlich von Auxerre und etwa fünf Kilometer nordnordwestlich von Avallon im oberen Tal der Yonne, am Hang eines hohen Hügels. Vom Gipfel (rund 338 m) lässt sich das hügelige Plateau nördlich von Avallon und weiter südlich die ersten Ausläufer des Morvan überblicken. Die beiden Landschaften sind sehr kontrastreich, Felder und Wiesen rund um Avallon und riesige Wälder des Morvan.
Aus hydrografischer Sicht profitiert die Gemeinde vom Zufluss mehrerer Bäche, der Ruisseau du Bouchin, der Ruisseau d’Aisy und der Ruisseau des Regains.
Umgeben wird Annay-la-Côte von den Nachbargemeinden Précy-le-Sec im Norden und Nordwesten, Lucy-le-Bois im Osten und Nordosten, Étaule im Südosten, Annéot im Süden, Tharot im Westen sowie Girolles im Westen und Nordwesten.
