Ols-et-Rinhodes liegt etwa 57 Kilometer westnordwestlich von Rodez. Umgeben wird Ols-et-Rinhodes von den Nachbargemeinden Ambeyrac im Norden, Montsalès im Norden und Nordosten, Villeneuve im Osten und Südosten, Sainte-Croix im Südosten und Süden, La Capelle-Balaguier im Süden und Südwesten sowie Saujac im Westen.