ANOV byla založena 26. června1979, během Valného shromáždění MOV v San Juan v Portoriku. Cílem organizace je, aby MOV řídila všeobecné záležitosti národních olympijských výborů a poskytovala jim podporu, radu, spolupráci a doporučení pro jejich rozvoj. Jejím prvním prezidentem byl mexikánec Mario Vázquez Raña, a to od roku 1979 až do roku 2012. Jejím sídlem bylo od roku 1982 v Paříži a v roce 2010 se přestěhovala do švýcarskéhoLausanne.