A començament de segle xx, els primers clubs de futbol armenis es fundaren a Constantinoble, Esmirna i d'altres ciutats de l'Imperi Otomà.[1] El primer partit de futbol entre un equip armeni i un equip turc se celebrà el 1906. El club armeni Balta-Liman de Constantinoble, s'enfrontà amb el Galatasaray. Quan el Balta-Liman es dissolgué, es fundaren el clubs Araks FC i Tork. La Primera Guerra Mundial i el genocidi armeni conduïren al declivi dels armenis dins de l'esport otomà.
A partir dels anys 1920s el futbol armeni continuà el seu desenvolupament dins la Unió Soviètica.[2] Durant aquests anys els clubs armenis més destacats foren Karmir Drosh Gyumri (fundat el 1934, més tard Shirak Gyumri), Spartak Erevan (1935, més tard Ararat Erevan), FC Dinamo Erevan (1936) i FC Kotayk Abovian (1955).[3] Ararat arribà a ser campió soviètic l'any 1973.
L'any 1992, la Federació Armènia esdevingué independent, afiliant-se a la FIFA i a la UEFA.[4][5] El mateix 1992, la selecció d'Armènia disputà el seu primer partit davant la selecció de Moldàvia.[6][7]