La fondazione del club risale al 1914. Nel 1923 un gruppo di componenti della società si scinde, andando a creare l'Altınordu; nel 1925 da un'altra costola dell'Altay nasce il Göztepe. Nel 1937 l'Altınordu Spor Kulübü si fonde con Altay e Bucaspor e forma l'Üçokspor, attivo con questa denominazione fino al 1939.
Prima dell'istituzione del campionato turco (avvenuta nel 1959), l'Altay vince 15 titoli della regione di Smirne.
Cronistoria
Primo livello (ora Süper Lig): 1958-1983, 1984-1990, 1991-2000, 2002-2003, 2021-2022
Secondo livello (ora TFF 1. Lig): 1983-1984, 1990-1991, 2000-2002, 2003-2011, 2018-2021, 2022-
Terzo livello (ora TFF 2. Lig): 2011-2015, 2017-2018