Ο Αθλητικός Όμιλος Κιλκισιακός ιδρύθηκε το 1961 έπειτα από την συγχώνευση της τοπικής «ΑΕΚ», του «Άρη Κιλκίς» και του «Μέγα Αλέξανδρου Κιλκίς». Την αγωνιστική περίοδο 1964-1965 αγωνίστηκε για πρώτη φορά στην ιστορία του στην Β' Εθνική Κατηγορία, παραμένοντας στην κατηγορία μέχρι και τη σεζόν 1966-1967.[5] Το 1969 κατέκτησε το πρωτάθλημα Ε.Π.Σ. Κιλκίς και μέσω του ειδικού πρωταθλήματος ανόδου κέρδισε την επάνοδο στην Β΄ Εθνική, όπου καθιερώθηκε για 6 χρονιές από τη σεζόν 1969-70 μέχρι και τη σεζόν 1974-75.[5] Το 1976 κατέκτησε το πρωτάθλημα Ε.Π.Σ. Κιλκίς και προκρίθηκε στο ειδικό πρωτάθλημα ανόδου όπου καταλαμβάνοντας την 1η θέση του 1ου ομίλου επέστρεψε στην Β΄ Εθνική στην οποία αγωνίστηκε για 4 συνεχείς χρονιές, από τη σεζόν 1976-77 μέχρι και τη σεζόν 1979-80. Τη σεζόν 1980-81 αγωνίστηκε στην Εθνική ερασιτεχνική κατηγορία, τρίτη τη τάξει εθνική κατηγορία και καταλαμβάνοντας τη 2η θέση του 4ου ομίλου κέρδισε ως δευτεραθλητής την επάνοδο στην Β΄ Εθνική στην οποία αγωνίστηκε τις χρονιές 1981-82 και 1982-83. Ακολούθησαν 2 χρονιές στην Γ΄ Εθνική κατηγορία για να αναδειχθεί πρωταθλητής στον Βόρειο όμιλο τη σεζόν 1984-85 και να επιστρέψει στην Β΄ Εθνική, όπου αγωνίστηκε εκ νέου τις χρονιές 1985-86 και 1986-87, σημειώνοντας τις τελευταίες του παρουσίες στην δεύτερη εθνική κατηγορία.
Τα επόμενα χρόνια καθιερώθηκε στα πρωταθλήματα της Γ΄ Εθνικής και της Δ΄ Εθνικής κατηγορίας. Το 1998 έφτασε στον τελικό του Κυπέλλου Ελλάδας ερασιτεχνών, όπου ηττήθηκε από τον Ακράτητο Άνω Λιοσίων στο ΟΑΚΑ. Τη σεζόν 2004-05 τερμάτισε στην 12η θέση του 2ου ομίλου της Δ΄ Εθνικής και υποβιβάστηκε στο πρωτάθλημα Ε.Π.Σ. Κιλκίς μετά από μια μακράς διάρκειας παρουσίας στα εθνικά πρωταθλήματα. Αμέσως την επόμενη περίοδο, 2005-06, αναδείχθηκε πρωταθλητής Ε.Π.Σ. Κιλκίς και προβιβάστηκε στην Δ΄ Εθνική. Το 2007 υπήρξε εκ νέου φιναλίστ του Κυπέλλου Ελλάδας ερασιτεχνών με αντίπαλο τη Δόξα Μεγαλόπολης. Τη σεζόν 2012-13 κέρδισε την άνοδο στην νέα ερασιτεχνική Γ΄ Εθνική, ενώ η τέταρτη εθνική κατηγορία έπαψε να υφίσταται από τη νέα σεζόν. Την επόμενη περίοδο 2013-14 ισοβάθμησε με τον Ορφέας Ελευθερούπολης, ωστόσο υστερώντας στους μεταξύ τους αγώνες με ισοπαλία 1-1 εκτός έδρας και ήττα με 0-2 εντός έδρας, τελικά κατέλαβε την 9η θέση του 1ου ομίλου της Γ΄ Εθνικής και υποβιβάστηκε[6] εκ νέου στο πρωτάθλημα Ε.Π.Σ. Κιλκίς, καθότι είχε προηγηθεί η κατάργηση της Δ΄ Εθνικής.
Τη σεζόν 2014-15 αναδείχθηκε πρωταθλητής Ε.Π.Σ. Κιλκίς και διεκδίκησε την επάνοδο στην Γ΄ Εθνική μέσω του ειδικού πρωταθλήματος ανόδου χωρίς όμως επιτυχία, καθώς κατέλαβε τη 2η και μη προνομιούχο θέση πίσω από τον Απόλλων Κρύας Βρύσης. Έπειτα από 2 χρονιές, τη σεζόν 2016-17 αναδείχθηκε εκ νέου πρωταθλητής Ε.Π.Σ. Κιλκίς και κέρδισε απευθείας την άνοδο στην Γ΄ Εθνική. Η παρουσία του στην Γ΄ Εθνική ήταν σύντομη, καθώς την επόμενη χρονιά 2017-18 τερμάτισε στην 11η θέση του 2ου ομίλου και υποβιβάστηκε. Τη σεζόν 2018-19 κατέκτησε το πρωτάθλημα Ε.Π.Σ. Κιλκίς και κέρδισε την άνοδο στην νέα Γ΄ Εθνική ερασιτεχνική κατηγορία, πλέον 4η τη τάξει εθνική κατηγορία. Την σεζόν 2019-20 παραβρέθηκε στην Γ' Εθνική κατακτώντας την 11η θέση με αποτέλεσμα τη σεζόν 2020-21 να υποβιβαστεί στην Α' Ε.Π.Σ. Κιλκίς.
Την σεζόν 2023-24 κατέκτησε το πρωτάθλημα της Ε.Π.Σ. Κιλκίς και εξασφάλισε την συμμετοχή του στα μπαράζ ανόδου, στα οποία πέτυχε την άνοδο στις εθνικές κατηγορίες ύστερα από 4 χρόνια.
Το γυναικείο ποδοσφαιρικό τμήμα του συλλόγου ιδρύθηκε το 2015, όποτε και στα τέλη του Νοεμβρίου αυτού του έτους πραγματοποιήθηκε η πρώτη προπόνηση της ομάδας.[7] Η επίσημη αγωνιστική πορεία του ξεκίνησε από τη σεζόν 2016-17, όποτε και δήλωσε συμμετοχή στο επίσημο πρωτάθλημα της Γ΄ Εθνικής. Τη σεζόν 2017-18, μόλις τη δεύτερη επίσημη χρονιά του, κατέκτησε την άνοδο στην Β΄ Εθνική κατηγορία.[8][9] Τη σεζόν 2018-19 αγωνιζόταν στο πρωτάθλημα της Β΄ Εθνικής. Το γυναικείο τμήμα είναι ανενεργό.
