Arkeologiske utgravingar har vist at det låg ein gresk busetnad der Taganrog i dag ligg, grunnlagd på 600-talet f.Kr. Han spelte ei viktig rolle i den greske koloniseringa av Svartehavet.
Den første russiske marinebasen vart grunnlagd i Taganrog av Peter den store den 12. september 1698.
Den første borgarmeisteren i Taganrog var Cornelius Cruys (Nils Olsen), ein skreddarson frå Skagen i Stavanger. Han fekk ein eventyrleg start i marinen og i det russiske maktapparatet, då den russiske tsaren i 1681 vitja Amsterdam og tilsette skipparen Cruys som viseadmiral i den russiske flåten. Resten av livet sitt tente han i den russiske marinen og vart den første russiske admiralen.
I 1711 signerte den russiske tsaren ein fredsavtale der området rundt Asovhavet måtte returnerast til tyrkarane og Taganrog måtte jamnast med jorda. I 50 år låg derfor hamna, festninga og byen i ruinar. I 1769 tok russarane byen tilbake og han vart gjenoppbygd etter ordre frå Katarina den store.
I april 1833 møtte Giuseppe Garibaldi, då ein ung kaptein, italienaren Giovanni Battista Cuneo i Taganrog, og vart overtydd om å bli med i revolusjonsrørsla som seinare skulle føre til samlinga av Italia.
Sovjetarane fekk kontroll over byen den 22. januar 1918, men frå mars til mai 1918 okkuperte tyskarane byen, og i august 1918 tok don-kosakkar kontroll over han. Den raude armeen gjekk inn i byen 24. desember 1919. Under den andre verdskrigen vart Taganrog igjen okkupert av tyskarane i 1941 og vart hardt skadd. 30. august 1943 vart byen frigjeve.
Økonomi
Taganrog er eit industrisenter i Rostov oblast. Den lokale industrien arbeider innan luftfart, maskinbygging, bilindustri, jern- og stålindustri, ingeniørkunst, metallhandel, tømmer, papir, mat, lettindustri og kjemisk industri.