Die klub is op 12 April1896 gestig as Hannoversche FC 1896. Eers in 1899 het sokker die rol as belangrikste sport van die klub oorgeneem by rugby. In 1913 het die klub saamgesmelt met BV Hannover 1898 en Hannoversche Sportverein (HSV) von 1896 geword.
Na die herstrukturering van die Duitse sokkerstruktuur deur die Nazis in 1933 is Hannover in die Gauliga Neder-Sakse as SV Hannover 96 ingedeel. Die klub het sy eerste verskyning in die uitspeelwedstryde om die Duitse titel in 1935 gemaak en sy eerste Duitse kampioenskap in 1938 gewen, in wat steeds as een van die grootste verrassings in Duitse sokker beskou word, deur FC Schalke 04, die mees dominante sokkerspan in die jare van die Derde Ryk, in die eindstryd met 4-3 te verslaan. In 1942 is die klub oorgeplaas na die Gauliga Suid-Hannover-Braunschweig.
Die klub speel sy tuiswedstryde sedert 1954 in die AWD-Arena in Hannover (vroeër bekend as die Niedersachsenstadion). Voor 1954 het die klub op die Radrennbahn gespeel.
