Le groupe est formé en 1993 par les membres Sanrabb, Dolgar et Sir Vereda[6], qui endossent respectivement les rôles de chanteur et guitariste, bassiste et chanteur, et de batteur. Peu après la formation, le groupe sort une première démo, Black Seared Heart. Pendant cette période, un vinyle du groupe, intitulé Ancestors of The Darkly Sky, sort sous le label Necromantic Gallery Productions. Peu après la sortie de ces deux productions, Sir Verada est renvoyé du groupe. Il est remplacé par Dirge Rep. En 1994, Sarcana rejoint le groupe en tant que claviériste. En mars de cette année, le groupe entre en studios pour y enregistrer son premier album, First Spell. Cet album leur permet d'accroitre leur notoriété et d'acquérir une certaine reconnaissance sur la scène metal. L'année suivante, Gehenna sort un deuxième album studio, Seen Through The Veils of Darkness. Peu avant la sortie du troisième album studio du groupe, Svartalv quitte le groupe. Il sera remplacé par Noctifer, qui quittera le groupe à son tour quelques mois plus tard, pendant l'enregistrement de l'album.
Une fois les parties de basse terminées par E.N. Death, l'album Malice est publié en 1996 sous le label Cacophonous Records. E.N. Death, qui était censé être un membre de session pour enregistrer l'album, intègre finalement le groupe. En 1998, Gehenna signe avec le label Moonfog Productions et y sort très rapidement l'EP Deadlights, dont la sortie est très rapidement suivie par celle de l'album Adimiron Black.
Durant la période de contrat avec ce label, le groupe sort l'album Murder en 2000 et WW en 2005. Plus tard dans l'année 2005, le groupe signe avec le label ANP Records, contrat qui sera finalement rompu en décembre 2007. Le groupe signe par la suite avec le label Indie Recordings. En 2013, ils publient l'album Unravel.
