A banda foi formada por Terje Vik Schei, que também foi baixista do Emperor e Carpathian Forest, onde também tocou guitarra. A banda lançou uma demo, Hallucinations of Despair, e logo entrou num hiato, com seus membros fundando a banda de black metalIn the Woods... em 1991. Foi somente em 1998 que o Green Carnation voltou a ativa,[2] dessa vez, para um período produtivo onde lançaram cinco discos de estúdio.
O primeiro álbum, Journey To The End Of The Night, foi gravado em 1999,[3] sendo uma mistura de doom metal com progressive metal. Dois anos mais tarde a banda lançou Light Of Day, Day Of Darkness, um álbum com somente uma única faixa de uma hora, ao estilo de metal progressivo.[4][5] É, de fato, a canção mais longa já composta.
A banda lançou o álbum seguinte em 2005, The Quiet Offspring, trazendo a banda para um lado mais comercial. No começo de 2006 foi lançado The Acoustic Verses.
A Night Under the Dam (Gravado em Fevereiro de 2007 sob uma barragem nas montanhas da Noruega. Neste show ao vivo a banda toca o álbum The Acoustic Verses por inteiro)