Le premier album, Codes and Secret Longing, est enregistré au studio House of Miracles de Andy Magoffin, et distribué en mars 2005 sous son propre label 1101[2],[3].
Eric Howden enregistre son deuxième album, No Ghostless Place, le . En 2013, Howden explique, concernant le statut du groupe, que « Raised by Swans est et a toujours été un projet solo, non un groupe. Cela n'a pas été expliqué par le passé, ce qui est entièrement ma faute ; des problèmes avec la modestie ont fait que le statut du groupe n'était pas clair. Je suis heureux de jouer avec des musiciens talentueux à mes côtés sur scène... mais si quelqu'un veut jouer sur l'un de mes albums, par exemple, il jouera ce que j'ai écrit[4]. »