ארצ' אנמי הוקמה במקור כאשר הלהקה קארקאס (Carcass) התפרקה, וחבריה הגיטריסט מייקל אמוט, הזמר והבסיסט יוהאן ליוה הצטרפו לגיטריסט כריסטופר אמוט ולמתופף דניאל ארלנדסון כדי לנגן שוב יחד.
הדמו הראשון של הלהקה ,"Black Earth" שוחרר ב־1996. הדמו זכה להצלחה בשוודיה ויפן ורבים מחשיבים אותו לאלבום האגרסיבי ביותר של הלהקה.
ב־1998 שחררו ארצ' אנמי את האלבום "Stigmata", אל ההרכב הצטרף הבסיסט מרטין בנגטסון, כדי שהסולן והבסיסט יוהאן ליוה יוכל להתרכז בשירה בלבד. אלבום זה זכה לתשומת לב גדולה יותר מקודמו, והשיג פופולריות בארצות הברית ובאירופה.
ב־1999 הצטרף שארלי דיאנג'לו ללהקה כבאסיסט. האלבום "Burning Bridges" יצא, ומיד אחריו אלבום ההופעות החיות "Burning Japan Live 1999", אשר שווק בתחילה רק ביפן, אך למעשה שוחרר לאחר מכן בשאר העולם בשל דרישה גדולה ממעריצי הלהקה.
ב־2001 פרש יוהאן ליוה מהלהקה, והוחלף על ידי העיתונאית וסולנית הדת'-מטאל אנג'לה גוסו, שנתנה קלטת דמו לגיטריסט מייקל אמוט בשנה זו במהלך ראיון שערכה עמו. למרות שמועות שהסולנית הצטרפה ללהקה רק בשל יחסים רומנטיים עם מייקל אמוט, היא הוכיחה עצמה כסולנית טובה וייחודית בז'אנר הדת'-מטאל שלרוב מאופיין בסולנים בלבד בשל יכולות הקול הקיצוניות הדרושות.
האלבום הראשון בו אנג'לה גוסו לקחה חלק כסולנית היה "Wages Of Sin" ששוחרר לקראת סוף שנת 2001. בשנה זו השתתפה הלהקה בפסטיבל "Japan Beast Feast 2002" וניגנה לצד להקות מוכרות סלייר ומוטורהד.
האלבום "Anthems Of Rebellion" שוחרר ב־2003, בו ניסתה הלהקה לעשות שינויים בסגנונה, כמו השיר "End Of The Line" בו בנוסף לקול הדת' מטאל של אנג'לה שר קול שני בהרמוניה. בשנה לאחר מכן הוציאה לאור הלהקה את האלבום "Dead Eyes See No Future" שכלל שירים מהופעות חיות וקאברים של שירי הלהקות מגאדת' קארקאס ומנוור.
ביוני 2005 סיימה הלהקה את הקלטת אלבומם השישי "Doomsday Machine".
כחודש לאחר מכן, עזב הגיטריסט כריסטופר אמוט את הלהקה באופן כדי להתרכז בסיום לימודיו. הוא הוחלף על ידי פרדריק אקסון שניגן קודם בלהקות טליסמן ואופת' ועל ידי גאס ג'י מלהקות ההבי מטאלדרים איבל ופיירווינד לצורך סיבוב ההופעות בשנת 2005.
במרץ 2007 חזר הגיטריסט כריסטופר אמוט ללהקה. ב-28 בספטמבר2009 שחררה הלהקה אלבום קאברים לשיריה משלושת אלבומיהם הראשונים - "The Root of all Evil", כשהפעם אנג'לה גוסו על תקן הסולנית במקום יוהאן ליוה. במאי 2011 יצא אלבומם הבא של ארץ' אנמי - Khaos Legions.
במרץ 2014 הכריזה הלהקה כי הסולנית אנג'לה גוסו סיימה את תפקידה בלהקה על מנת לפנות יותר זמן למשפחתה ולעסקים אחרים, אנג'לה נשארה מנהלת העסקית של הלהקה והוחלפה על ידי הסולנית הקנדית-יהודייה אליסה ווייט-גלוז, שהייתה קודם לכן חברה בלהקת המטאל "האגוניסט" מקוויבק.