Fu rieletto nel 1981, ma diede le dimissioni dal Knesset il 19 gennaio 1982, quando divenne ambasciatore negli Stati Uniti. Ritornò in Israele in febbraio 1983, dopo essere stato nominato Ministro della Difesa al posto di Ariel Sharon, forzato ad andarsene dal rapporto della Commissione Kahan sul massacro di Sabra e Shatila.
Fu rieletto nel 1984, ma divenne solo Ministro senza portafoglio. Dopo un'altra rielezione nel 1988 divenne ministro degli Affari Esteri, e nel 1990 ritornò alla Difesa.
Dopo la sconfitta del Likud alle elezioni del 1992, Arens si ritirò dalla politica. Nonostante ciò, ritornò nel 1999 per sfidare Benjamin Netanyahu alla guida del Likud. Anche se fallì la sfida, vincendo solo il 18% dei voti, Netanyahu lo fece Ministro della Difesa al posto di Yitzhak Mordechai, che aveva lasciato il Likud per il Partito del Centro.
Anche se Arens ritornò al Knesset dopo il 1999, il Likud perse le elezioni e lui lasciò il Gabinetto. Perse il proprio posto per l'ultima volta nel 2003.
Oggi Arens lavora al Centro per la Samaria dell'Università Ariel e scrive per Haaretz.
Da quando si è ritirato dalla politica, ha anche dedicato considerevoli sforzi alla ricerca e commemorazione della storia dell'Unione Militare Ebrea (ŻZW), che combatté al fianco della più nota Organizzazione Combattente Ebrea (ŻOB) nella Rivolta del ghetto di Varsavia. In parte grazie al suo intervento con Lech Kaczyński, una piazza a Varsavia è stata intitolata a Dawid Moryc Apfelbaum. In quel momento, Arens descrisse Apfelbaum come uno dei leader del Movimento di Revisione Sionista nel ghetto e scrisse che "aveva già organizzato la prima acquisizione di armi per il ŻZW alla fine del 1939."[2]
Arens è autore di un certo numero di articoli sulla rivolta e di un libro, Flags over the Ghetto, scritto in ebraico, polacco ed inglese. Gli storici, tuttavia, hanno contestato la sua metodologia e le sue conclusioni.[3]
