De club werd in 1957 opgericht door de broers Hector en Julio Humberto Grodona, de naam werd geïnspireerd door de Engelse club Arsenal FC. Jorge Burruchaga begon zijn carrière in 1979 bij deze club en werd later een grote ster.
In 2002 bereikte de club voor het eerst de hoogste klasse. Twee jaar later bereikte Arsenal de kwartfinale van de Copa Sudamericana. In september 2006 begon de club aan een samenwerking met Europese topclub FC Barcelona. Er werden verschillende jeugdspelers uitgewisseld van beide kanten. In 2007 won de club de Copa Sudamericana, de op een na belangrijkste beker in Zuid-Amerika. In 2008 won de club de eerste editie van het Suruga Bank Championship. In 2013 won de club de Copa Argentina in de finale tegen San Lorenzo.
