Der Verein wurde am 1. September 1886 unter dem Namen Argyle Athletic Club gegründet. Seit 1903 trägt er seinen heutigen Namen. Größte Erfolge waren die Meisterschaft in der Southern League 1913 und das Erreichen des Halbfinals im FA Cup 1984, als man im Villa Park in Birmingham durch ein 0:1 gegen den FC Watford den Einzug ins Endspiel knapp verpasste. Plymouth spielt im Home Park Stadium. Den größten Zuschauerzuspruch erreichte der Club am 10. Oktober 1936, als gegen Aston Villa 43.596 Besucher kamen.
Der Spitzname des Vereins, The Pilgrims, geht auf die englischen Auswanderer zurück, die 1620 von Plymouth aus in die Neue Welt aufbrachen. Auf dem Wappen von Argyle findet man ein Bild der Mayflower, mit dem diese Siedler in Massachusetts gelandet sind.
Plymouth Argyle gilt als fußballerisches Aushängeschild Devons und hat auch im nahegelegenen Cornwall eine beträchtliche Fanbasis.
Stadion
Im Zweiten Weltkrieg wurde der ursprüngliche Home Park, das Heimstadion von Plymouth Argyle, bei deutschen Luftangriffen auf Plymouth zerstört. Nach dem Krieg wurde das Stadion wieder aufgebaut. Insgesamt fasst das Stadion 17.904 Zuschauer.