הדרגה הוגדרה רשמית ב-22 בספטמבר1935 בהחלטה של מועצת הקומיסרים העממיים (מועצת השרים) של ברית המועצות. לפי ההחלטה, הייתה זו הדרגה הבכירה ביותר בכוחות הביטחון של ברית המועצות. עם זאת, ב-26 ביוני1945 הונהגה דרגת אחת מעליה – דרגת גנרליסימו של ברית המועצות, אשר הוענקה ליוסיף סטלין.
בשנת 1953, לאחר מות סטלין, חזרה דרגת מרשל ברית המועצות להיות הדרגה הבכירה ביותר בכוחות המזוינים של ברית המועצות (אם כי רק דה פקטו, היות שדרגת גנרליסימו של ברית המועצות לא בוטלה באופן רשמי). בשנת 1955 נוסדה בצי הסובייטי דרגת אדמירל צי ברית המועצות, שהייתה מקבילה לדרגת מרשל ברית המועצות.