לאחר המלחמה נשאר פון המרשטיין-אקוורד ברייכסווהר, ומילא בו תפקידי פיקוד ומטה. בשנת 1920 התנגד פון המרשטיין-אקוורד לפוטש של קאפ, ונשאר נאמן לממשלה. בשנת 1930 מונה פון המרשטיין-אקוורד לראש המטה הכללי של ה-OKH. בתפקידו זה תכנן את הגדלת הצבא וחימושו, ועל כך הועלה ב-23 בדצמבר1933 לדרגת גנרל אוברסט. פון המרשטיין-אקוורד התנגד באופן נחרץ לנאצים, ובדצמבר 1932 אמר להיטלר שאם ינסה לתפוס את השלטון באופן לא חוקי, הוא יורה לירות בו ובאנשיו, כמו כן ניסה לשכנע את הנשיא הינדנבורג שלא למנות את היטלר לקנצלר. בעקבות כך הורה היטלר על פיטוריו ב-31 בינואר1934. פון המרשטיין-אקוורד זעם על שהאס אס אסר על קציני הצבא להשתתף בלווייתו של קורט פון שלייכר שנרצח בליל הסכינים הארוכות. פון המרשטיין, שהיה מנאמניו של שלייכר, המרה את האיסור באופן מתריס.
מלחמת העולם השנייה
עם פרוץ המלחמה מונה פון המרשטיין-אקוורד למפקד פלגת הארמייה A בחזית המערבית, אך ב-21 בספטמבר1939 פוטר מתפקידו.
אחרית ימיו
במהלך 1942 החל להתפשט אצל פון המרשטיין-אקוורד סרטן הגרון מתחת לאוזנו השמאלית, בתחילה הוא סירב לקבל טיפול רפואי, ולבסוף כשניגש לרופאו, התברר שכבר לא נותר מה לעשות. ניסיון לטפל מחלה על ידי הקרנות, גרם לו לכאבים ולאי נוחות, ובשל כך הפסיק את הטיפול. פון המרשטיין-אקוורד חי בביתו שבברלין כשהוא סובל מהמחלה, עד שב-16 באפריל1943 שקע בתרדמת, ושבוע לאחר מכן ב-24 באפריל מת. כדי למנוע את כיסוי ארונו בדגל צלב הקרס, החליטה משפחתו להימנע מלוויה ממלכתית, וקברה אותו בשטיינהורסט בטקס צנוע. המשפחה השאירה זר תנחומים שנשלח במיוחד על ידי היטלר ברכבת התחתית בברלין, וטענה כי נשכח.
משפחתו
פון המרשטיין-אקוורד היה אוונגלי ונישא ב-1907 למריה פון ליטוויץ, ילידת 1886, קתולית. אחיה היה הגנרל שמילו פון ליטוויץ. לבני הזוג נולדו שבעה ילדים: ארבע בנות ושלושה בנים. בניו, לודוויג מקסימיליאן וקונרט היו שניהם קצינים בוורמאכט ופעילים בקשר העשרים ביולי. בתו מריה פאשה הייתה מתנגדת לנאציזם אף היא והצילה יהודים מציפורני הנאצים.
הבן, פרנץ, היה תאולוג ונמנה עם מייסדי ארגון המתנדבים הגרמני אות הכפרה והשלום.
לאחר מותו
עקב מעורבות בניו בקשר, שלושה שבועות לאחר מכן החל הגסטפו בחקירות. הבן, פרנץ, נאסר בברלין. הבנים ששירתו בצבא נעלמו והוכרזו כעריקים. בסוף 1944 נלקחה הרעייה מריה ובני משפחה אחרים ונשלחו לתת-מחנה של מחנה הריכוז בוכנוואלד, עם בני משפחה של קושרים אחרים. מאוחר יותר נשלחו מריה ובתה הצעירה לבית סוהר ברגנסבורג ומשם נשלחו דרך דכאו ואינסברוק לדרום טירול. שם שוחררו בידי הצבא האמריקאי ב-4 במאי 1945.
סיווג קציני צבא
כמי שהופקד בראש המטה של ה-OKH והיה אחראי על הגדלת הצבא וחימושו. נהג פון המרשטיין לסווג את קציני הצבא לפי אופיים:
אני מבחין בארבעה סוגים. ישנם קצינים חכמים, חרוצים, טיפשים ועצלנים. בדרך כלל משולבים שני מאפיינים. חלקם חכמים וחרוצים - מקומם הוא, המטה הכללי. הבאים בתור הם טיפשים ועצלנים - הם מהווים 90 אחוז מכל הקצינים ומתאימים לפעילויות שגרתיות. כל מי שהוא חכם וגם עצלן כשיר לתפקידי המנהיגות הגבוהים ביותר, מכיוון שהוא בעל בהירות המחשבה והחוסן הנפשי, הנחוץ להחלטות קשות. עלינו להיזהר מכל מי שהוא גם טיפש וגם חרוץ - אסור להפקיד בידיו אחריות כלשהי, מכיוון שהוא תמיד יגרום רק נזק.