Після початку Першої світової війни і оголошення мобілізації під командування Едуарда фон Бем-Ермолі було передано 2-гу армію, яку передбачалося розгорнути на сербському фронті. До складу армії входили IV (ген. К. Терстянськи фон Надас), VII (ген. О. Мейкснер фон Цвейенштамм) і IX (ген. Л. фон Хорштейн) армійські корпуси, а також дві піхотні та 10-та кавалерійська (фельдмаршал-лейтенант Майр) дивізії. Однак після оголошення мобілізації в Російській імперії армію було оперативно перекинуто на територію Галичини.
Чекаючи перевезення, частини армії Бем-Ермолі деякий час займали позиції по Саві і Дунаю, але робили лише пасивний вплив на хід військових дій, оскільки 4 серпня їм було категорично заборонено форсувати ці річки. Перебазування армії пройшло протягом серпня та 12(25) серпня її частини, що вивантажилися в Станіславові і Стрию, були поповнені частиною військ з групи Ф. Куммера. Армія отримала завдання забезпечити проведення контрудару3-ї армії ген. Р. Брудермана. До 13(26) серпня армія Бем-Ермолі, маючи всього 2,5 піхотних і 2 кавалерійських дивізії, утримувала фронт довжиною 70 км і проти неї діяло понад 13,5 російських дивізій.
До 16(29) серпня армія була поповнена прибулими з Сербії дивізіями і групою ген. Г. Кевесса фон Кевессгаза. В ході Галицької битви (серпень 1914) армія Бем-Ермолі зазнала поразку від 3-ї і 8-ї російських армій. 21 серпня (3 вересня) армія зосереджена по нижній течії Верещици і отримала завдання наступати на Львівському напрямку. 27 серпня (9 вересня) 1914 Бем-Ермолі отримав наказ наступати (спільно з 3-ю і 4-ю арміями) на Львів, проте через важкий стан, в який попала 4-та армія, а також через відсутність позитивних результатів на фронтах 2-ї і 3-ї армій 30 серпня (12 вересня) початий відхід австро-угорських військ за Сян.
У грудні 1914 під час Лодзької операції прикривав Прусську Сілезію. У січні 1915 під час боїв в Карпатах в армію Бем-Ермолі (що входив до групи армій, Р. фон Войрша) входили IV-й (ген. Терстянськи фон Надас) і XII-й (ген. Кевесс фон Кевессгаза) австрійські армійські корпуси, а також група ген. М. фон Гал'віца. У зв'язку з проривом російськими військами галіцийського фронту на ділянці Горлиці-Тарнів (травень 1915) Бем-Ермолі провів успішний наступ у напрямку Самбора, а 22 червня1915 зайняв Львів.
Під час війни Едуард фон Бем-Ермолі отримав спочатку військове звання генерал-полковника (у травні 1916), а в січні 1918 — найвище військове звання Австро-Угорщини — фельдмаршал. У серпні 1917 року йому було даровано титул барона.
Повоєнний період
Після завершення Першої Світової війни, одним з наслідків якої був розпад Австро-Угорської імперії, місто Опава, в якому мешкав фон Бем-Ермолі, увійшло до складу новоствореної Чехословаччини. Чехословацький уряд призначив відставному фельдмаршалу підвищену пенсію та надав право користуватися привілеями на рівні резервного генерала 1-го класу. 1928 року він отримав почесне звання генерала чехословацької армії.