З 1914 по 1918 роки служив у російській імператорській армії. Учасник Першої світової війни, підпрапорщик.
У Червоній Армії з 1918 року. Член ВКП(б) з 1919 року. Учасник Громадянської війни в Росії. З 1918 по 1934 рік пройшов шлях від командира взводу до командира дивізії. У 1934 році закінчив Військову академію імені М. В. Фрунзе. З 1935 по 1937 рік — командир 29-ї стрілецької дивізії. Потім командир 5-го стрілецького корпусу.
У лютому 1938 — квітні 1938 року — в. о. командувача військ Харківського військового округу, станом на початок червня 1938 року — заступник командувача військ Харківського військового округу.
Того ж року призначений командувачем Уральським військовим округом. 7 жовтня 1938 року затверджений членом Військової ради при народному комісарові оборони СРСР.
У червні 1941 року в окрузі було сформовано 22-гу армію, генерал-лейтенант Єршаков був призначений її командувачем. З 16 по 21 червня армія передислокована в район селища Ідриця Псковської області, з початком німецько-радянської війни включена в резерв Ставки ВГК. 2 липня 22-гу армію передано до складу Західного фронту де вона брала участь у боях за Смоленськ. На початку липня 22-га армія брала участь в обороні Полоцька, а в серпні під ударами переважаючих сил противника була розгромлена. Єршакову з частиною військ вдалося вийти з оточення.
У вересні 1941 року призначений командувачем 20-ї армії. У жовтні 1941 року в ході операції «Тайфун» німецькі війська прорвали оборону радянських військ і замкнули кільце в районі Вязьми. В оточенні опинилися кілька радянських армій, включаючи 20-ту армію Єршакова. Частина військ і управління армії вийшли з оточення. Сам командарм 2 листопада 1941 року в районі міста Сухиничі потрапив у полон.
Перебував у концтаборі Гаммельбург[ru], де й загинув 9 червня 1942 року. Похований на табірному кладовищі.
Великая Отечественная. Командармы. Военный биографический словарь / под общей ред. М. Г. Вожакина. — М.-Жуковский : Кучково поле, 2005. — С. 72–73. — ISBN 5-86090-113-5.(рос.)
Командный и начальствующий состав Красной Армии в 1940-1941 гг.: Структура и кадры центрального аппарата НКО СССР, военных округов и общевойсковых армий: Документы и материалы / Под ред. В. Н. Кузеленкова. — М.-СПб. : Летний сад, 2005. — С. 141. — ISBN 5-94381-137-0.(рос.)
Северный Сталинград. Великие Луки в Великой Отечественной войне 1941—1945 / составитель В. Н. Павлов. — Великие Луки, 2008. — 568 с. — ISBN 978-5-350-00153-2.(рос.)
Єршаков Пилип Панасович : облікова картка депутата Верховної Ради УРСР // ЦДАВО України, ф. Р-1, оп. 31, спр. 3, арк. 231.
Список депутатів Верховної Ради УРСР першого скликання, обраних 26 червня 1938 року // ЦДАВО України, ф. Р-1, оп. 31, спр. 2, арк. 45.
Список депутатів, обраних до Верховної Ради УРСР // Вісті [ЦВК УРСР]. — 1938. — № 148 (5338). — 29 червня. — С. 1.
.svg){kind=small}
