Народився 9 вересня 1815 року у місті Шверін-на-Варті (нині Сквежина, Польща) в сім'ї органіста Йохана та його жінки Доротеї Піфке.
1 травня 1835 вступив на військову службу як гобоїст до 8-го Лейб-гренадерного полку, з місцем дислокації у Франкфурт-на-Одері. У вересні 1838-го вступив до військового музичного училища в Берліні, серед вчителів Піфке були Отто Грель та Аугуст Вільгельм Бах.
1 червня повернувся до свого підрозділу як штаб-гобоїст. 1852-го був переведений з частиною свого полку до Берліна. 23 червня (за іншими даними 21 травня) отримав звання Королевського музичного директора (нім.Königlicher Musikdirektor)
1860-го повернувся до Франкфурту у зв'язку з мобілізацією. З 1864 учасник Данської війни, зокрема битви при Дюббелі, після котрої скомпонував два марші, котрі згодом увійшли до Королевської колекції — Düppeler Sturmmarsch та Düppel-Schanzen-Sturm-Marsch.
20 березня 1865-го Вільгельм I призначив Піфке начальником оркестру III-го армійського корпусу (зі штабом у Берліні). 1866-го року брав участь у Австро-прусській війні, в битві при Кеніггратці. Після її закінчення керував організацією великого військового параду, за участі оркестрів III, IV, а також частини II армійського корпусу, на честь перемоги прусських військ, в Гензерндорфі. На парад-концерті були присутні усі найвищі посадовці прусської армії, а також члени королівської родини на чолі з Вільгельмом I.
Помер Піфке 25 січня 1884-го. Після трьох днів військових почестей його було поховано на Старому Кладовищі Франкфурту. Могила композитора не збереглася, а пам'ятник, встановлений на його честь, було зруйновано в 1945 році.
Йохан Готфрід Піфке залишив після себе значний музичний спадок: вальси, польки, аранжування класичних творів а також біля 60-ти маршів для військового оркестру найвідоміші з котрих Preußens Gloria (написаний на честь перемоги та Об'єднання Німеччини) і Königgrätzer-Marsch (присвячено перемозі під Кеніггратцем) :