Народився 31 грудня 1958 року в парафії Стора Туне комуни Бурленге, Даларна, Швеція.
Журналістську кар'єру розпочав як репортер, редакційний автор регіонального видання «Norrländska Socialdemokraten» в місті Лулео, згодом став редактором Соціал-демократичного журналу «Current». З 1989 по 2006 роки очолював міський виконавчий комітет міста Бурленге.
У 2006 році обраний депутатом Риксдагу. З 2011 до 2014 року очолював Комітет з оборони. Також він є автором нової реформи адміністративних регіональних підрозділів замість наявних округів.
7 серпня 2022 року Міністерство оборони Швеції повідомило, що відправить 120 інструкторів для українських військових, котрі проходять навчання у Великій Британії, і здійснюватимуть підготовку із 12 серпня до 31 грудня 2022 року.
«Війна Росії проти України триває вже більше п’яти місяців, і надзвичайно важливо, щоб решта світу продовжувала підтримувати Україну в її боротьбі за суверенітет і самовизначення. Важливо, що Швеція є частиною цих зусиль, а шведські інструктори сприятимуть зміцненню обороноздатності України», — зазначив Гульквіст[5][6].
Хобі
З 1975 року Петер Гульквіст є активним радіоаматором з позивним «SM4HCF».