Pelagijus II gimė Romoje, nors tikėtina, jog jis buvo ostgotų kilmės, o jo tėvo vardas buvo Vinigildas.
Pelagijus II kreipėsi į imperatorių Mauricą, prašydamas pagalbos kovoje su langobardais, tačiau Bizantijos imperija buvo per silpna ir negalėjo padėti. Pelagijui II teko sumokėti duoklę frankams, kurie užėmė Italiją, bet netrukus pasitraukė iš jos, nes teritoriją iš jų perpirko langobardai.
Pelagijus II daug dirbo celibato įtvirtinimui. Jo idėjos šiuo klausimu buvo tokios griežtos, jog jo pasekėjas šventasis Grigalius I nusprendė jas sušvelninti.
Jo pontifikavimo metu Milano vyskupas, kuris buvo nutraukęs ryšius su Roma nuo pat „Trijų skyrių“ idėjos atmetimo, 581 m. vėl pradėjo bendradarbiauti su popiežiumi. Visgi kiti šiaurinės Italijos vyskupai vis dar liko atsiskyrę.
Pelagijaus II įsakymu buvo pradėta Šventojo Lorenco bazilikos rekonstrukcija. Jo pontifikavimo metu į krikščionybę atsivertė Ispanijoje gyvenę vestgotai, tačiau kilo konfliktas su Konstantinopolio vyskupystę dėl aukščiausiojo patriarcho titulo – juo Pelagijus II laikė popiežius.
Pelagijus II tapo maro, nusiabusio Romą 589 m. pabaigoje, auka.
