Pjot Šuvalov palveli Venäjän keisarillisessa armeijassa vuodesta 1845 ja osallistui Krimin sotaan. Hänen diplomaattiuransa alkoi vuonna 1856 yhtenä Venäjän delegaation jäsenenä Pariisin rauhankongressissa. Seuraavana vuonna hänet nimitettiin Pietarin kaupungin ylipoliisimestariksi. Šuvalov oli vuosina 1860–1861 Venäjän sisäministeriön sisäisestä turvallisuudesta vastanneen osaston johtajana. Hän vastusti maaorjien vapauttamista.[1] Šuvalov toimi Itämerenmaakuntien eli Baltian alueen kenraalikuvernöörinä vuosina 1864–1866.[3]
Vuosina 1866–1874 hän oli Venäjän santarmijoukkojen esikuntapäällikkö ja samalla Keisarin kanslian IIII osaston eli tosiasiassa salaisen turvallisuuspoliisin johtaja.[1][2] Tässä asemassa Šuvalovista tuli keisari Aleksanteri II:n tärkeä neuvonantaja. Hän kannusti keisaria jarruttamaan jo luvattujen poliittisten uudistusten toteuttamista ja nimittämään vanhoillisia henkilöitä tärkeisiin virkoihin.[1] Poliittiset vastustajat kutsuivat häntä pilkkanimillä ”varakeisari” ja ”Pietari IV”. Hän sai vuonna 1872 ratsuväenkenraalin arvon Venäjän keisarillisessa armeijassa ja vuonna 1874 nimityksen Venäjän valtakunnanneuvoston jäseneksi.[3]
Vuosina 1874–1879 Pjotr Šuvalov oli Venäjän suurlähettiläänä Lontoossa.[1] Kun Turkin sodan jälkeen solmittu Venäjälle edullinen San Stefanon rauha vuonna 1878 uhkasi johtaa konfliktiin Venäjän ja Englannin välillä, Šuvalov toimi aloitteentekijänä vuoden 1878 Berliinin kongressille, jossa hän myös johti Venäjän delegaatiota. Koska kongressin lopputulosta pidettiin Venäjän diplomaattisena tappiona, kotimainen mielipide kääntyi Šuvalovia vastaan ja hänet kutsuttiin takaisin tehtävistään seuraavana vuonna.[4]