Figure légendaire de la Légion étrangère, surnommé le « Père de la Légion », il s'illustre au cours de trois grandes périodes au cours de sa carrière militaire. Tout d'abord comme capitaine commandant la compagnie montée du 2e régiment étranger (2e REI) entre 1909 et 1914, puis, au cours de la Première Guerre mondiale, comme colonel à la tête du régiment de marche de la Légion étrangère (RMLE) qu'il commande à partir de 1917 et finalement, comme organisateur des célébrations du centenaire de la Légion en 1931, qui culminent avec l’inauguration du monument aux morts sur la place d’armes du quartier Viénot à Sidi-bel-Abbès.
Sous son commandement, le régiment se couvrira de gloire lors des combats de Hangard-en-Santerre, de la Montagne de Paris, puis en perçant la ligne Hindenburg, combat qui deviendra la fête du 3e REI, régiment héritier des traditions du RMLE. Le drapeau du régiment est alors décoré de quatre nouvelles citations (il en avait déjà cinq) ainsi que de la fourragère double, aux couleurs de la Légion d'honneur et de la Croix de guerre.
Pacification du Maroc
À la fin de la guerre 1914-1918, il participe à la pacification du Maroc avec son régiment devenu le 3e REI. Il est promu commandeur de la Légion d'honneur le .
Après-guerre
Promu colonel en septembre 1925, il prend le commandement du 1er régiment étranger à Sidi-Bel-Abbès. Il y restera jusqu’à l'organisation des fêtes du « centenaire » de la création de la Légion étrangère, en 1831, mais célébrées le jour anniversaire du combat de Camerone le .
Après plusieurs années de combat, et de victoires, il est élevé à la dignité de grand officier de la Légion d'honneur le et prend sa retraite le . Il aura effectué 41 années de service militaire, dont 33 ans à la Légion.
Il a consacré les dernières années de sa carrière à l’organisation de la Légion étrangère moderne et à la réalisation d’une œuvre sociale considérable au profit des légionnaires d’active, comme des anciens. Il poursuivra son action sociale après avoir quitté le service actif.
Le général Rollet est une figure légendaire de la Légion étrangère, grâce à ses qualités de chef, mais aussi de soldat, d'homme de caractère et de cœur. Il est encore surnommé « Père de la Légion ». Ce titre reflète son implication dans l'organisation des unités, ainsi que l'amour qu'il donnait à ses hommes et à sa fonction.
Son portait est traditionnellement affiché dans tous les bureaux de la Légion Étrangère au-dessus de celui du COMLE et du chef de corps.
Pierre Soulié, Le général Paul-Frédéric Rollet, Éditions Italiques, Triel-sur-Seine ; Légion étrangère, Société des amis du Musée, Marseille, 2007 (1re éd. 2001), 735 p. (ISBN9782910536770)
Louis Garros, « Deux de la Légion, Mader et Rollet » in Historama, n°142, juillet 1963, pp. 37-46.