Hij was de zoon van de burgemeester van Groot-Loon Lièvin Deploige (1823-1892) en Marie de Paifve (1826-1902). Zijn broer Florent Deploige (1864-1932), advocaat van opleiding, werd onder meer voorzitter van de provincieraad van Limburg.
Wanneer Mercier in 1906 werd bevorderd tot aartsbisschop van Mechelen, volgde hij hem op aan het hoofd van dit instituut en werd in het geheim ook kamerheer van de paus. Hij had een zeer goede en vriendschappelijke relatie met kardinaal Mercier, ook buiten het professionele. In 1912 werd hij huisprelaat van de paus en was op deze manier gedurende de Eerste Wereldoorlog de verbindingspersoon tussen de Belgische (religieuze) overheid en het Vaticaan. Volgens sommige bronnen werd hem na het overlijden van kardinaal Mercier gevraagd om hem in 1926 als aartsbisschop van Mechelen op te volgen, hetgeen hij zou hebben geweigerd.