Pertanyia a una família modesta. Va estudiar dret a Tolosa de Llenguadoc i a París, i exercí alguns anys a Nérac, d'on fou alcalde i prefecte del departament el 1871. Era un ardent republicà i perdé els seus càrrecs a la caiguda d'Adolphe Thiers el 1873, però el 1876 fou elegit diputat per Nerac. El 1880 ocupà una secretaria en el ministeri de l'interior amb Jules Ferry, i posteriorment fou ministre d'interior (1882-1883) i primer ministre (1883). Durant el seu mandat va prendre la polèmica decisió d'expulsar de França els candidats al tron després que Jérôme Napoleon Bonaparte es proclamés emperador. Més tard fou ministre d'instrucció pública (1883-1885 i 1889-1890), ministre d'interior (1887), ministre de justícia (1887-1888), ministre de cultes religiosos (1890-1892) i president del Senat (1899-1906).
Es va mantenir al marge de les disputes dels diferents partits, cosa que li va fer guanyar força prestigi i per això fou elegit president de la república contra Paul Doumer el 1906. En acabar el seu mandat el 1913, però, no es presentà a la reelecció i es retirà de la política
