Etter skilegang opp til det videregåande nivå i hjembyen Carcassonne forberedte han seg til opptaksprøvene ved elitehøyskolene École polytechnique i Paris og École normale supérieure i Toulouse. Sabatier kom inn ved begge, og valge den siste. Han begynte ved École normale supérieure i 1874 og gikk ut i 1877 med beste resultat i klassen.
Etter ett år som fysikklærer i Nîmes ble han assistent for Marcellin Berthelot ved Collège de France i Paris.
Sabatier er mest kjent for Sabatier-prosessen og sitt verk La Catalyse en Chimie Organique, som utkom i 1913. Han er dessuten kjent for Sabatier-katalyseprinsippet. I Toulouse er Université Paul Sabatier oppkalt etter Sabaiter.