Si interessò allo studio delle comete e il 25 novembre 1843 scoprì la cometa che porta il suo nome, la 4P/Faye. Per tale scoperta ricevette il prix Lalande nel 1844.
Nel 1877 fu Ministro della pubblica istruzione nel governo di Gaëtan de Rochebouët, carica che tenne solo per pochi giorni (dal 23 novembre al 13 dicembre).
I suoi interessi scientifici spaziarono nell'intero campo dell'astronomia: si interessò alla fisica del Sole, alle comete periodiche ed alla loro determinazione orbitale; effettuò misure di parallasse stellare e si interessò al moto di stelle e pianeti. Avanzò teorie originali sulla natura e la forma delle comete, delle meteore, sulle aurore polari e sul Sole.
In collaborazione con Charles Galusky tradusse in francese: Kosmos (quattro volumi, 1846-59) di Humboldt, e, in aggiunta a numerosi articoli in periodici scientifici, redasse i seguenti importanti lavori:
Sur les déclinaisons absolues (1850)
Leç de cosmographie (1852; seconda edizione, 1854)
Sur les cyclones solaires (1873)
Cours d'astronomie de l'Ecole Polytechnique (due volumi, 1881-83)
Sur l'origine du monde. Théories cosmogoniques des anciens et des modernes (1884; terza edizione, estesa 1895)
Nouvelle étude sur les tempêtes, cyclones, trombes, ou tornadoes (1897)