Naturalisé français vers 1865[2], Joseph Halévy est chargé en 1867-1868 d'une mission de recherche en Éthiopie par l'Alliance israélite universelle. Il est, à cette occasion, le premier juif à entrer en contact avec les Falashas, une communauté de juifs éthiopiens nommés aussi Beta Israel.
Son travail le plus important a été effectué pour le compte de l'Académie des inscriptions et belles-lettres au Yémen, qu'il a parcouru en 1869 et 1870 à la recherche des inscriptions sabéennes, avec l'aide de son interprète et guide juif yéménite Hayyim Habshush. À cette date, aucun européen n'avait traversé cette terre depuis des siècles. Le résultat fut un relevé de 800 inscriptions, qui ont permis une première approche de cette ancienne civilisation. Il a été le premier à proposer un déchiffrage partiel de la langue sabéenne.
À partir de 1879, Halévy deviendra professeur de langues éthiopiennes à l'École pratique des hautes études de Paris. Il reste en contact avec les activités de la Société asiatique de France.
L'activité scientifique de Halévy a été très diverse, et ses écrits sur la philologie et l'archéologie orientales lui ont gagné une réputation mondiale. Il est particulièrement connu par ses polémiques avec des assyriologistes éminents au sujet de l'idiome sumérien non-sémitique trouvé dans les inscriptions assyro-babyloniennes. Contrairement à l'opinion généralement admise, Halévy proposa la théorie (abandonnée depuis) selon laquelle le sumérien n'était pas une langue, mais simplement une méthode idéographique d'écriture inventée par les Babylonienssémitiques eux-mêmes.
Dans le domaine spécifiquement juif, le plus remarquable des travaux de Halévy est à lire dans ses « Recherches bibliques ». Il y analyse les vingt-cinq premiers chapitres de la Genèse à la lumière des documents assyro-babyloniens récemment découverts, et estime y retrouver un vieux mythe sémitique presque complètement assyro-babylonien, encore que considérablement transformé par l'esprit du monothéisme prophétique. Cependant les récits d'Abraham et de ses descendants sont considérés par lui comme fondamentalement historiques, bien que considérablement embellis, et comme l'œuvre d'un seul auteur, alors que les contradictions trouvées dans ces récits orientent les critiques modernes vers une multiplicité d'auteurs. Il est également opposé à l'hypothèse documentaire, thèse fondamentale de la critique biblique moderne.
Les travaux d'Halévy furent sanctionnés par la Légion d'honneur dont il fut fait chevalier par décret le 9 mars 1906 au sein de la promotion explorateurs. Halévy fréquenta toute sa carrière durant des intellectuels juifs et chrétiens qui s'accordèrent sur son intelligence, Reuven Brainin et Nahum Sokolov le décrivirent respectivement comme un « excellent sage » ainsi que comme un « génie dans toute l'étendue de sa sagesse ». À la suite de son décès, l'écrivain et poète Edouard Dujardin lui consacre un poème dans son essai De Stéphane Mallarmé au prophète Ezéchiel, paru en 1919 au sein duquel il fit l'éloge de son amour des sciences.
La guerre de Sarsa-Děngěl contre les Falachas : Texte éthiopien, extrait des Annales de Sarṣa-Dĕngĕl, roi d'Éthiopie (1563-1597), manuscrit de la Bibliothèque nationale traduit en français et en hébreu, Paris, 1907 (en ligne sur Gallica).
Le voyage de Joseph Halévy au Yémen a été relaté en 1893 par Hayîm Habshûsh, dans un texte traduit en français sous le titre Yémen (traduit de l'arabe yéménite par Samia Naïm-Sanbar), Actes Sud / Terres d'aventures, 1995, nvelle éd. en 1998, 210 p. ; voir un compte rendu de cet ouvrage ici : https://remmm.revues.org/2761 [archive].
(en) Travels to Yemen: An Account of Joseph Halévy's journey to Najran in the year 1870 / Written in Sanʾani Arabic by his Guide Ḥayim Ḥabshush (died 1899). Edited with a detailed Summary in English and a Glossary of Vernacular Words by S. D. Goitein, Hebrew University Press, Jerusalem 1941
↑Gonzague Ryckmans, « L'épigraphie safaïtique », Comptes rendus des séances de l'Académie des Inscriptions et Belles-Lettres, vol. 85, no 1, , p. 27–32 (DOI10.3406/crai.1941.77386, lire en ligne, consulté le ).