Né dans le pays basque espagnol, il est d'origine poitevine et son père est lui-même explorateur colonial en Afrique (Victor Largeau, explorateur né à Niort en 1840, fit deux tentatives pour traverser le Sahara par Ghadamès (1875) et pour gagner Tombouctou (1877) et publia : le Sahara (Paris, 1870); le Pays de Rirha-Ouargla (1879); le Sahara Algérien (2e éd., 1881)[3].
Ayant déjà servi au Sénégal, il retourne ensuite en Afrique. Membre de la mission du Haut-Oubangui en 1894, puis de la mission de Kong, le lieutenant Largeau participe de 1896 à 1898 à l'expédition Marchand, dont la longue équipée est rendue célèbre par la crise de Fachoda.
Promu capitaine en 1898, Largeau rentre en métropole pour suivre les cours de l'École supérieure de guerre dont il sort breveté d'état-major. Promu chef de bataillon en 1900, il sert comme commandant du territoire du Tchad de 1902 à 1904. Il retrouve ce poste comme lieutenant-colonel de 1906 à 1908 et mène des opérations de pacification contre le sultanDoudmourrah. Promu colonel le , il est rappelé au Tchad en 1911 après la mort du colonel Moll, tué au combat de Doroté. Il obtient la soumission de Doudmourrah et dépose son incertain successeur Acyl. Reparti en 1912, il revient pour un quatrième et dernier séjour de 1913 à 1915, au cours duquel il vainc la confrérie des Sénoussis le au combat d'Aïn Galaka et s'empare de Faya[4]. Après la déclaration de guerre de 1914, il supervise les opérations lancées depuis le Tchad contre le Cameroun allemand et s'empare de Kousséri.
Nommé général de brigade le , Largeau est rappelé en métropole en juillet. Après avoir servi en état-major, il prend le commandement de la 37e brigade d'infanterie en . Au front avec ses hommes devant Verdun, le général Largeau tombe mortellement frappé par des éclats d'obus, le , dans le secteur du bois d'Avocourt. Il succombe le lendemain à l'ambulance militaire 3/5 établie à Froidos.
Durant ses différents séjours au Tchad, il a mené à bien des tâches d'organisation, d'administration et de délimitation qui en font un des pères fondateurs de ce pays. En hommage, son nom a été donné à la ville tchadienne de Faya-Largeau[5].
Son corps est enterré à Magné (Deux-Sèvres), berceau de sa famille[6]. En 1933, un monument est élevé à Niort « à la gloire des quatre Largeau » parmi lesquels Emmanuel, au côté de son père Victor et ses deux frères Charles et Fernand[7]. Le monument est fondu en 1942 par le régime de Vichy dans le cadre de la mobilisation des métaux non ferreux. La stèle et le socle restent en place[8].