Issu d'une modeste famille du Vaucluse[2], il est le fils de Siffrein Hyacinthe Colonieu (1795-1861), officier, né à Carpentras, et de Victorine Florine Justine d'Eyssautier (1794-1852), née à Antibes.
En 1860, en tant que chef d'escadron, avec le commandant Burin de Buisson, il est un des premiers Français à explorer les oasis de l'extrême sud, en passant par le Gourara et le Touat[4],[5]. Il est promu officier de la Légion d'honneur en 1862.
Lors de la guerre franco-allemande de 1870, il se distingue avec ses tirailleurs par sa bravoure à la bataille de Frœschwiller-Wœrth le 6 août, où il est blessé par un éclat d'obus, puis à celle de Buzenval le 21 octobre[6]. Il commande ensuite une section durant le siège de Paris. En récompense de ses mérites, il est promu commandeur de la Légion d'honneur en février 1871 et en mai il est nommé colonel du 2e régiment de tirailleurs algériens, qu'il commande jusqu'en juillet 1878.