Le régiment est créé le [1], décision locale prise le et officialisée par décret du . Le régiment compte initialement un bataillon à quatre compagnies, constituées pour moitié de tirailleurs issus du 1er régiment de tirailleurs malgaches et pour moitié de nouvelles recrues. Le 2e RTM passe à trois bataillons l'année suivante, le 2e bataillon étant créé le par transfert des 11e, 12e, 15e et 16e compagnies du 1er RTM et le 3e bataillon avec les recrues excédentaires des deux régiments[2]. Le 2e RTM a alors l'organisation suivante[3] :
Après l'arrivée en renfort d'un bataillon de tirailleurs sénégalais vers 1899, le 3e bataillon est dissous et le 2e régiment réduit à huit compagnies [2]. En 1902, la portion centrale du régiment quitte Soanerana et rejoint Tamatave[4]. En 1908, le régiment a donc l'organisation suivante[5] :
↑ a et bJoseph Gallieni, La pacification de Madagascar (opérations d'octobre 1896 à mars 1899) (lire en ligne), p. 479-484
↑Jules Poirier, Conquête de Madagascar (1895-1896) : expéditions coloniales françaises, (lire en ligne), p. 372
↑« Mouvement des troupes », Le Journal de l'île de La Réunion, no 1172, (lire en ligne)
↑Guide-annuaire de Madagascar et dépendances, (lire en ligne), p. 21-22
↑Guide-annuaire de Madagascar et dépendances, (lire en ligne), p. 295-296
↑« Avis relatif à l'appellation nouvelle à donner aux régiments de tirailleurs malgaches stationnés à Madagascar », Journal officiel de Madagascar et dépendances, Tananarive, no 2097, , p. 618 (lire en ligne)
↑Décision no 12350/SGA/DMPA/SHD/DAT relative aux inscriptions de noms de batailles sur les drapeaux et étendards des corps de troupe de l'armée de terre, du service de santé des armées et du service des essences des armées (no 27), (lire en ligne), p. 119