Ogawa wurde im Lehen Kurume nahe der heutigen Präfektur Fukuoka geboren und wurde 1872 Offizier im Kaiserlich Japanischen Heer. Zwei Jahre später nahm er an der Strafexpedition nach Taiwan teil. Sein erstes Kommando übernahm Ogawa während des Ersten Chinesisch-Japanischen Krieges. 1895 folgte die Ernennung zum Danshaku (Baron) nach dem japanischen Adelssystem des Kazoku. Kurz darauf erfolgte die Beförderung zum Generalleutnant.
1907 wurde er zum shishaku, dem japanischen Äquivalent eines Vizegrafs, ernannt. Ogawa Mataji starb am 20. Oktober 1909 in Tokio an einer Bauchfellentzündung.
Japanischer Name: Wie in Japan üblich, steht in diesem Artikel der Familienname vor dem Vornamen. Somit ist Ogawa der Familienname, Mataji der Vorname.