Во время франко-прусской войны находился при прусских войсках, изучая передовой опыт ведения войны. В 1871—1874 годах получил военное образование во Франции и Швейцарии.
Когда в 1877 году его близкий родственник Сайго Такамори поднял самурайское восстание в Сацуме (к которому присоединился также старший брат Оямы), остался верен правительству — командовал бригадой при подавлении мятежа, используя при этом полученный в Европе опыт.
В 1878—1879 годах был заместителем начальника Генерального штаба Сухопутных войск. В 1879 году назначен заместителем министра внутренних дел и начальником столичной (токийской) полиции. В 1880—1891 годах — министр Сухопутных войск, в 1882—1884 годах — начальник Генерального штаба Сухопутных войск. В 1883 году совершил путешествие в Европу для изучения опыта организации армий. После возвращения, 7 июля 1884 года, получил титул графа. 17 мая 1891 года Ояма получил звание полного генерала.
Ояма Ивао с семьёй (1904 год)
В 1892—1896 год — вновь министр Сухопутных войск. Проводил политику милитаризации страны.
В 1899—1904 годах — вновь начальник Генштаба. Под его руководством был разработан план войны с Россией и проведена тщательная подготовка японской армии к кампании.
В июне 1904 года был назначен главнокомандующим японскими войсками в Маньчжурии. Участвовал в сражениях при Ляояне, реке Шахе, Мукдене.
В 1905—1906 годах — третий раз возглавляет Генштаб.
.svg){kind=small}
