Le ministère de la Marine fut créé en , en même temps que le ministère de la Guerre, afin de remplacer le ministère des Affaires militaires (Hyōbushō) au sein du gouvernement de Meiji.
Initialement, le ministère de la Marine était chargé de l'administration et du commandement opérationnel de la Marine impériale japonaise. Cependant, avec la création de l'État-major de la Marine impériale japonaise en , il ne lui restait plus que les fonctions administratives.
« Le ministère était responsable du budget de la Marine, de la construction des navires, de l'achat des armes, du paiement du personnel, d'assurer les liaisons avec la Diète du Japon et du Cabinet et de s'occuper des grandes questions de la politique maritime. L'État-major dirigeait les opérations de la flotte et de la préparation des plans de guerre[1] ».
Jusque dans les années 1920, le ministère de la Marine avait la prépondérance sur l'État-major de la Marine sur le plan de l'influence politique. Cependant, les officiers de l'État-major améliorèrent leur situation à la suite de la conférence navale de Washington en 1921-22. Les États-Unis et l'Empire britannique voulaient établir un ratio naval mondial et ils demandèrent au Japon de se limiter à une plus petite flotte que celles des pays occidentaux. Le ministère de la Marine était disposé à accepter car il cherchait à maintenir l'alliance anglo-japonaise, mais l'État-major de la Marine refusa. La Marine impériale japonaise se divisa alors en deux cliques politiques mutuellement hostiles, la faction de la flotte et la faction du traité. Finalement, le Japon entérina le traité, mais se retira en 1934. Pendant les années 1930, avec la montée du militarisme japonais, la faction de la Flotte a progressivement gagné de l'ascendance sur la faction du Traité et en est venue à contrôler l'État-major de la Marine, l'organisme qui fut à l'origine de l'attaque de Pearl Harbor contre les souhaits du ministère de la Marine, plus diplomatique.
Après 1937, le ministre de la Marine et le chef de l'État-major de la Marine furent membres du quartier-général impérial.
Selon la loi, le ministre de la Marine devait être un amiral ou vice-amiral en service actif. Sa fonction première était de s'occuper des communications entre l'État-major général de la Marine impériale japonaise, la Marine impériale japonaise, le Cabinet et la Diète du Japon.
(en) Sadao Asada (trad. de l'anglais), From Mahan to Pearl Harbor : The Imperial Japanese Navy and the United States, Annapolis, US Naval Institute Press, , 1re éd., 385 p. (ISBN978-1-55750-042-7)
(en) Ronald Spector (trad. de l'anglais), Eagle Against the Sun : The American War with Japan, New York, Vintage Books, , 1re éd., 589 p., poche (ISBN978-0-394-74101-7)
