Провинция Мусаси была создана в VII веке. Её административный центр находился в современном городе Футю.
Издавна земли провинции Мусаси были населены прото-айнскими племенами эмиси, поэтому центральное правительство взяло курс на ассимиляцию этого региона. Корейские переселенцы с материка, поселённые тут столичной властью, распространили в провинции конное дело. Благодаря контактам эмиси и яматойцев в конце X века провинции появились первые самураи.
Во второй половине XII века Мусаси была предметом войн родов Тайра и Минамото. После создания последним Камакурского сёгуната, провинция была передана родам Хирага и Ооэ, хотя со временем была узурпирована семьёю Ходзё.
В период Эдо (1603—1867) город Эдо провинции Мусаси служил резиденцией сёгунов Токугава.[1] Несмотря на то, что столица страны находилась в Киото, городе императора, Эдо был политическим центром Японии.
В результате административных реформ 1871—1876 годов, Мусаси была включена в префектуру Токио, а ряд уездов провинции вошли в состав префектур Сайтама и Канагава.