Según su autobiografía, comenzó a aprender a escribir a la edad de 4 años y a los 11 años era considerado un niño prodigio, al llegar a los 18 años ya había aprendido composición poética en el Daigaku-ryō. En 1060 recibió el grado de Jugoi y le fue conferido un cargo dentro del Shikibu-shō.
Poco después consideró retirarse y convertirse en un monje budista, sin embargo, Fujiwara no Tsunetō logró persuadirlo para no hacerlo. Tomando la sugerencia de Tsunetō decidió convertirse en sirviente del Príncipe Takahito (futuro Emperador Go-Sanjō) y estuvo encargado como Tōgū Gakushi o tutor del Príncipe Imperial. Cuando el Emperador Go-Sanjō ascendió al trono en 1068, Masafusa fue promovido como Goikurodo y como miembro del Nakatsukasa-shō, posteriormente fue nombrado Ushōben, adicionalmente fue nombrado tutor del Príncipe Sadahito (futuro Emperador Shirakawa).
En 1073, al ascender el trono el Emperador Shirakawa, se convirtió en su confidente y fue promovido a Sadaiben, director del Kageyushi y como Shikibu Taifu. Hacia 1086 se le ascendió como Jusanmi, en 1088 como Sangi y en 1094 como Gonchūnagon. En 1098 se le asignó como Dazaigon no Sochi de la provincia de Tsukushi y se le confirió el rango de Junii. Finalmente en 1111 se convirtió en Ministro de Finanzas, pero fallece unos meses después.
Durante el reinado del Emperador Shirakawa, tanto Masafusa como Fujiwara no Korefusa y Fujiwara no Tamefusa eran considerados sus mejores vasallos y recibieron el apodo de Mae no San-fusa (前の三房,'Mae no San-fusa'?), debido a que los tres poseían el kanjifusa (房,'fusa'?) en sus nombres. También fue vasallo del Emperador Go-Sanjo y tuvo una relación amistosa con el KanpakuFujiwara no Moromichi.
Masafusa fue considerado un gran académico durante la era Heian y sus habilidades sólo son comparadas con Sugawara no Michizane. Perteneció a una familia de académicos perteneciente al clan Ōe y escribió una gran cantidad de obras literarias entre las que se destacan:
