Провінція Осумі була утворена в результаті поділу провінції Хюґа у 713 році. Центр нової адміністративної одиниці знаходився у сучасному місті Кірішіма.
Через порти провінції проходив важливий торговий шлях з королівства Рюкю до японської столиці. Саме тому землі Осумі були привабливими для багатьох японських можновладців.