Ojciec Karlomana zmarł podczas wyprawy przeciwko wikingom w 879 r. Karloman i Ludwik III zostali razem okrzyknięci królami, aczkolwiek niektórzy możni woleli wybór tylko jednego monarchy. W marcu 880 r. dokonali podziału państwa. Karlomanowi przypadła Burgundia i Akwitania.
Tymczasem przeciwko Ludwikowi i Karlomanowi zbuntował się książę Boso, który w lipcu 879 r. ogłosił się niezależnym królem Prowansji. Latem 880 r. bracia ruszyli przeciwko buntownikowi i zajęli Mâcon oraz północną część posiadłości Bosona. Następnie połączyli swoje siły z królem wschodniofrankijskimKarolem Otyłym i w sierpniu 880 r. oblegli Vienne. Oblężenie trwało do listopada, ale nie przyniosło sukcesu. Vienne zostało zdobyte dopiero latem 882 r. przez Ryszarda, hrabiego Autun.
W sierpniu 882 r. zmarł Ludwik III i Karloman został jedynym królem Franków Zachodnich. Królestwo znajdowało się jednak w złym stanie, osłabiane samowolą możnowładców i najazdami wikingów. Władza królewska natomiast słabła coraz bardziej.