Ne réussissant pas à vaincre l’armée coloniale française, il va, après l’échec du siège du fort de Médine en juillet 1857, déplacer ses efforts vers l’est en attaquant les royaumes bambaras. Conquérant Ségou le , il en fait la capitale de son empire, en laissant la gestion un an plus tard à son fils Ahmadou Tall pour partir conquérir Hamdallaye, capitale de l’Empire peul du Macina. Il se réfugie à Deguembéré, près de Bandiagara. En 1864, il disparaît mystérieusement dans l’explosion de ses réserves de poudre.
Son neveu Tidiani Tall prend sa succession et installe la capitale de l’empire toucouleur à Bandiagara.
À Ségou, Ahmadou Tall continue de régner mais entre en conflit avec ses frères. En 1890, les Français entrent à Ségou en s’alliant avec les Bambaras. Ahmadou est obligé de s’enfuir à Sokoto, dans le nord du Nigeria et l'empire toucouleur disparaît.