Fondé le , l'USB se distingue d'abord dans les championnats régionaux. Il atteint la première fois la troisième division dans les années 70, puis la deuxième division en 1981. En 1999, il voit arriver l'ancien international Marc Cécillon qui reste au club pendant quatre ans comme entraîneur-joueur, s'occupant notamment des juniors. Le club accède à la Fédérale 1 en 2002.
Pendant 7 saisons, le club défendra ses couleurs dans cette division avec même une qualification en Jean Prat et un titre de champion de France pour l'équipe réserve acquis en 2007, avant de redescendre en Fédérale 2 à l'issue de la saison 2008-2009.