Les sous-groupes de Borel sont l'un des deux ingrédients clés pour comprendre la structure des groupes algébriques simples (ou plus généralement réductifs), dans la théorie développée par Jacques Tits pour les groupes munis d'une BN-paire (ou système de Tits). Ici le groupe B est un sous-groupe de Borel et N est le normalisateur d'un tore maximal contenu dans B.
Cette notion a été introduite par Armand Borel, qui a joué un rôle de premier plan dans le développement de la théorie des groupes algébriques.
Sous-groupes paraboliques
Les sous-groupes emboîtés entre un sous-groupe de Borel B et le groupe ambiant G sont appelés sous-groupes paraboliques. Les sous-groupes paraboliques P sont également caractérisés, parmi les sous-groupes algébriques, par la condition que G/P est une variété complète. Si l'on travaille sur des corps algébriquement clos, les sous-groupes de Borel s'avèrent être les sous-groupes paraboliques minimaux dans ce sens. Autrement dit, B est un sous-groupe de Borel lorsque l'espace homogène G/B est une variété complète « aussi grande que possible ».
Pour un groupe algébrique simple G, l'ensemble des classes de conjugaison des sous-groupes paraboliques est en bijection avec les parties de l'ensemble des sommets du diagramme de Dynkin correspondant ; le sous-groupe de Borel correspond à l'ensemble vide et G lui-même correspond à l'ensemble de tous les sommets. (De façon générale, chaque sommet du diagramme de Dynkin détermine une racine négative simple et donc un « sous-groupe radiciel » de dimension 1 de G. De la sorte, un sous-ensemble des sommets détermine un sous-groupe parabolique, engendré par B et les sous-groupes radiciels négatifs correspondants. De plus, tout sous-groupe parabolique est conjugué à un tel sous-groupe parabolique.)
Exemple
Soit . Un sous-groupe Borel de est l'ensemble des matrices triangulaires supérieures
et les sous-groupes paraboliques propres maximaux de contenant sont
Gary Seitz, « Algebraic Groups », dans B. Hartley, G. M. Seitz, A. V. Borovik et R. M. Bryant, Finite and Locally Finite Groups, vol. 471, coll. « Nato Science Series C », , xii+458 p. (ISBN978-0-7923-3669-3, DOI10.1007/978-94-011-0329-9), p. 45-70
Armand Borel, Essays in the History of Lie Groups and Algebraic Groups, vol. 21, Providence, RI, American Mathematical Society et London Mathematical Society, coll. « History of Mathematics », , xiii+184 p. (ISBN0-8218-0288-7)