Soit un groupe et soient et deux éléments du groupe. On appelle commutateur de et l'élément du groupe défini par :
.
Remarque : Un commutateur représente en fait le défaut de « permutabilité » de deux éléments du groupe :
.
Le commutateur est égal à l'élément neutre du groupe si et seulement si et sont permutables (c'est-à-dire si ).
D'autre part, le sous-groupe engendré par l'ensemble des commutateurs est appelé le groupe dérivé noté ou le sous-groupe des commutateurs de .
Si est réduit à l'élément neutre alors le groupe est un groupe abélien.
Remarquons que nous devons considérer le sous-groupe engendré par les commutateurs parce qu'en général l'ensemble des commutateurs n'est pas fermé pour cette loi. Les commutateurs sont utilisés pour définir les groupes nilpotents.
Note : Certains auteurs préfèrent définir le commutateur de et par
.
Identités
Dans la suite, la loi est notée multiplicativement et l'expression désigne le conjugué (par ) de l'élément c'est-à-dire .
La deuxième identité est aussi connue sous le nom d'identité de Hall-Witt. Il s'agit d'une identité de la théorie des groupes analogue à l'identité de Jacobi de la théorie des commutateurs dans les anneaux (voir la section suivante).
En théorie des anneaux
Le commutateur de deux éléments et d'un anneau est défini par
.
Il est nul si et seulement si et sont permutables.
De même, l'anticommutateur est défini comme , souvent écrit noté . Ceci ne doit pas être confondu avec le crochet de Poisson.
Identités
Un commutateur vérifie les propriétés suivantes :
Relation d'algèbre de Lie :
Relations supplémentaires :
dont on déduit (par récurrence)
Si est un élément donné d'un anneau , la première des trois relations supplémentaires peut aussi être interprétée comme la règle de dérivation d'un produit d'une application . En d'autres termes, l'application définit une dérivation sur l'anneau .
Si est nilpotent, cette dérivation l'est aussi. Plus précisément : si alors [1].
Algèbres graduées
Dans une algèbre graduée, on remplace le commutateur usuel par le « commutateur gradué », défini sur les composantes homogènes par
En mécanique quantique
En mécanique quantique, le commutateur de deux opérateurs et est : . Il est donc nul lorsque les opérateurs commutent.
Appliqué à deux observables, un commutateur indique s'il est possible de mesurer les deux grandeurs simultanément.
Le commutateur n'est pas nul, donc les deux opérateurs ne commutent pas. Alors selon le principe d'incertitude de Heisenberg, les deux grandeurs que sont la position et la vitesse ne sont pas mesurables simultanément.