En mathématiques les représentations du groupe symétrique sont un exemple d'application de la théorie des représentations d'un groupe fini. L'analyse de ces représentations est une illustration des concepts comme le théorème de Maschke, les caractères, la représentation régulière, les représentations induites et la réciprocité de Frobenius.
Histoire L'histoire des représentations du groupe symétrique et du groupe alterné associés, joue un rôle particulier pour la théorie des caractères. est le mois de naissance généralement considéré de cette théorie. Inspiré par une intense correspondance avec Dedekind qui avait calculé les représentations de S et du groupe des quaternions C. W. Curtis, « Representation theory of finite groups, from Frobenius to Brauer », dans Math. Intelligencer, 1992, p. 48-57, Frobenius analyse les représentations des groupes S et S B. Pire, « Frobenius, Georg Ferdinand (1849-1917) » dans l'Encyclopædia Universalis en ligne ; pour une analyse plus détaillée des lettres de Frobenius, voir T. Hawkins, « New light on Frobenius creation of the theory of group characters », Archive for Hist. of Ex. Sciences, vol. 12, n° 3, 1974, p. 217-243, accès restreint ; Frobenius s'intéresse également à D4 et PSL(2,7) (p. 235). et présente les fondements qu'il développe pendant les années à venir.
Si les méthodes sont différentes de celles maintenant utilisées – Frobenius adopte en effet comme outil essentiel l'idée de Dedekind des tombés maintenant en désuétude – les bases de la théorie sont esquissées. Elle se développe rapidement ; Heinrich Maschke démontre le théorème portant maintenant son nom trois ans plus tard. En 1911, William Burnside publie la seconde édition du livre W. Burnside, Theory of Groups of Finite Order, éd., Dover Publications, rééd. 2004 encore de référence contenant toutes les techniques utilisées dans cet article.
Représentations irréductibles Quelques rappels
Les représentations d'un groupe fini G (sur un espace vectoriel complexe de dimension finie) possèdent une propriété simplifiant largement leur analyse, elles sont toutes sommes directes de représentations irréductibles. De plus, cette décomposition d'une représentation se « lit » sur son caractère, qui est l'application associant à tout élément de G la trace de son image par la représentation. En effet : le caractère d'une somme directe de représentations est la somme de leurs caractères ; tout caractère est une fonction centrale, c'est-à-dire une application (de G dans l'ensemble des nombres complexes) constante sur chaque classe de conjugaison ; pour le produit hermitien suivant, la famille des caractères irréductibles est une base orthonormale de l'espace de ces fonctions centrales :
En résumé : le degré d'une représentation (i.e la dimension de l'espace vectoriel dans lequel se fait cette représentation) est égal à la valeur en 1 de son caractère, tout caractère est constant sur chacune des classes de conjugaison, les caractères irréductibles sont ceux de norme 1, ils sont orthogonaux deux à deux, leur nombre est égal au nombre de classes de conjugaison.
Enfin, les représentations irréductibles sont toutes isomorphes à des représentations régulières du groupe symétrique dans un sous-espace de son algèbre.
Cas du groupe symétrique Dans le cas particulier du groupe symétrique S, il existe plusieurs méthodes permettant de construire les représentations irréductibles. L'une d'elles associe de façon bijective chaque représentation irréductible à un tableau de Young de n éléments.
thumb|right|Un exemple de tableau de Young
Un tableau de Young est obtenu en répartissant les entiers de 1 à n en lignes de longueur décroissante. On remplit ces lignes par les entiers de 1 à n, dans l'ordre. Cela revient à effectuer une partition de l'entier n, en notant sa décomposition sous forme décroissante. Ainsi, le tableau ci-contre correspond à une partition de l'entier 10 sous la forme 5 + 4 + 1. On le désignera sous la forme [ [1, 2, 3, 4, 5], [6, 7, 8, 9], ]. Il correspond également au choix de la classe de conjugaison dans le groupe symétrique S formée des permutations ayant pour longueur de cycle respectivement 5, 4 et 1. En effet, deux permutations sont conjuguées si et seulement si leurs cycles à supports disjoints ont même longueur.
Comme il y a autant de représentations irréductibles de S que de classes de conjugaison, et autant de classes de conjugaison que de tableaux de Young de longueur n, il y a autant de représentations irréductibles que de tableaux de Young. La correspondance se fait comme suit :
On se donne un tableau de Young de longueur n. On se place dans l'algèbre de groupe et l'on considère la représentation régulière de S qui, à toute permutation s associe l'endomorphisme . On associe au tableau de Young : D'une part les permutations p laissant globalement invariantes les lignes du tableau D'autre part les permutations q laissant globalement invariantes les colonnes du tableau L'élément c de égal à où désigne la signature de q. L'idéal à gauche M de engendré par c, autrement dit, le sous-module sur engendré par les sc, s décrivant S.
On montre alors que : M est irréductible pour la représentation régulière Il existe non nul que Le nombre est la dimension de M comme espace vectoriel sur L'élément est l'idempotent engendrant l'idéal bilatère R contenant M. Cet idéal forme un espace vectoriel sur de dimension . Le caractère de la représentation est donné par
On montre enfin que les représentations irréductibles associées à des tableaux de Young différents ne sont pas équivalentes. On obtient donc ainsi toutes les représentations irréductibles du groupe symétrique S.
Quatre représentations irréductibles de S Pour tout entier n supérieur ou égal à 2, on dispose de quatre représentations irréductibles de S faciles à décrire :
La représentation triviale t Elle est associée au tableau de Young formé d'une seule ligne [ [1, 2, 3, ..., n] ]. Dans ce cas, :
Pour tout s dans S, , donc le sous-module M engendré est de dimension 1 et chaque élément du groupe est représenté par l'application identique.
La représentation signature σ Elle est associée au tableau de Young formé d'une seule colonne [ , , , ..., [n] ]. Dans ce cas, :
Pour tout s dans S, , donc le sous-module M engendré est de dimension 1 et chaque élément du groupe est représenté par sa signature
La représentation standard φ Elle est associée au tableau de Young [ [1, 2, ..., n-1], [n] ]. On vérifie qu'il s'agit d'une représentation de degré n – 1, supplémentaire de t dans l'action naturelle ρ de S sur . Plus précisément, en notant (ei), pour i variant de 1 à n, la base canonique de : l'image ρ(s) d'une permutation s de S est l'automorphisme de qui envoie la base (e) sur la base (e) ; sa matrice dans (e) est donc la matrice de la permutation et le caractère de ρ, appliqué à s, est le nombre de points fixes de s ; t apparaît comme une sous-représentation de ρ car le vecteur somme des e est fixe, φ est la restriction de ρ à l'hyperplan supplémentaire stable constitué des vecteurs dont la somme des coordonnées est nulle ; l'irréductibilité de φ se déduit du fait que son caractère est de norme 1, fait que nous vérifierons directement pour n = 4, mais qui se démontre de façon générale par 2-transitivité de S ou par un calcul explicite ;
L'image de S dans la représentation φ peut se voir comme le groupe des isométries laissant globalement invariant un simplexe régulier dans un espace euclidien de dimension n, le groupe permutant les sommets de ce simplexe.
La représentation φ Il s'agit du produit de φ par la signature σ, également de degré n–1. Elle est associée au tableau de Young [ [1, 2], , ..., [n] ]. D'une manière générale, lorsqu'une représentation irréductible est associée à un tableau de Young, le produit de cette représentation par la signature est la représentation irréductible associée au tableau de Young obtenu en inversant les rôles des lignes et des colonnes dans le tableau de Young initial.
Les trois représentations irréductibles de S Il existe trois tableaux de Young ayant 3 éléments, à savoir [ [1, 2, 3] ], [ [1, 2], ] et [ , , ]. Il existe donc trois représentations irréductibles du groupe S.
On peut dire aussi qu'il existe trois classes de conjugaisons, à savoir : 1 (l'identité), (ab) (transposition), (abc) (3-cycle).
Les quatre représentations ci-dessus épuisent la liste des trois représentations irréductibles de S, et φ est nécessairement équivalente à φ.
Les deux représentations t (triviale) et σ (signature) sont de degré 1, donc le caractère est égal à la représentation ; l'image des trois classes ci-dessus est (1, 1, 1) pour t et (1, –1, 1) pour σ.
Le caractère de φ, appliqué à une permutation s, s'obtient en retranchant 1 au nombre de points fixes de s.
La table des caractères irréductibles de S est donc :
Car. irr.1(ab)(abc)t111σ1–11φ120–1
On peut retrouver la représentation complexe φ (par extension des scalaires) à partir de la représentation réelle qui réalise S comme le groupe diédral D des isométries du triangle équilatéralJean-Pierre Serre, Groupes finis (cours à l'ENSJF 1978/79), ., exemple I.1.6 p. 118-119 : l'identité est de trace 2, les trois symétries axiales sont de trace nulle, et les deux rotations d'angles ont pour trace –1.
La représentation irréductible φ, produit de φ par la fonction scalaire σ, a pour caractère le produit par σ du caractère de φ. On peut donc vérifier sur cette table l'équivalence de φ et φ.
On peut aussi vérifier que ces trois caractères forment bien une famille orthonormale (en particulier ils sont de norme 1, ce qui confirme leur irréductibilité), que les degrés des représentations associées sont des diviseurs de l'ordre du groupe, et que la représentation régulière, dont le caractère est (6, 0, 0), contient autant de copies d'une représentation irréductible donnée que le degré de cette représentation irréductiblePour une méthode directe (sans passer par les caractères) de décomposition en irréductibles de n'importe quelle représentation de S, voir par exemple , exercice I.2.2. : (6, 0, 0)=(1, 1, 1)+(1, –1, 1)+2(2, 0, –1).
On remarque par ailleurs que toutes les valeurs de la table sont des entiers (donc tous les caractères du groupe sont à valeurs entières). C'est une propriété générale des groupes symétriquesCf. : la formule 4.33 explicite pour tout groupe symétrique S chacun de ces entiers, en fonction des deux partitions de l'entier n qui indexent la classe de conjugaison (via sa décomposition en cycles disjoints) et la représentation irréductible (via son )..
Les cinq caractères irréductibles de S Il existe cinq tableaux de Young de longueur 4, à savoir [ [1, 2, 3, 4] ], [ [1, 2, 3], ], [ [1, 2], [3, 4] ], [ [1, 2], , ] et [ , , , ]. Il existe donc cinq représentations irréductibles du groupe S, dont quatre ont déjà été données plus haut. Il s'agit de la représentation triviale t, la représentation σ correspondant à la signature, les deux représentations φ1 et φ2, qui sont de degré 3, et la représentation θ associée au tableau de Young [ [1, 2], [3, 4] ] qui s'avère être de degré 2. Chaque représentation s'obtient à partir d'une autre par produit tensoriel avec la représentation correspondant à la signature. Par cette opération, θ redonne une représentation équivalente à elle-même.
φ1 correspond aux isométries laissant invariant un tétraèdre, φ2 correspond aux rotations linéaires laissant invariant un cube.
thumb|Graphe de Cayley du groupe symétrique d'indice quatre
Classes de conjugaison Dans le cas de S, la décomposition en cycles disjoints d'une permutation peut être de la forme : 1, (ab), (abc), (ab)(cd) (produit de deux transpositions disjointes) ou (abcd) (4-cycle). Les 24 éléments du groupe se répartissent donc en cinq classes de conjugaison, que nous prendrons toujours dans l'ordre arbitraire suivant : Décomposition1(ab)(abc)(ab)(cd)(abcd)Cardinal de la classe16836
Calcul de la table