vignette|Ferdinand Georg Frobenius, fondateur de la théorie de la représentation des groupes. En mathématiques et plus précisément en théorie des groupes, la théorie des représentations d'un groupe fini traite des représentations d'un groupe G dans le cas particulier où G est un groupe fini.

Cet article traite de l'aspect mathématique et, de même que l'article de synthèse « Représentations d'un groupe fini », n'aborde que les représentations linéaires de G (par opposition aux représentations projectives ou ). Ce sont les actions linéaires de G sur un espace vectoriel V de dimension finie, ou encore, les morphismes de G vers le groupe général linéaire GL(V) des automorphismes de V.

Généralités

Dans tout l'article, G désigne un groupe fini d'ordre g, noté multiplicativement. Son élément neutre est noté 1. V désigne un espace vectoriel de dimension finie n sur un corps K. Le corps des nombres complexes est noté ℂ. Hypothèses sur le corps. On supposera toujours que la caractéristique de K ne divise pas g et que le polynôme Xg - 1 est scindé sur K (ou même seulement le polynôme Xe - 1, où e désigne l'exposant de G). Ces hypothèses peuvent être retranchées . Si elle devient différente, les résultats sur les algèbres semi-simples permettent néanmoins de dans de .

Une représentation du groupe G est la donnée d'un espace vectoriel V et d'un morphisme de groupes ρ de G vers le groupe linéaire GL(V), c'est-à-dire une applicationUne représentation est notée (V, ρ) ou parfois et abusivement V. Les notations ρ(s) (v) ou ρs.v ou même s.v désignent l'action d'un élément s du groupe G sur vecteur v de V. La représentation est dite fidèle si le morphisme ρ est injectif. La dimension de V est appelée degré de la représentation. Une représentation de degré n est dite matricielle si V = Kn, auquel cas le groupe (GL(V), ∘) s'identifie canoniquement au groupe GLn(K) des matrices carrées d'ordre n à coefficients dans K inversibles, muni du produit matriciel.

Un morphisme de représentations de G, ou « opérateur d'entrelacement », d'une représentation (V, ρ) vers une représentation (W, σ), est une application K-linéaire de V dans W telle que pour tout s appartenant à G on aitOn dit alors aussi que est un morphisme G-équivariant de V dans W. Les représentations (V, ρ) et (W, σ) sont dites isomorphes ou équivalentes s'il existe un isomorphisme G-équivariant de V dans W. Une sous-représentation de (V, ρ) est la représentation obtenue par restriction des ρs à un sous-espace vectoriel de V stable sous l'action de G. Une représentation (V, ρ) est dite irréductible si V et {0} sont distincts et sont les deux seuls sous-espaces stables.

La théorie pourrait être étendue sur des espaces V de dimension infinie, cependant, toute représentation d'un groupe fini est une somme directe de représentations de dimensions finies.

Exemples Groupe symétrique d'indice trois

Le groupe symétrique S est constitué des six permutations de l'ensemble E = {1, 2, 3}. Nous noterons (V, ρ) la représentation associée sur le corps ℚ des rationnels, et (e, e, e) la base canonique de V = ℚ ≃ ℚ.

Pour tout élément s de S, ρ(s) envoie (e, e, e) sur (e, e, e), donc fixe chaque élément de la droite vectorielle V engendrée par le vecteur e + e + e et laisse globalement stable le plan vectoriel supplémentaire V constitué des vecteurs dont la somme des coordonnées est nulle. (V, ρ) est donc la somme directe de deux représentations (V, ρ) et (V, ρ).

vignette|Représentation de S3 comme groupe des isométries du triangle

Puisque ρ est triviale, la représentation ρ est, tout comme ρ, fidèle. Toute représentation fidèle de S est de degré supérieur ou égal à 2 (en effet S est non abélien, alors que toute représentation de degré 0 ou 1 a pour image un groupe abélien). On démontre que toute représentation fidèle de S de degré 2 est isomorphe à ρ.

Chacun des six éléments ρ(s) permute évidemment les trois vecteurs e + e – 2e, e + e – 2e et e + e – 2e. Or ces trois vecteurs sont de somme nulle et deux quelconques d'entre eux forment une base de V. Il y a donc exactement six endomorphismes de ce plan qui permutent ces trois vecteurs, et ce sont les ρ(s).

Comme pour toute représentation d'un groupe fini ou même d'un groupe compact, il existe pour ρ au moins un produit scalaire sur V tel que tous les ρ(s) soient des isométries. Mais on peut se passer ici de ce résultat théorique : le produit scalaire canonique convient, puisque toute matrice de permutation est orthogonale.

Pour ce produit scalaire, les ρ(s) apparaissent alors comme les six isométries laissant invariant le triangle équilatéral suivant (choisi inscrit dans le cercle unité, ce qui nécessite d'étendre le corps de base) : u = (e + e – 2e)/, v = (e + e – 2e)/, w = (e + e – 2e)/.

La figure de droite illustre une interprétation graphique de la représentation (en prenant comme base orthonormée de V, par exemple : (u, (v – w)/)). Les lignes rouges représentent les trois axes de symétrie des trois transpositions.

Exemples généraux Si G est un sous-groupe de GLn(K), l'injection canonique associée est une représentation matricielle appelée la représentation standard. Toute action de G sur un ensemble fini E fournit une représentation ρ de G sur l'espace vectoriel KE des applications de E dans K : on considère dans cet espace la base canonique (δe)e∈E, où δ désigne le symbole de Kronecker (δe(f) vaut 1 pour f = e et vaut 0 pour les autres f∈E), et pour tout s∈G, on définit l'automorphisme ρ(s) par son action sur cette base : il la permute par ρ(s)(δe) = δs.e. On en verra un exemple avec la représentation régulière, issue de l'action de G sur lui-même par multiplication à gauche. Une représentation de degré 1 est naturellement irréductible. Elle est à valeurs dans un groupe de racines g-ièmes de l'unité dans K (ce résultat est conséquence d'un théorème de Lagrange). Un tel groupe est toujours cyclique. En conséquence, une représentation de degré 1 n'est fidèle que si le groupe G est cyclique. Une autre conséquence, démontrée dans l'analyse des caractères, est qu'un groupe fini est abélien si et seulement si toute représentation irréductible est de degré 1.

Premiers concepts

Représentation irréductible

vignette|Heinrich Maschke (1853 1908) L'objectif est la classification de toutes les représentations d'un groupe fini sur un corps K. Cette démarche, analogue à celle de la réduction d'endomorphisme par Jordan, se fonde sur le lemme suivant, sous l'hypothèse que la caractéristique de K ne divise pas l'ordre du groupe : Tout sous-espace stable d'une représentation admet un supplémentaire stable. Cette propriété est illustrée dans l'exemple de la représentation standard du groupe S. La droite fixe engendrée par le vecteur e1 + e2 + e3 possède un plan supplémentaire stable. C'est une propriété remarquable car dans le contexte général de l'algèbre linéaire, un sous-espace stable par un endomorphisme ne possède pas toujours de supplémentaire stable.

La classification, sous l'hypothèse du lemme ci-dessus, est le théorème de Maschke : Toute représentation d'un groupe fini est somme directe de représentations irréductibles. Connaître toutes les représentations d'un groupe fini revient donc à connaître ses représentations irréductibles, les autres s'obtiennent par somme directe.

Il existe une décomposition canonique, elle se fonde sur la définition suivante : Une représentation est dite isotypique si elle est somme directe d'une famille de représentations irréductibles deux à deux équivalentes. La décomposition d'une représentation en sous-espaces isotypiques maximaux est unique, ou encore: il n'existe qu'une seule sous-représentation isotypique maximale par représentation irréductible.

Produit hermitien

C'est un cas particulier du lemme d'unitarisation pour les groupes compacts (tout groupe discret fini est compact, et sa mesure de Haar est la mesure de comptage). V isomorphe à Kn, lui-même inclus dans ℂn qui est muni d'un produit hermitien canonique. On dispose donc sur V d'un produit hermitien ⟨ | ⟩, à partir duquel on en définit un autre, ( | ) — qui, lui, est -invariant — en posant, pour tous vecteurs et de V :

Si K est même inclus dans le sous-corps ℝ des réels, ce produit hermitien est en fait un produit scalaire car la conjugaison est l'identité sur K.

Caractère

Lemme de Schur

Le caractère d'une représentation (V, ρ) de G est l'application χρ qui à tout élément s de G associe la trace de ρs.C'est donc un élément de l'espace vectoriel KG des applications de G dans K. Si deux représentations sont équivalentes, alors elles ont même caractère.La réciproque est vraie si K est de caractéristique 0. Un caractère associé à une représentation irréductible est dit caractère irréductible. L'ensemble des caractères irréductibles est orthonormal pour la forme bilinéaire symétrique canonique sur KG.

Fonction centrale

Une application définie sur G est dite centrale si elle est constante sur chaque classe de conjugaison. L'ensemble des fonctions centrales sur G à valeurs dans K est un sous-espace vectoriel de l'espace KG des applications de G dans K. Sa base canonique est la famille (1c)c∊C des fonctions indicatrices des classes de conjugaison.

L'indicatrice d'une classe de conjugaison c se décompose dans la base canonique (δs)s∊G de KG en : 1c=∑s∊cδs.

Les propriétés des traces montrent que le caractère d'une représentation est une fonction centrale, de plus : La famille orthonormale des caractères irréductibles forme une base de l'espace des fonctions centrales à valeurs dans K. On en déduit que le nombre de représentations irréductibles est égal au nombre h de classes de conjugaison du groupe.

Algèbre d'un groupe Structure semi-simple

La théorie des représentations se fonde sur deux approches qui, sous des angles différents, permettent l'analyse des représentations d'un groupe. La première est couverte par le paragraphe précédent, les caractères, la deuxième se fonde sur des structures : celles d'algèbre et de module. Une des raisons de la richesse de la théorie est la complémentarité de ces deux points de vue dont le second fournit un cadre théorique général au premier.

On associe à G une K-algèbre associative, appelée la K-algèbre du groupe fini G et notée K[G], de la manière suivante. Sur l'espace vectoriel KG on choisit, comme multiplication interne, la convolution, qui s'exprime dans la base canonique (δs)s∊G par :

On obtient alors un dictionnaire complet entre représentations de G et K[G]-modules. En particulier les représentations irréductibles correspondent aux modules simples et leurs sommes directes aux modules semi-simples.

Dans ce contexte, le théorème de Maschke se reformule en disant que K[G] est un anneau semi-simple.

Théorème d'Artin-Wedderburn

Grâce aux résultats précédents, on démontre directement : L'algèbre K[G] est isomorphe à la somme directe des algèbres LK(Si) d'endomorphismes des K-espaces vectoriels Si sous-jacents aux h représentations irréductibles de G :

(Sous l'hypothèse supplémentaire que K est algébriquement clos, une manière plus savante d'arriver au même résultat est d'utiliser le théorème d'Artin-Wedderburn pour les algèbres semi-simples de dimension finie.)

L'égalité des dimensions des deux membres de cet isomorphisme fournit une identité remarquable : g=∑di, où di désigne la dimension de Si. On démontre par ailleurs que tous les di divisent g.

Il résulte directement de la définition du produit de convolution que : Le centre de K[G] coïncide avec le sous-espace vectoriel des fonctions centrales. Par ailleurs, un élément de K[G] appartient au centre si et seulement si, via l'isomorphisme ci-dessus, chacune de ses composantes est une homothétie. L'algèbre commutative des fonctions centrales (munie du produit de convolution) est donc isomorphe à l'algèbre produit Kh. On peut préciser cet isomorphisme : Pour toute fonction centrale , le rapport de l'homothétie correspondante sur Si vaut :