vignette|Action du groupe symétrique S4 sur un triangle. En mathématiques, une action de groupe sur un ensemble est une loi de composition externe du groupe sur l'ensemble, vérifiant des conditions supplémentaires. Plus précisément, c'est la donnée, pour chaque élément du groupe, d'une permutation de l'ensemble, de telle manière que toutes ces bijections se composent de façon compatible avec la loi du groupe.

Définition

Étant donné un ensemble E et un groupe G, dont la loi est notée multiplicativement et dont l'élément neutre est noté e, une action (ou opération) de G sur E est une loi de composition externe :

vérifiant chacune des 2 propriétés suivantes :

On dit également que G opère (ou agit) sur l'ensemble E. Il est important de bien vérifier que l'ensemble E est stable sous l'action du groupe G.

On peut exprimer la définition, de manière équivalente, une action (ou opération) de G sur E est une application surjective :

Ce qui conduit à un point de vue équivalent consistant à dire que le groupe G opère sur l'ensemble E si l'on dispose d'un morphisme de groupes, dit associé à l'action, , du groupe G dans le groupe symétrique S de l'ensemble E. Un tel morphisme est appelé une représentation du groupe G.

Ce morphisme est lié à l'action par pour tout .

Dans le cas où l'ensemble E est muni d'une structure supplémentaire (algébrique, topologique, géométrique), on peut se limiter aux morphismes tels que préserve cette structure pour tout ; ces actions sont appelées actions par automorphismes (pour cette structure). Par exemple, si E est un espace vectoriel, et on exige que soit à valeurs dans GL(E), on parle d'une action linéaire de G sur E.

Exemples

Un groupe opère sur lui-même de deux manières fondamentales : par translations à gauche ; cette action est simplement transitive, c'est-à-dire libre et transitive : ; par automorphismes intérieurs, action aussi appelée par conjugaison :: Le groupe symétrique d'un ensemble E opère naturellement sur E ; cette action est fidèle et transitive :. Plus généralement, un groupe de permutations G d'un ensemble E (c'est-à-dire un sous-groupe du groupe symétrique de E) opère sur E par . Cette opération est appelée l'opération naturelle du groupe de permutations G. Elle est fidèle mais pas forcément transitive. Tout groupe G agissant sur un ensemble E agit naturellement sur l'ensemble des parties de E, par.. Le groupe orthogonal (resp. unitaire) d'un espace euclidien (resp. espace hermitien) E opère sur sa sphère unité :

. Le groupe linéaire d'un espace vectoriel E opère sur l'ensemble de ses bases ; cette action est simplement transitive :. Le groupe projectif linéaire (ou groupe des homographies) d'un espace projectif ℙ(E) opère sur l'ensemble de ses faisceaux harmoniques :. Le groupe symétrique d'indice p opère sur l'ensemble des formes p-linéaires par : Le groupe de Galois d'un polynôme opère sur l'ensemble de ses racines. Tout groupe de type fini agit naturellement sur le graphe de Cayley associé à n'importe laquelle de ses parties génératrices finies.

Actions à droite, actions à gauche

Tous les exemples du paragraphe précédent sont des actions à gauche. Mais il est utile de considérer aussi les actions à droite. On aura une action à droite si

Ainsi, un groupe G opère sur lui-même à droite par translations à droite. Il est bien sûr naturel et commode de noter

une action à droite.

Le groupe opposé du groupe symétrique S est l'ensemble des permutations de E muni de la loi de composition . À une action à droite d'un groupe G sur un ensemble E, il correspond un homomorphisme de G dans l'opposé de S. Cet homomorphisme applique un élément g de G sur la permutation x ↦ x⋅g de E.

Commentaire. La notation fonctionnelle en usage aujourd'hui conduit naturellement à privilégier les actions à gauche. La notation exponentielle (utilisée par exemple par Emil Artin dans son livre sur les algèbres géométriques), où ce que nous notons s'écrit , conduirait à privilégier les actions à droite.

Orbites, stabilisateurs et points fixes Orbite On définit l'orbite d'un élément de E par

L'orbite de est l'ensemble des éléments de E associés à sous l'action de G. La relation « est dans l'orbite de » est une relation d'équivalence sur E ; les classes d'équivalence sont les orbites.

En particulier, les orbites forment une partition de E.

Stabilisateur d'un élément Le stabilisateur (ou sous-groupe d'isotropie) d'un élément de E sous l'action de G est l'ensemble

des éléments qui laissent invariant sous leur action. C'est un sous-groupe de G. Les stabilisateurs de deux éléments de la même orbite sont conjugués via la formule :

En particulier : ils sont isomorphes donc équipotents ; ils ont le même indice.

D'ailleurs, l'application

est une bijection de sur Pour une justification (avec formulation plus précise), , si bien que l'indice du stabilisateur de n'importe quel point d'une orbite est égal au cardinal de cette orbite (cette propriété sera rappelée plus bas sous le nom de « formule des classes ».)

Points fixes d'un élément du groupe On peut définir, de manière analogue, l'ensemble des points fixés par un élément du groupe G comme l'ensemble des éléments de E invariants sous l'action de :

Stabilisateur d'une partie A de E L'ensemble des g de G tels que g⋅A = A est appelé stabilisateur de A sous G et noté stab(A) ; c'est le stabilisateur de l'élément A de , pour l'action (de G) sur naturellement associée à celle sur E..

Caractéristiques des actions de groupe Action transitive Une action est dite transitive si elle possède une et une seule orbite. Une action d'un groupe G sur un ensemble E est donc transitive si et seulement si E n'est pas vide et que deux éléments quelconques de E peuvent être envoyés l'un sur l'autre par l'action d'un élément du groupeCeci est la seconde forme de la définition dans N. Bourbaki, Éléments de mathématique, Algèbre, Paris, 1970, ch. I, § 5, , déf. 6, . :. Plus généralement, une action sur un ensemble E (d'au moins n éléments) est dite n-transitive si l'action correspondante sur l'ensemble des n-uplets d'éléments distincts est transitive, c'est-à-dire si pour n points distincts x, … , x et n points distincts y, … , y, quelconques dans E, il existe toujours au moins un élément g du groupe tel qu'on ait à la fois g·x = y, … , g·x = y.

L'action est dite strictement n-transitive, section 1.2.3, , parle d'un groupe de permutations « fortement n fois transitif ». si, de plus, un tel g est toujours unique, autrement dit si l'action sur les n-uplets d'éléments distincts est simplement transitive.

Un groupe de permutations est dit transitif (resp. n-transitif, resp. strictement n-transitif) si son opération naturelle est transitive (resp. n-transitive, resp. strictement n-transitive).

Il résulte de la classification des groupes simples finis que les seuls groupes de permutations 4-transitifs sont les groupes symétrique et alterné (de degré ≥ 4 et ≥ 6 respectivement) et les groupes de Mathieu M, M, M et M : de plus, M et M sont 5-transitifs de ..

Jordan avait prouvé en 1873 que les seuls groupes de permutation strictement 6-transitifs sont les groupes symétriques de degrés 6 et 7 et le groupe alterné de degré 8, éd., tirage de 1999, ..

Action libre

Une action est dite libre si tous les stabilisateurs sont réduits au neutre, autrement dit si tout élément différent du neutre agit sans point fixe : .

Action fidèle Une action est dite fidèle (on dit parfois aussi effective) si l'intersection de tous les stabilisateurs est réduite au neutre, autrement dit si seul le neutre fixe tous les points. . Une action libre est fidèle.

De façon équivalente, une action est fidèle si le morphisme

défini par est injectif.

Action simplement transitive Une action est dite simplement transitive si elle est à la fois transitive et libre. Autrement dit, deux éléments quelconques de l'espace sont envoyés l'un sur l'autre par un et un seul élément du groupe : .

Par exemple, l'action d'un groupe sur lui-même par translations à gauche (ou à droite) est simplement transitive.

Une action fidèle et transitive d'un groupe abélien est simplement transitive, § 1.4.. En effet, plus généralement, pour toute action transitive d'un groupe G, les orbites d'un sous-groupe normal sont permutées par G donc sont toutes de même cardinal (donc sont des singletons si ce sous-groupe fixe un point)..

Une action transitive d'un groupe fini G sur un ensemble X est simplement transitive si et seulement si G et X ont même cardinal..

Action continue Si G est un groupe topologique et X un espace topologique, l'action est dite continue si l'application correspondante G×X → X, (g, x) ↦ g⋅x est continue, 1971, ., G×X étant muni de la topologie produitSi elle vérifie seulement que pour tout x ∈ X, l'application G → X, g ↦ g⋅x est continue, on dit – paradoxalement – que l'action est .. L'espace X/G des orbites est alors muni d'une topologie quotient et l'application X → X/G est ouverte. Si X/G est compact, l'action est dite cocompacte.

L'action est dite propreSur cette notion, on pourra consulter Topologie : revêtements et groupe fondamental par Michèle Audin, IRMA, 2004 et approfondir dans N. Bourbaki, Éléments de mathématique, TG III, § 4. si l'application G×X → X×X, (g, x) ↦ (g⋅x, x) est propre. L'espace des orbites est alors séparé. Une action continue propre d'un groupe discret est dite . Lorsque G est localement compact et X séparé, l'action est propre si et seulement si deux points quelconques x et y de X possèdent toujours des voisinages V et V tels que V ne rencontre gV que pour un ensemble relativement compact d'éléments g de G. Lorsque G est séparé et X localement compact, une action continue est propre si et seulement si, pour tout compact K de X, le fermé des éléments g de G pour lesquels gK rencontre K est compact. Si G est un groupe compact, ces conditions de (relative) compacité de parties de G sont automatiquement vérifiées. Si G est un groupe discret, elles équivalent à la finitude des parties considérées.

L'action est dite géométrique si elle est proprement discontinue et cocompacte. Un des résultat utilisant cette hypothèse est le .

Formule des classes, formule de Burnside À travers les notions d'orbite et de stabilisateur, les actions de groupe sont un outil commode en combinatoire. D'autre part, un certain nombre de propriétés concernant la structure de certains groupes peuvent être démontrées par des arguments de dénombrement.

Deux identités reviennent fréquemment, en particulier lorsque le groupe G est fini.

La formule des classes affirme que le cardinal de toute orbite est égal à l'indice dans G du stabilisateur de n'importe quel point de . En particulier, si G est fini :.Par suite, si l'on désigne par l'ensemble des orbites et par l'ordre commun des stabilisateurs des éléments de l'orbite , un corollaire de la formule des classes est (toujours sous l'hypothèse que G est fini) :. La formule de BurnsideBien qu'il soit traditionnel de lui attacher le nom de Burnside, ce dernier l'avait en fait attribuée dans son livre de 1897 à Frobenius, et elle avait déjà été .Ne pas confondre avec .Pour une démonstration, affirme pour sa part que . En particulier, si G est fini : le nombre d'orbites est : ; si G agit transitivement sur un ensemble non vide, alors la moyenne du nombre de points fixes des éléments du groupe G est égale à .

Actions équivalentes et quasi équivalentes Soit G un groupe opérant (à gauche) sur un ensemble X et sur un ensemble Y. Nous dirons que ces deux opérations sont équivalentesExpression conforme par exemple à , à , à . s'il existe une bijection f de X sur Y telle que, pour tout élément g de G et tout élément x de X, on ait , où les points représentent respectivement les opérations de G sur X et sur Y.