En mathématiques, un groupe est une structure algébrique qui consiste en un ensemble muni d'une unique loi de composition interne. Cette loi vérifie alors certaines propriétés : elle est associative, elle possède un élément neutre et tout élément admet un inverse. Un groupe fini est un groupe dont le nombre d'éléments est fini. La simplicité de la définition cache une structure dont la complexité peut devenir redoutable si l'ordre, c'est-à-dire le nombre d'éléments, du groupe grandit. Une représentation d'un groupe fini est une méthode pour étudier une telle structure. Elle revient à étudier le groupe comme un ensemble de symétries d'un espace euclidien. Par exemple, le groupe des permutations d'un ensemble à trois éléments se représente comme le groupe des applications linéaires du plan laissant globalement invariant un triangle équilatéral dont le centre est l'origine.

Une représentation se décompose en éléments simples, appelés représentations irréductibles et qui sont en nombre fini. Elles représentent les briques élémentaires qui permettent de construire toutes les représentations. La géométrie euclidienne joue un rôle dans cet univers. Une représentation quelconque se décompose en représentations irréductibles qui agissent sur des plus petits espaces tous orthogonaux les uns par rapport aux autres. Une manière d'étudier une représentation donnée est de considérer l'application qui, à un élément du groupe, associe la somme des coefficients diagonaux d'une matrice représentant l'application linéaire image. Cette application porte un nom, on parle du caractère de la représentation. Elle fait aussi partie d'un espace euclidien appelé l'espace des fonctions centrales. Une base orthonormée de cet espace est composée des caractères des représentations irréductibles et le calcul des coordonnées d'un caractère quelconque dans cette base permet d'obtenir la décomposition en éléments simples. Comme souvent en algèbre, l'étude est plus simple si l'espace vectoriel utilise comme nombres les imaginaires. Le produit scalaire dont il est question ici est alors défini sur les nombres complexes, on parle parfois de produit hermitien et de géométrie hermitienne.

Historiquement, cette théorie est apparue pour répondre à une question provenant de la théorie de Galois. L'étude des solutions d'une équation polynomiale amène à l'étude d'une représentation d'un groupe, dit de Galois. Dedekind, un mathématicien allemand de la deuxième moitié du , cherchait à factoriser le groupe de Galois d'une équation du quatrième degré, . La tâche n'est pas si simple, car un tel groupe est représenté par 24 matrices de chacune 24 = 576 coefficients. N'y parvenant pas, il écrivit à Frobenius, qui comprit rapidement pourquoi les caractères sont la réponse à cette délicate question et comment résoudre la difficulté. Frobenius pressentit qu'il disposait là d'une approche fructueuse, ouvrant la voie à une vaste théorie, source de progrès en théorie des groupes.

Cette théorie offre de fait des outils puissants pour élucider la théorie des groupes finis, permettant par exemple de déterminer le caractère résoluble d'un groupe en fonction de son ordre. De manière moins anecdotique, la représentation des groupes finis est l'outil de base de la classification. L'apport algébrique ne s'arrête pas là. Les applications linéaires s'additionnent, ce qui permet de définir un anneau, si l'on considère l'espace vectoriel engendré par les images du groupe. Les outils de la représentation d'un groupe fini interviennent dans l'étude de la structure d'un anneau, comme l'illustre le théorème d'Artin-Wedderburn. Enfin, la théorie de Galois, à l'origine des travaux de Frobenius, n'est pas en reste. À travers la théorie des corps de classes ou celle, moins aboutie, du programme de Langlands, la représentation des groupes est au cœur de la recherche mathématique actuelle.

Le savoir purement mathématique associé à cette théorie est traité dans l'article « Théorie des représentations d'un groupe fini ».

Histoire Avant les représentations Théorie des groupes finis

La théorie des groupes trouve son origine dans l'étude du groupe des bijections d'un ensemble fini. Cette notion, appelée permutation date au moins du . Le japonais T. Hamada, Y. Michiwaki et Oyama, On the influence of the 'Seki's School versus the Saijo School controversy' in the provinces (Japanese), Sugakushi Kenkyu 64, 1975. Kowa Seki (1642-1708) et l'allemandL. Couturat, La logique de Leibniz (Hildesheim, 1961). Leibniz (1646-1716) utilisent les permutations et la notion de signature pour définir un déterminant dans des espaces de dimension trois et quatre. Une utilisation plus systématique est l'œuvre de LagrangeJ.-L. Lagrange, Réflexions sur la résolution algébrique des équations, 1770. et VandermondeA.-T. Vandermonde, Mémoire sur la résolution des équations, 1771. dans le cadre de l'équation polynomiale. En revanche, l'ensemble des permutations n'est, dans aucun des cas cités, considéré comme une structure disposant d'une loi interne.

L'aube du voit un apport de première importance pour ce qui deviendra la théorie des groupes finis. En 1801, Carl Friedrich Gauss utilise C. F. Gauss, Disquisitiones arithmeticae, 1801. les groupes cycliques pour fonder l'arithmétique modulaire et résoudre l'équation cyclotomique d'indice un nombre premier de Fermat. Un ensemble fini muni d'une opération interne conférant une structure de groupe est enfin utilisée. La connaissance d'une telle structure devient indispensable pour tout mathématicien étudiant l'arithmétique. Cependant, tout au long de sa vie, Gauss ne verra pas l'intérêt d'une formalisation.

Évariste Galois (1811-1832), à la suite des travauxN. H. Abel, Mémoire sur les équations algébriques, où l'on démontre l'impossibilité de la résolution de l'équation générale du cinquième degré, 1824. du mathématicien norvégien Niels Abel (1802-1829) permet la réalisation d'un bond fondateur de l'algèbre moderne. À travers la problématique de l'équation algébrique, il découvreE. Galois, « Sur les conditions de résolubilité des équations algébriques », Journal de mathématiques pures et appliquées, 1846. non seulement la portée du champ applicatif de la structure, mais de plus, évoque un nouveau formalisme avec la notion de groupe abstrait. Ce n'est que quinze ans plus tard que la dimension de ses travaux est perçue par la communauté. La redécouverteJ. Liouville, « Œuvres mathématiques d'Évariste Galois Suivie d'un avertissement de Liouville », Journal de mathématiques pures et appliquées, vol. X, 1846. par Joseph Liouville des écrits de Galois en 1846 place la théorie des groupes finis comme un sujet de premier plan. Augustin Cauchy publie vingt-cinq articles sur la question dont un sur son célèbre théorèmeA. L. Cauchy, Sur le nombre de valeurs égale ou inégales que peut acquérir une fonction de n variables indépendantes, quand on permute ces variables entre elles d'une manière quelconque, 1845.. Arthur Cayley donne une première définition abstraite d'un groupe.. Le domaine d'application s'étend, en 1877, Felix Klein remarqueF. Klein, Conférences sur l'icosaèdre et les solutions de l'équation du cinquième degré, 1877. que le groupe des isométries laissant invariant l'icosaèdre est isomorphe au groupe de Galois d'une équation quintique, la géométrie algébrique naît et les groupes finis y jouent un rôle clé. La connaissance du sujet s'accroît, Ludwig Sylow énonce ses célèbres théorèmes. en 1872 et Heinrich Weber donne la définition H. Weber, Lehrbuch der Algebra, Braunschweig, 1924. moderne d'un groupe en 1895.

Caractère et groupe d'automorphismes

Un outil essentiel aux représentations des groupes est celui du caractère. Il correspond, avec notre regard moderne, à la trace des différents automorphismes correspondant au groupe représenté. Une fois encore, le sujet n'est pas vierge au moment de la naissance de la théorie des représentations.

On peut citer le symbole de Legendre du siècle précédent pour l'explicitation de la loi de réciprocité quadratique, comme premier exemple de caractère avant la lettre. Gustav Dirichlet utilise pour la première fois le terme de caractère G. Dirichlet, Vorlesungen über Zahlentheorie, , Vieweg, Braunschweig, 1879. pour une fonction multiplicative, proche du symbole précédent.

Richard Dedekind transporte les idées associées aux groupes finis. Il définit formellement la notion de caractère d'un groupe abélien fini comme un morphisme de ce groupe dans celui des nombres complexes non nuls, pdf, ps, .. Les caractères sont parfaitement connus ainsi que leurs relations d'orthogonalité, mais uniquement dans le contexte commutatif.

Enfin, l'idée de groupe fini d'automorphismes n'est pas non plus inconnue. Camille Jordan, en 1870, étudie les groupes de GaloisC. Jordan, Traité des substitutions et des équations algébriques, 1870. comme un groupe de matrices qu'il appelle le groupe linéaire. Il étudie le cas sur les corps finis premiers, c’est-à-dire de cardinal un nombre premier et traite le cas de la factorisation d'un unique automorphisme. Felix Klein, depuis son célèbre programme d'Erlangen est aussi un familier du concept. Leopold Kronecker et Richard Dedekind développent les prémisses de la théorie des anneaux et des corps.. Le groupe de Galois n'est défini qu'à partir d'automorphismes et non plus comme un groupe de permutations de racines.

Si l'idée d'une incarnation d'un groupe fini comme une famille d'automorphismes est parfaitement comprise à la fin du siècle, elle se heurte à une difficulté réelle. Par exemple, pour une équation du quatrième degré, le groupe comprend déjà 24 éléments, correspondant chacun à une matrice 24×24. Dedekind développe la méthode des déterminants de groupes.. S'il réussit à le groupe symétrique d'indice trois, il est dans une impasse pour le cas général.

En 1896, la théorie des groupes finis, ainsi que les outils nécessaires à l'élaboration de la théorie des représentations sont largement développés. Cependant, la taille ainsi que la complexité calculatoire représentent une barrière que Dedekind ne voit pas comment franchir. Il envoie à Ferdinand Georg Frobenius deux lettres à ce sujet., les et . Le destinataire n'est pas un novice. Il a, par exemple, démontré les théorèmes de Sylow dans le cas des groupes abstraits. et reformulé abstraitement, avec Ludwig Stickelberger, le théorème de Kronecker sur la structure des groupes abéliens finis..

Naissance de la théorie (1896)

Peu de théories possèdent une date de naissance précise. Les groupes apparaissent par exemple petit à petit, depuis Lagrange jusqu’à la définition exacte de Weber, l'évolution est lente et continue. La théorie des représentations est une exception, les historiens associent systématiquement sa naissance au mois d'avril C. W. Curtis, « Representation theory of finite groups, from Frobenius to Brauer », Math. Intelligencer, 1992, . 1896.

Frobenius répond à Dedekind par trois missives T. Hawkins, « The origins of the theory of group characters », Arch. Hist. Exact Sci., vol. 7, 1971, . datées des 12, 17 et 26 du mois. Il parvient à ainsi que leurs sous-groupes alternés et le groupe simple d'ordre 168. Il comprend que son approche est à la base d'une vaste théorie et rédige rapidement les traités fondateurs.

Le , il publie un premier article F. G. Frobenius, « Über Gruppencharaktere », Sitzungsber. Preuss. Akad. Wiss. Berlin, 1896.. On peut y lire . Les caractères ne se limitent plus au cas abélien, voilà la première clé de son succès.