L'analyse harmonique non commutative est une branche des mathématiques qui est parvenue à maturité vers la fin des années 1970 ; elle généralise l'analyse harmonique classique et consiste, comme cette dernière (qui remonte au ), à développer une fonction en composantes fondamentales. Elle a des applications dans de nombreux domaines : les équations aux dérivées partielles qui, avec leurs problèmes aux bords, ont des groupes de symétrie non commutatifs ; la Mécanique quantique ; récemment, les sciences de l'ingénieur (traitement d'images, robotique, chimie, théorie des systèmes dynamiques non linéaires, etc.) ; la théorie des nombres (, groupes adéliques).
L'analyse harmonique, à ses débuts, considérait des fonctions périodiques et en réalisait la décomposition en série de Fourier. Une fonction périodique (de période 1, après normalisation) peut être considérée comme définie sur le tore , et la théorie des groupes commutatifs localement compacts montre que l'« espace dual » du tore, sur lequel dont définis les coefficients de Fourier, est l'ensemble des entiers relatifs, qui est de nouveau un groupe abélien ; aussi les coefficients de Fourier d'une fonction périodique forment-ils une suite de nombres complexes. Réciproquement, quand on réalise la synthèse de Fourier, on passe par la « formule de Plancherel » des coefficients de Fourier, définis sur , à la fonction périodique dont ils sont issus, définie sur qui est le « dual » de .
Ceci est un cas particulier du théorème de dualité de Lev Pontryagin et Egbert van Kampen, qui montre que le « bidual » d'un groupe localement compact commutatif G s'identifie à G. D'autre part, on peut associer à une fonction définie sur la droite réelle sa transformée de Fourier, elle aussi définie sur , qui est son propre dual ; puis on peut faire l'opération inverse, par la formule de Plancherel. L'analyse harmonique consiste donc à associer à une fonction, définie sur un groupe topologique G (qu'on supposera être un groupe de Lie quand on voudra définir sur ce groupe, par exemple, la notion de dérivée), une autre fonction, définie sur l'« espace dual » de ce groupe.
Celui-ci est défini comme étant l'ensemble des classes d'équivalence des représentations unitaires irréductibles de G ; lorsque G est un groupe « apprivoisé », par exemple un groupe de Lie semi-simple, cet espace est muni d'une « topologie naturelle » et d'une mesure « canonique », la mesure de Plancherel. Lorsque le groupe G est commutatif, ces représentations irréductibles s'identifient aux caractères de G ; est alors de nouveau un groupe commutatif localement compact, et la mesure de Plancherel est la mesure de Haar sur : ceci est lié au fait que, dans ce cas, toutes les représentations unitaires irréductibles de G sont de dimension (ou « degré ») 1.
Sur un groupe non commutatif, ce n'est plus le cas, et déjà sur un groupe fini ou compact non commutatif, les « coefficients de Fourier » d'une fonction, qui constituent la « cotransformée de Fourier » de cette fonction, sont des matrices. On peut encore définir les caractères comme étant les traces des représentations irréductibles : dans le cas d'un groupe compact, ce sont des traces au sens usuel (traces de matrices) ; dans le cas d'un groupe non compact, ce sont des traces dans un sens généralisé qui est fondé à la fois sur la notion d'opérateur à trace et sur celle de distribution (« caractères de Harish-Chandra »).
La « décomposition de Fourier » sur un groupe non commutatif non compact comporte une partie discrète, analogue aux coefficients de Fourier d'une fonction périodique : c'est la « série discrète » ; et une partie continue, analogue à la transformée de Fourier d'une fonction sur la droite réelle : c'est la « série principale ». La partie purement formelle de l'analyse harmonique non commutative peut être présentée assez simplement, par généralisations successives, en partant des développements en série de Fourier et de la transformation de Fourier sur la droite réelle puis sur un groupe commutatif, en envisageant ensuite le cas d'un groupe compact, enfin en montrant comment le « formalisme de Peter-Weyl » peut s'étendre au cas d'un groupe non compact.
En revanche, dès qu'on veut, comme l'a fait Harish-Chandra, dépasser le cadre purement formel et expliciter dans le cas général la formule de Plancherel, qui permet de réaliser la synthèse de Fourier à partir des caractères, l'analyse harmonique non commutative est « hérissée de difficultés conceptuelles » et « nécessite des moyens techniques considérables », suivant les expressions de Jean Dieudonné, t. 6, p. 2.. Le groupe des matrices carrées d'ordre 2 à coefficients réels et de déterminant 1 est le groupe non compact semi-simple de la plus petite dimension possible ; tout en restant relativement simple, il a une structure suffisamment riche pour donner un bon aperçu des points fondamentaux de la théorie générale.
Historique
Frigyes Riesz et Ernst Sigismund Fischer en 1907 pour les séries de Fourier, Michel Plancherel en 1910 pour la transformation de Fourier, ont démontré les théorèmes qui portent leur nom (théorème de Riesz-Fischer et théorème de Plancherel) et qui sont au cœur de l'analyse harmonique commutative, respectivement sur le tore et sur la droite réelle. Leur extension sur un groupe commutatif a été réalisée par Pontryagin et van Kampen dans les années 1934-1935. L'analyse harmonique sur un groupe compact non commutatif a été établie par Hermann Weyl et son étudiant Fritz Peter en 1927. Ces théories ont été réunies et simplifiées dans le livre d'André Weil publié en 1940, le théorème de Plancherel sur un groupe commutatif y trouvant sa forme générale.
Le passage aux groupes non compacts non commutatifs s'est effectué sur la base de nombreux travaux dont un thème commun est la théorie des représentations : il faut citer en premier lieu les travaux portant sur les représentations des groupes finis : ceux de Ferdinand Georg Frobenius qui a introduit la notion de caractère d'un groupe non commutatif fini en 1896 et a démontré l'orthogonalité de deux caractères irréductibles ; le livre classique de William Burnside sur les groupes finis, paru en 1911 ; les relations d'orthogonalité d'Issai Schur (1924). Il convient de mentionner aussi les nombreux travaux portant sur les groupes et algèbres de Lie, dont Élie Cartan, Hermann Weyl, Claude Chevalley comptent parmi les protagonistes les plus notoires. Datant des années 1940, les travaux d'Israel Gelfand et ses collaborateurs Mark Aronovitch Naïmark et Dmitrii Abramovich Raikov (algèbres stellaires, représentations unitaires irréductibles), de John von Neumann et Francis Joseph Murray (algèbres de von Neumann, sommes continues d'espaces de Hilbert) ; plus tard, vers la fin des années 1950 et le début des années 1960, ceux de François Bruhat (distributions sur un groupe localement compact et représentations des groupes p-adiques) et Jacques Dixmier (algèbres stellaires, algèbres de von Neumann, mesure de Plancherel). S'appuyant sur le notions créées par Claude Chevalley, Emil Artin et George William Whaples, les travaux d'André Weil et John Tate ont montré à partir des années 1950 que toute la théorie algébrique des nombres peut se présenter comme une application de l'analyse harmonique sur les groupes d'adèles et d'idèles de corps de nombres .
On peut faire remonter les débuts de l'analyse harmonique non commutative proprement dite à 1947, lorsque Gelfand et Naïmark, étudiant le groupe , ont déterminé deux types de représentations irréductibles : celles constituant la « », associées aux sous-groupes diagonaux, et dont les caractères s'expriment grâce aux « », et celles constituant la « série complémentaire », ces dernières n'entrant pas dans la formule de Plancherel car elles y ont un poids nul. Toutes les représentations irréductibles sont de l'un ou l'autre de ces types. Ils ont généralisé ce résultat en 1950 à tous les groupes classiques complexes.
Mais en 1947 encore, Valentine Bargmann a mis en évidence dans le cas de un phénomène qui n'intervenait pas dans le cas complexe : l'existence d'une « série discrète », analogue à la « série de Fourier généralisée » de Peter-Weyl dans le cas d'un groupe compact, ainsi que des relations d'orthogonalité semblables à celles des caractères des séries de Fourier, de ceux de Frobenius-Schur et de ceux de Peter-Weyl. Entre 1950 et 1955, Irving Segal et ont établi le cadre formel général. Mautner a montré en 1950 que le groupe est « apprivoisé » (on dit aussi « de type I ») et a émis la conjecture qu'il en est de même de tous les groupes de Lie semi-simples. Cette conjecture a été démontrée par Harish-Chandra l'année suivante (1951).
La théorie s'est ensuite orientée vers les calculs effectifs avec divers mathématiciens, dont Roger Godement, Atle Selberg (et sa formule des traces qui, obtenue en 1956, généralise la formule sommatoire de Poisson), et surtout Harish-Chandra. Ce dernier a explicité la formule de Plancherel pour en 1952 ; puis il s'est lancé dans un programme colossal, dont la réalisation a demandé un quart de siècle, visant à expliciter la formule de Plancherel des groupes semi-simples, puis des groupes réductifs généraux. Un passage obligé était l'étude approfondie de la série discrète, travail qui à lui seul était considérable ; cette étude a été reformulée, selon un point de vue différent, par Michael Atiyah et Wilfried Schmid en 1977 dans un article de synthèse. L'aboutissement des travaux de Harish-Chandra a été publié entre 1970 et 1975. Le cas des groupes nilpotents a été étudié à partir des idées d'Alexandre Kirillov (« méthode des orbites ») qui ont mûri vers la même période. Parmi les groupes résolubles non nilpotents, certains sont « apprivoisés », donc susceptibles de donner lieu à une analyse harmonique, d'autres non ; un critère obtenu par Louis Auslander et Bertram Kostant en 1967 permet de les distinguer.
Pour résumer en une courte phrase les travaux ci-dessus, on peut dire que la cotransformation de Fourier et la transformation de Fourier sont des opérations inverses l'une de l'autre de sur , G étant le groupe considéré, son dual, et ces transformations étant in fine explicites ; c'est une généralisation du théorème de Plancherel. Parallèlement, Laurent Schwartz a généralisé ce théorème en 1948, dans une autre direction, celle de la transformation de Fourier des distributions tempérées : dans le cas où , le théorème de Plancherel reste valide si l'on remplace par , l'espace de Schwartz, ou son dual , l'espace des distributions tempérées. et Friedrich Mautner, dans trois articles publiés entre 1955 et 1965, ont introduit la notion d'espace de Schwartz sur ; cette approche a ensuite été généralisée par Harish-Chandra entre 1966 et 1976 au cas où G est un groupe de Lie semi-simple réel, puis au cas où G est un groupe réductif réel ou p-adique, faisant de l'« » et son dual le cadre naturel de l'analyse harmonique non commutative. Néanmoins, la formule de Plancherel pour les groupes p-adiques est moins explicite que pour les groupes réelsLa formule de Plancherel pour un groupe p-adique et sa démonstration, telle qu'établie mais non publiée par Harish-Chandra, figurent dans . ; la classification des séries discrètes dans le cas p-adique reste un problème ouvert qui fait partie du programme de Langlands, et les applications de l'analyse harmonique non commutative à la théorie des nombres, qui ont commencé à se développer avec notamment Harish-Chandra, Armand Borel, Hervé Jacquet et Robert Langlands, restent un domaine dont l'exploration est loin d'être terminée.
Conventions et notations