En mathématiques, et plus précisément en analyse, le calcul fonctionnel holomorphe désigne l'application du calcul fonctionnel aux fonctions holomorphes, c'est-à-dire qu'étant donnés une fonction holomorphe ƒ de la variable complexe z et un opérateur linéaire T, l'objectif est de construire un opérateur étendant ƒ de manière « naturelle ».

Le cas le plus fréquent est celui où T est un opérateur borné sur un espace de Banach. En particulier, en dimension finie, T peut être identifié à une matrice carrée à coefficients complexes ; ce cas permet d'illustrer les idées du calcul fonctionnel, et sert souvent de motivation heuristique aux techniques d'analyse d'opérateurs plus généraux

Motivations Nécessité d'un calcul fonctionnel général

On suppose dans cette section que T est une matrice carrée n × n à coefficients complexes.

Pour certaines fonctions simples f, il y a des façons naturelles de définir . Par exemple, si est un polynôme à coefficients complexes, il suffit de remplacer z par T pour définir , où T0 = I, la matrice identité (d'ordre n). C'est le calcul fonctionnel polynomial, définissant un homomorphisme de l'algèbre des polynômes vers l'algèbre des matrices n × n.

Ce cas se généralise sans difficulté à celui d'une fonction partout holomorphe, c'est-à-dire à une fonction entière, pour laquelle la série de Taylor a un rayon de convergence infini. Dans ce cas, en effet, définissant , cette série convergera (plus généralement, elle convergera normalement si T est un opérateur borné pour la norme utilisée).

Un exemple important est le cas de l'application exponentielle, et en particulier de l'exponentielle de matrice. On obtient (prenant pour f la fonction exponentielle usuelle)

Il n'est pas vraiment nécessaire que la série de Taylor de f converge partout ; il est clair qu'il suffit que son rayon de convergence soit supérieur à , la norme d'opérateur de T. Bien que cela permet d'étendre la classe des fonctions f pour lesquelles on peut définir , cela est loin d'être suffisant dans tous les cas. Ainsi, on sait (voir logarithme d'une matrice) que toute matrice T non singulière possède un logarithme, c'est-à-dire une matrice S telle que . Ce logarithme ne peut pas être construit en général à l'aide d'une série entière, car la série est de rayon de convergence 1, et donc la série correspondante ne donnera pas , même si T + I est inversible, dès que C'est ce qui explique la nécessité d'un calcul fonctionnel plus général.

Le calcul fonctionnel et le spectre

On s'attend à ce qu'une condition nécessaire pour que ait un sens est que f soit définie sur le spectre de T. Ainsi, pour toute matrice diagonalisable T (c'est-à-dire telle que , où D est une matrice diagonale), on a une définition naturelle de donnée par , où est la matrice diagonale dont les éléments sont les images par f de ceux de D. Cette construction échoue si f n'est pas définie sur certains de ces éléments diagonaux, lesquels sont les valeurs propres de T.

D'autres indications tendent à confirmer cette idée. Ainsi, si , une définition raisonnable de serait . Cependant, cette expression n'a pas de sens si les inverses du membre de droite n'existent pas, et donc si 2 ou 5 sont des valeurs propres de T.

Plus généralement, pour un opérateur borné T, f devra être définie sur les valeurs spectrales de T, c'est-à-dire sur les nombres complexes pour lesquels l'opérateur n'a pas un inverse qui soit un opérateur continu ; toute valeur propre est une valeur spectrale, mais la réciproque n'est pas vraie en général.

Le calcul fonctionnel holomorphe pour un opérateur borné

Soit X un espace de Banach complexe, et L(X) la famille des opérateurs bornés sur X ; si est holomorphe sur un ouvert simplement connexe D du plan complexe, et si est une courbe de Jordan rectifiable dans D (c'est-à-dire une courbe fermée ne se recoupant pas), la formule intégrale de Cauchy dit que

pour tout z à l’intérieur de (c'est-à-dire tel que l'indice de z par rapport à soit égal à 1).

L'idée du calcul fonctionnel holomorphe est d'étendre cette formule à des fonctions prenant leurs valeurs dans l'espace L(X). On aurait donc la définition (purement formelle à ce stade) :

où est la résolvante de T en ζ.

Admettant que cette intégrale ait été définie, ce calcul fonctionnel implique les conditions nécessaires suivantes :

La formule de Cauchy s'appliquant à des fonctions holomorphes f, une notion convenable d'holomorphie doit être définie pour des fonctions prenant leurs valeurs dans l'espace de Banach L(X). L'application résolvante ζ ↦ (ζ - T)-1 n'étant pas définie sur le spectre de T, σ(T), la courbe de Jordan ne doit pas rencontrer σ(T). L'application résolvante étant holomorphe sur le complémentaire de σ(T), doit encercler au moins une partie de σ(T), pour obtenir un calcul fonctionnel non trivial Il devrait y avoir unicité du calcul fonctionnel, et donc f(T) doit être indépendant de .

Une définition précise du calcul fonctionnel holomorphe satisfaisant ces exigences, pour T ∈ L(X), est, comme précédemment, où f est une fonction holomorphe sur un ouvert D contenant σ(T), et est une collection de courbes de Jordan dans D telle que σ(T) soit à l'intérieur de , et que chaque soit orienté dans le sens positif. L'ensemble D dépend de f, et n'est pas nécessairement simplement connexe, ni même connexe, comme illustré ci-contre.

Les sous-sections suivantes précisent le sens de cette définition, en particulier celui de l'intégrale, et démontrent l'unicité de f(T). Intégration à valeurs dans un espace de Banach

Pour une fonction continue g définie sur un voisinage ouvert de et prenant ses valeurs dans L(X), l'intégrale de contour ∫Γg est définie de façon analogue au cas scalaire : on paramètre chaque γi ∈ par un intervalle réel [a, b], et l'intégrale est la limite des sommes de Riemann obtenues pour des partitions de plus en plus fines de [a, b], ces sommes convergeant au sens de la norme des opérateurs (g étant continue, il n'est pas nécessaire d'utiliser une intégrale plus générale, telle que l'intégrale de Bochner). On définit alors

ƒ est supposée être holomorphe (donc continue) sur un voisinage ouvert de ; il en est de même de l'application résolvante, comme ce sera démontré plus bas ; ainsi, l'intégrale est bien définie.

L'application résolvante

L'application s'appelle l’application résolvante de T. Elle est définie sur le complémentaire du spectre , appelé l’ensemble résolvant de T, et que l'on notera désormais . La théorie classique des fonctions holomorphes complexes repose sur les propriétés de l'intégrale ; le calcul fonctionnel holomorphe fait jouer un rôle analogue aux propriétés de l'intégrale de la résolvante ; celles-ci sont détaillées ci-dessous. Une formule pour la résolvante

Un calcul direct montre que, pour z1, z2 ∈ ρ(T), On en déduit que

Cette équation est appelée la première formule de la résolvante. Elle montre que (z1 − T)−1 et (z2 − T)−1 commutent ; on s'attend donc à ce que les opérateurs construits par le calcul fonctionnel holomorphe commutent également. Faisant tendre z2 vers z1, on voit que l'application résolvante est différentiable dans les complexes en tout z1 ∈ ρ(T) ; l'intégrale donnée précédemment est donc définie pour tous les opérateurs de L(X).

Holomorphie En fait, l'ensemble résolvant ρ(T) est un ouvert, et l'application résolvante y est non seulement différentiable, mais holomorphe, ou plus exactement analytique, c'est-à-dire développable en série entière ; cette propriété sera fréquemment utilisée par la suite. Pour la démontrer, on prend z1 ∈ ρ(T) et on remarque que, formellement, , ce qui amène à considérer la série

qui doit valoir (z2 − T)−1 si elle converge. Comme cette série converge dans L(X) si , on en déduit le résultat annoncé : l'application résolvante est développable en série entière dans un disque ouvert centré en z1.

Série de Neumann

Une autre expression de (z − T)−1 est également utile. On obtient comme dans la section précédente la série appelée série de Neumann, qui converge vers (z − T)−1 si

Compacité du spectre Les deux résultats précédents montrent que, pour un opérateur borné T, le spectre σ(T) est un fermé (puisque complémentaire d'un ouvert) borné (par la norme de T) du plan complexe, et donc un compact du plan. Ainsi, pour tout ouvert D tel que σ(T) ⊂ D, il existe un ensemble de courbes de Jordan lisses orientées positivement tel que σ(T) est à l'intérieur de et que le complémentaire de D est contenu dans l'extérieur de , ce qui justifie l'existence de l'intégrale définissant f(T).

Unicité de la définition On va à présent montrer qu'avec les notations précédentes, f (T) ne dépend pas du choix de l'ensemble de courbes de Jordan . Un résultat préliminaire

Pour une collection de courbes de Jordan et un point a du plan complexe, l'indice de a par rapport à est la somme des indices de a par rapport à chaque γi, ce que nous noterons n(a,Γ) = ∑i n(a,γi). Le théorème suivant est dû à Cauchy :

L'analogue vectoriel de ce résultat, lorsque g prend ses valeurs dans L(X) et est holomorphe, se démontre en utilisant l'espace dual L(X)* de L(X), et en se ramenant au cas scalaire. En effet, considérons l'intégrale J=∫Γ g ∈ L(X). Si on peut montrer que, pour tout φ ∈ L(X)*, φ (∫Γ g) = 0, il en résultera que ∫Γ g = 0. φ étant borné, et l'intégrale étant normalement convergente, on a

Par composition, g étant supposée holomorphe, il en est de même de φ(g) : G ⊂ C → C. On peut donc lui appliquer le théorème de Cauchy (scalaire), obtenant

Démonstration de l'unicité

L'unicité de l'intégrale est une conséquence facile de ce qui précède. Soit D un ouvert contenant σ(T), Γ = {γi} et Ω = {ωj} deux ensembles finis de courbes de Jordan satisfaisant les hypothèses précédentes ; nous voulons montrer que

Notant Ω', l'ensemble obtenu à partir des courbes de Ω en renversant leur orientation ; on a

Les deux ensembles Γ ∪ Ω' et σ(T) sont compacts ; il existe donc un ouvert U contenant Γ ∪ Ω' tel que σ(T) soit contenu dans le complémentaire de U. Les points a du complémentaire de U ont pour indice n(a,Γ ∪ Ω') = 0 et la fonction est holomorphe sur U. La forme vectorielle du théorème de Cauchy donne donc , c'est-à-dire

ce qui montre l'unicité.

Il en résulte que si f1 et f2 sont deux fonctions holomorphes définies sur des voisinages D1 et D2 de σ(T), égales sur un ouvert contenant σ(T), alors f1(T) = f2(T). De plus, même si D1 est différent de D2, les opérateurs (f1 + f2) (T) et (f1·f2)(T) sont bien définis.

L'hypothèse d'holomorphie Les résultats précédents n'ont pas encore utilisé pleinement l'hypothèse d'holomorphie de f sur un voisinage ouvert de σ(T). La convergence de l'intégrale demande seulement la continuité de f ; l'unicité est obtenue en supposant f holomorphe sur un voisinage de Γ ∪ Ω' ne contenant pas σ(T). La condition complète ne sera utilisée que pour démontrer que le calcul fonctionnel est un homomorphisme.

Propriétés Le cas polynomial

La linéarité de l'application provient de la convergence de l'intégrale, et de ce que les opérations linéaires (somme et produit par un scalaire) d'un espace de Banach sont continues.

Pour montrer qu'on retrouve le calcul fonctionnel polynomial lorsque f(z) = ∑0 ≤ i ≤ m ai zi est un polynôme, il suffit de le montrer pour f(z) =zk (avec k ≥ 0), c'est-à-dire de montrer que pour un contour convenable entourant σ(T). Prenant pour un cercle de rayon plus grand que la norme de T, et représentant l'application résolvante par la série on obtient ; échangeant série et intégrale (la convergence étant uniforme), on trouve effectivement (où δ est le symbole de Kronecker).

Homomorphisme

Pour des fonctions f1 et f2 satisfaisant l'hypothèse d'holomorphie, on a la propriété d'homomorphisme suivante :

La démonstration utilise la première formule de la résolvante. On commence par calculer directement

en choisissant Γ1 situé à l’intérieur de Γ2. Cette expression est égale à