En mathématiques, et plus précisément en analyse convexe, le sous-différentiel est un concept permettant de décrire la variation locale d'une fonction convexe (à valeurs réelles donc) non nécessairement différentiable dans un sens classique, celui auquel on attache aujourd'hui le nom de Fréchet. Au lieu d'être la pente de l'application linéaire tangente (c'est-à-dire, la dérivée) au point considéré, qui n'existe pas nécessairement, le sous-différentiel d'une fonction convexe est l'ensemble des pentes de toutes les minorantes affines de la fonction, qui sont exactes en ce point, c'est-à-dire qui ont en ce point la même valeur que la fonction convexe qu'elles minorent. Dans cette description, le mot pente peut être entendu comme un élément de l'espace dual. La convexité de la fonction assure qu'on peut lui trouver des minorantes affines exactes en presque tout point de son domaine ; on met donc à profit cette propriété pour définir le sous-différentiel. Si l'on peut trouver une minorante affine exacte en un point donné, on dit que la fonction convexe est sous-différentiable en ce point.
On sait que la notion de dérivée est fondamentale en analyse car elle permet d'approcher localement des fonctions par des modèles linéaires, plus simples à étudier. Ces modèles fournissent des renseignements sur les fonctions qu'ils approchent, si bien que de nombreuses questions d'analyse passent par l'étude des fonctions linéarisées (stabilité, inversibilité locale, etc). On rencontre beaucoup de fonctions convexes qui ne sont pas différentiables au sens classique, en particulier lorsque celles-ci résultent de constructions qui n'ont rien pour assurer la différentiabilité des fonctions qu'elles produisent. Il en est ainsi de la fonction duale associée à un problème d'optimisation sous contraintes, pour en citer un exemple emblématique. Pour ces fonctions convexes non lisses, le sous-différentiel joue donc un rôle similaire à celui de la dérivée des fonctions plus régulières.
La notion de sous-différentiel connaît diverses extensions aux fonctions non nécessairement convexes, par exemple aux fonctions localement lipschitziennesVoir Clarke (1983)..
Connaissances supposées : l'algèbre linéaire, le calcul différentiel (notamment les propriétés de la dérivée directionnelle au sens de Dini pour les fonctions convexes prenant des valeurs infinies), les bases de l'analyse convexe (notamment les principales notions attachées aux ensembles et aux fonctions convexes, mais surtout la notion de fonction conjuguée).
Fonction d'une seule variable
Définition
De manière rigoureuse, une sous-dérivée d'une fonction convexe en un point de l'intervalle ouvert est un nombre réel tel que
pour tout dans . On peut montrer que si est dans l'intérieur de , l'ensemble des sous-dérivées en est un intervalle fermé non vide, donc de la forme , avec des bornes et données par
qui sont finies et qui vérifient .
L'ensemble de toutes les sous-dérivées est appelé le sous-différentiel de la fonction en .
Exemples
Considérons la fonction f(x)=|x| qui est convexe. Alors, le sous-différentiel à l'origine est l'intervalle [−1, 1]. Le sous-différentiel en n'importe quel point x0<0 est le singleton {−1} et le sous-différentiel en n'importe quel point x0>0 est le singleton {1}.
Propriétés
Une fonction convexe f:I→R est différentiable en x0 si et seulement si le sous-différentiel ne contient qu'un seul point, qui est alors la dérivée de f en x0.
Un point x0 est un minimum local de f si et seulement si zéro est contenu dans le sous-différentiel, c'est-à-dire, dans la figure ci-dessus, on peut tracer une droite horizontale "sous-tangente" au graphe de f en (x0, f(x0)). La dernière propriété est une généralisation du fait que la dérivée d'une fonction dérivable en un minimum local est nulle.
Fonction définie sur un espace euclidien
On suppose dans cette section que est un espace euclidien (de dimension finie donc) dont le produit scalaire est noté et la norme associée . On note par ailleurs la droite réelle achevée, le domaine d'une fonction , qui peut donc prendre la valeur sur son domaine, l'ensemble des fonctions qui sont convexes (c'est-à-dire, leur épigraphe est convexe) et propres (c'est-à-dire, elles ne prennent pas la valeur et ne sont pas identiquement égales à ), la partie de formée des fonctions qui sont aussi fermées (c'est-à-dire, leur épigraphe est fermé), l'intérieur et l'intérieur relatif d'un convexe .
Définition
La notion de sous-différentiel peut être généralisée à une fonction convexe de plusieurs variables réelles, pouvant également prendre la valeur . Cette dernière extension trouve son utilité, par exemple en optimisation, lorsque la fonction résulte d'une construction qui n'assure pas a priori la finitude des valeurs qu'elle prend. Comme pour la notion de gradient, on a besoin que l'espace sur lequel est définie la fonction soit muni d'un produit scalaire si l'on veut construire des objets dans cet espace et non dans son dual. Les concepts seront mieux révélés en travaillant sur un espace euclidien abstrait, qui pourra, si on le souhaite, être vu comme muni du produit scalaire euclidien.
La lettre renvoie à slope (pente) ou sous-gradient (si l'on préfère). La propriété 1 exprime le fait que la fonction est une minorante linéaire de la fonction dérivée directionnelle (que l'on sait toujours exister lorsque est convexe), exacte en . La propriété 2 exprime le fait que la fonction est une minorante affine de exacte en . Les propriétés 4 et 5 expriment la même chose que la propriété 2 en utilisant la fonction conjuguée de .
Propriétés
Optimalité
La propriété 2 de la définition du sous-différentiel permet d'obtenir immédiatement une expression simple de l'optimalité d'un point.
Cette condition nécessaire et suffisante d'optimalité du premier ordre (ainsi qualifiée parce qu'elle ne fait intervenir que les « dérivées » premières de la fonction) est typique des problèmes d'optimisation convexes (voir la section Conditions du premier ordre sans contrainte de l'article Conditions d'optimalité).
Trouver les minimiseurs d'une fonction convexe propre revient donc à trouver les « zéros » de son sous-différentiel. Ce résultat est à rapprocher de celui selon lequel les minimiseurs d'une fonction convexe différentiable sont les points qui annulent son gradient. Ce résultat est plus riche qu'il ne paraît à première vue. En effet, du fait que la fonction peut prendre la valeur , il traite également de la minimisation d'une fonction convexe sous contraintes convexes (l'ensemble admissible étant le domaine de la fonction).
Lorsque est polyédrique, on a les caractérisations supplémentaires suivantesLa caractérisation de l'intériorité relative est peut-être due à Gilbert (2015). La caractérisation de l'unicité peut s'obtenir à partir de résultats plus généraux de Burke et Ferris (1993)., liées au concept de minimum saillant.
La polyédricité de la fonction joue un rôle majeur dans les caractérisations précédentes. Ainsi chacune des implications de la première équivalence peut être fausse pour une fonction non polyédrique : l'implication "" est fausse pour la fonction en et l'implication "" est fausse pour la fonction en . Pour la seconde équivalence, l'implication "" est fausse pour la fonction en , mais l'implication "" reste vraie même si n'est pas polyédrique.
Règle de bascule
Les sous-différentiels de et de sa conjuguée jouissent d'une belle règle de réciprocité, parfois appelée règle de basculeJ.-B. Hiriart-Urruty (2013). Bases, outils et principes pour l’analyse variationnelle. Mathématiques et Applications 70. Springer Verlag..
La réciproque n'a pas lieu au point 1, pour la fonction ci-dessous
puisque l'on a , alors que .
Sous-différentiabilité
Rappelons que l'on dit que est sous-différentiable en si . Affirmer qu'un ensemble est non vide est une propriété forte qui, dans certains cas, revient à montrer qu'un certain problème a une solution.
La propriété 1 définissant un sous-gradient , à savoir
montre clairement que ne peut être sous-différentiable en si la dérivée directionnelle prend en une direction la valeur puisque le membre de droite de l'inégalité ci-dessus est toujours fini. La réciproque de cette observation est le sujet de la proposition qui suit. Une telle situation se présente pour la fonction convexe définie par
Cette fonction n'est pas sous-différentiable en zéro, parce que . Évidemment, si , alors , mais ce n'est pas la valeur de la dérivée directionnelle qui empêche d'être sous-différentiable en . C'est ce que montre la fonction indicatrice de l'intervalle , dont le sous-différentiel en zéro est l'intervalle .
Propriétés géométriques et topologiques
On note ci-dessous l'enveloppe affine d'une partie .
Si ne prend que des valeurs réelles, alors et son sous-différentiel est un ensemble non vide, convexe et compact (par les points 2 et 4).
Formule du max
Le sous-différentiel peut être défini en utilisant la dérivée directionnelle (propriété 1 de la définition). La proposition suivante montre que l'on peut retrouver les dérivées directionnelles à partir du sous-différentiel : est la fonction d'appui de .
Le résultat précédent ne tient plus si est sur la frontière relative du domaine de . Voici un contre-exemple : est l'indicatrice de la boule-unité fermée de , pour la norme euclidienne, et . Alors et si :
Dès lors, la fonction n'est pas fermée et ne peut donc être la fonction d'appui d'un ensemble, en particulier elle n'est pas la fonction d'appui du sous-différentiel. D'ailleurs, ce dernier s'écrit et
est l'enveloppe convexe fermée de . Cette propriété est tout à fait générale pour les fonctions de .
La multifonction sous-différentiel
On peut voir comme une multifonction ou fonction multivoque, qui à un élément de fait correspondre une partie de , c'est-à-dire un élément de l'ensemble des parties de . On note
cette correspondance.
Rappelons quelques notions d'analyse multifonctionnelle. Soit une multifonction. On définit le domaine, l'image et le graphe de respectivement par
On notera bien que l'on a choisi de définir le graphe comme une partie de et pas de . La multifonction réciproque de la multifonction est définie en par
Lorsque est un espace euclidien dont le produit scalaire est noté et que , on dit que est monotone si
On dit que est monotone maximale si est monotone et si son graphe n'est pas strictement contenu dans le graphe d'un opérateur monotone. On vérifie facilement que cette dernière propriété s'écrit aussi
Dans le résultat ci-dessous, on note la conjuguée de .
On rappelle que est fortement convexe, de module , si pour tout et et pour tout , on a
Rappelons aussi qu'une multifonction est dit fortement monotone, de module , si
La forte convexité de peut s'exprimer par la forte monotonie de Proposition 6 chez Rockafellar (1976)..
Lien avec la différentiabilité
Rappelons les trois notions de différentiabilité d'une fonction dont il est question dans cette section. On suppose que est finie au point où sont prises ces dérivées. On dit que a une dérivée partielle en suivant un vecteur si la fonction est différentiable en . On dit que est Gâteaux-différentiable en si la dérivée directionnelle existe pour tout et si est linéaire. On dit que est Fréchet-différentiable en s'il existe un vecteur tel queDans ce cas, le vecteur est appelé le gradient de en . On le noteD'après la définition, si est Fréchet-différentiable en , prend des valeurs finies dans un voisinage de .
Ces trois propriétés sont de plus en plus fortes (la Fréchet-différentiabilité implique la Gâteaux-différentiabilité, qui implique elle-même la différentiabilité partielle). Pour une fonction convexe, les trois notions sont équivalentesProposition IV.4.2.1 chez Hiriart-Urruty et Lemaréchal (2001)., si bien qu'il n'y a alors pas lieu de faire de distinction entre celles-ci.