CONVEXITÉ Fonctions convexes

Cas général

Dans ce chapitre, E désigne l'espace Rⁿ ou, plus généralement, un espace vectoriel topologique séparé localement convexe sur R ; dans ce dernier cas, le dual topologique E* de E sera muni de la topologie faible τ_s(E) donnée par E et E sera muni de la topologie faible τ_s(E*) donnée par E*.

Il ne faudrait pas croire que l'on peut, comme dans le cas des fonctions convexes de R dans R, conclure à la continuité des fonctions convexes de E dans R− ; on dispose, en fait, du résultat suivant : Soit f une fonction convexe prenant une valeur finie en un point x de E ; s'il existe un voisinage de x sur lequel f est majorée par une constante finie, elle est continue au point x.

Ce résultat permet, dans le cas particulier où E = Rⁿ, d'établir que : Toute fonction convexe propre sur Rⁿ est continue sur l'intérieur de son domaine effectif ; en particulier, si f est à valeurs dans R, alors dom ( f ) = Rⁿ et f est continue sur Rⁿ.

Rappelons qu'une fonction f de E dans R− est dite semi-continue inférieurement si, pour tout réel a, l'ensemble des éléments x de E tels que f (x) ≤ a est fermé ; il est équivalent de dire que l'épigraphe de f est fermé, ou encore que f est enveloppe supérieure d'une famille de fonctions continues, c'est-à-dire que :

L'importance des hyperplans d'appui dans l'étude des ensembles convexes nous amène à introduire pour une fonction convexe f de E dans R− la famille A_f des fonctions affines continues qui minorent f. Si on note Γ(E) l'ensemble des fonctions h de E dans R− qui sont enveloppe supérieure d'une famille de fonctions affines continues, le théorème de séparation (cf. chap. 4 de l'article convexité – Ensembles convexes) permet de montrer que : L'ensemble h est élément de Γ(E) si et seulement si h est une fonction convexe propre semi-continue inférieurement ou vaut identiquement − ∞.

Pour une fonction f de E dans R−, la plus grande fonction g de Γ(E) qui minore f est aussi l'enveloppe supérieure des fonctions affines continues qui minorent f ; dans le cas où f est une fonction convexe et où A_f est non vide, g est aussi la plus grande fonction semi-continue inférieurement qui minore f ; si bien que, lorsque f est de plus semi-continue inférieurement, f = g.

Fonction conjuguée d'une fonction convexe

L'inégalité d'Young du chapitre 2 s'écrit xy − g(y) ≤ f (x), ce que l'on peut interpréter en disant que la fonction affine l(x) = xy − g(y) est une minorante de f ; la fonction g(y) est choisie de telle sorte que l(x) soit la plus grande minorante affine de f de coefficient directeur y.

Si, maintenant, f est une fonction convexe de E dans R−, de la même façon, pour tout x*∈ E*, introduisons la fonction affine l(x) = x*(x) − α et cherchons à déterminer si possible α, de manière à obtenir la plus grande minorante affine de f de forme linéaire associée x* ; cela nous conduit à introduire :

Si  f *(x*)  ∈  R,  alors  la  fonction l(x) = x*(x) − f*(x*) est effectivement la plus grande minorante affine continue de forme linéaire associée x*.

La formule (10) généralise la transformation de Legendre (7) du chapitre 2 et permet de définir sur E* une fonction f* convexe qui est dans la classe Γ(E*) ; la fonction f* est, par définition, la fonction conjuguée de f. Remarquons que si la fonction f (x) est finie, de la formule (10) on tire l'inégalité de Young :

qui généralise l'inégalité (6) du chapitre 2.

Recommençons maintenant le procédé en posant, pour tout x ∈ E,

f ** est alors le plus grand élément de Γ(E) qui minore f ; donc, si f ∈ Γ(E), alors f = f **.

Sous-différentiel

Soit f une fonction convexe de E dans R−. Supposons qu'il existe un élément l de A_f (c'est-à-dire une minorante affine continue de f ) tel que l(x₀) = f (x₀) ; on dit alors que f est sous-différentiable en x₀ ; l'application linéaire continue x* associée à l'application affine l est un sous-gradient de f en x₀ ; l'ensemble des sous-gradients de f en x₀ est appelé le sous-différentiel en x₀ de f et est noté ∂f(x₀).

Remarquons que, dans ces conditions, on a :

l' hyperplan H graphe dans E × R de l est un hyperplan d'appui du convexe épi( f ). Comme on a vu, par ailleurs, que la plus grande minorante affine continue de f ayant x* pour application linéaire associée est donnée par x*(z) − f *(x*), on en conclut que f *(x*) = x*(x₀) − f (x₀) ; en fait, cette égalité est une condition nécessaire et suffisante pour que x* ∈ ∂f (x₀).

Si f est dans Γ(E) (cas où f = f **), les propositions suivantes sont équivalentes :

Le sous-différentiel en x₀ d'une fonction convexe f est un sous-ensemble convexe fermé de E*.

Le résultat suivant donne une condition intéressante de sous-différentiabilité d'une fonction convexe : Si f est finie et continue en un point x₀, f est sous-différentiable en tout point intérieur de dom( f ) et en particulier en x₀. Dans le cas où f est Gâteaux-différentiable en x₀, c'est-à-dire s'il existe un élément f ′(x₀) de E* tel que, pour tout y de E, on ait :

la fonction f est sous-différentiable en x₀ et f ′(x₀) est l'unique sous-gradient de f en x₀. Réciproquement si, en x₀, f est continue, sous-différentiable et ne possède qu'un seul sous-gradient x*, alors f est Gâteaux-différentiable en x₀ et f ′(x₀) = x*. Le sous-différentiel permet de remplacer la différentielle et d'exprimer notamment des conditions d'optimalité dans des problèmes de contrôle.

Donnons l'exemple de la fonction F, définie sur L²(Ω), où Ω est un ouvert de Rⁿ suffisamment régulier, par :

w₀^1,2(Ω) représente ici le sous-espace de l' espace de Sobolev W¹,²(Ω) (cf. espaces vectoriels normés) constitué des u dont la restriction au bord de a est nulle. F est alors une fonction convexe semi-continue inférieurement, sous-différentiable en chaque point de W₀^1,2(Ω) ∩ W²,²(Ω) ; pour chaque point u de ce sous-espace, le sous-différentiel ∂F(u) est constitué du seul élément :

c'est-à-dire que, pour v ∈ L²(Ω), on a :

Notons encore que, si f est une fonction convexe propre de Γ(E) pour tous les x₁, x₂, x*₁, x*₂ vérifiant x*₁ ∈ ∂ f (x₁) et x*₂∈ ∂f (x₂), on a :

On dit que le sous-différentiel est un opérateur monotone ; il est même maximal monotone en ce sens que, pour tout couple (x, x*) tel que x* ∈ ∂f (x), il existe un couple (y, y*) tel que :

La théorie des opérateurs maximaux monotones, qui généralise l'analyse convexe, est très utile pour l'étude des équations d'évolution non linéaires de type parabolique ou hyperbolique.