En mathématiques, une fonction convexe-concave est une fonction définie sur un produit d'espaces vectorielsréels, qui est convexe par rapport à la première variable (quelle que soit la seconde variable) et concave par rapport à la seconde (quelle que soit la première). Une fonction concave-convexe est une fonction dont l'opposée est convexe-concave. On rassemble parfois ces deux types de fonctions sous le vocable de fonction de point-selle, qui est donc une notion moins précise (on ne dit pas si la convexité a lieu par rapport à la première ou la seconde variable) et qui prête à confusion (ces fonctions n'ont pas nécessairement de point-selle).
Les fonctions convexes-concaves apparaissent en optimisation (le lagrangien en est un exemple), dans les problèmes d'équilibre (théorie des jeux), etc.
Une fonction convexe-concave est dite propre s'il existe un point tel que ne prend pas la valeur et ne prend pas la valeur (donc ) ; le domaine effectif de est l'ensemble des points vérifiant cette propriété ; on le note .
Fonction convexe-concave fermée
La définition d'une fonction convexe-concave fermée ne doit pas être confondue avec celle d'une fonction convexe fermée. Si la fermeture d'une fonction (convexe) est équivalente à sa semi-continuité inférieure, la fermeture d'une fonction convexe-concave ne l'est pas. Cette dernière notion est aussi plus générale (i.e., moins forte) que la semi-continuité inférieure par rapport à la première variable jointe à la semi-continuité supérieure par rapport à la seconde variable. Elle donne en fait des conditions assez générales assurant la monotonie maximale d'un « opérateur dérivé » associé. On s'y prend de la manière suivante[1].
Fonction convexe-concave fermée — Soit une fonction convexe-concave.
On note
la fonction telle que, pour tout , est la fermeture de la fonction convexe . De même, on note
la fonction telle que, pour tout , est la fermeture de la fonction convexe .
On dit que est équivalente à la fonction convexe-concave si
C'est une relation d'équivalence.
On dit que est fermée, si et sont équivalentes à , ce qui revient à dire que
On note le sous-différentiel de la fonction convexe en , le sous-différentiel de la fonction convexe en et le domaine de l'opérateur multivoque.
Monotonie — Soient et deux espaces vectoriels topologiques localement convexes séparés et une fonction convexe-concave propre. Alors, l'opérateur multivoque défini en par
L'opérateur introduit dans le résultat de monotonie ci-dessus est appelé l'opérateur monotone associé à. On vérifie aisément que
En particulier
Monotonie maximale
Dans cette section, on examine la monotonie maximale de l'opérateur monotone associé à une fonction convexe-concave introduit dans la section précédente. Cette propriété joue un rôle essentiel dans le fait que l'inclusion puisse avoir une solution , ainsi que dans la convergence des algorithmes calculant de telle solution ; elle est en quelque sorte le pendant de la semi-continuité inférieure des fonctions en optimisation.
On commence par un résultat pour les fonctions convexes-concaves ne prenant que des valeurs finies[3].
Monotonie maximale I (fonction à valeurs finies) — Soient et deux espaces vectoriels topologiques localement convexes séparés et une fonction convexe-concave prenant des valeurs finies et telle que
pour tout , est continue,
pour tout , est continue.
Alors, l'opérateur monotone associé à est monotone maximal. De plus, pour tout , est un convexe non vide faible- compact de .
Sachant qu'une fonction convexe ne prenant que des valeurs finies et définie sur un espace vectoriel de dimension finie est nécessairement continue, on obtient tout de suite le corollaire suivant[4].
Corollaire (dimension finie) — Soient et deux espaces vectoriels de dimension finies et une fonction convexe-concave prenant des valeurs finies. Alors, l'opérateur monotone associé à est monotone maximal et, pour tout , est un convexe non vide compact de .
Le résultat de monotonie maximale ci-dessous généralise le précédent en permettant la fonction convexe-concave de prendre des valeurs infinies. Cependant cette fonction doit être fermée et les espaces doivent être des espaces de Banach (l'un étant réflexif)[5].
Monotonie maximale II (fonction avec des valeurs infinies) — Soient et deux espaces de Banach dont l'un au moins est réflexif et une fonction convexe-concave propre fermée. Alors, l'opérateur monotone associé à est monotone maximal.
Si est une fonction convexe-concave propre fermée, n'est pas nécessairement semi-continue inférieurement et n'est pas nécessairement semi-continue supérieurement[1], mais si l'on fait ces hypothèses de semi-continuité quels que soient et , alors est fermée et on peut appliquer le théorème.
Corollaire (fonction sci-scs) — Soient et deux espaces de Banach dont l'un au moins est réflexif et une fonction convexe-concave propre telle que
pour tout , est semi-continue inférieurement,
pour tout , est semi-continue supérieurement.
Alors, est fermée et l'opérateur monotone associé est monotone maximal.
On peut encore particulariser le résultat donné dans le corollaire précédent au cas où la fonction convexe-concave est obtenue par restriction à un produit de convexes et d'une fonction convexe-concave ne prenant que des valeurs finies.
Corollaire (restriction d'une fonction à valeurs finies) — Soient et deux espaces de Banach dont l'un au moins est réflexif et une fonction convexe-concave propre définie en par
où et sont deux convexes fermés non vides et est une fonction convexe-concave ne prenant que des valeurs finies et telle que, quels que soient , est semi-continue inférieurement et est semi-continue supérieurement. Alors, est une fonction convexe-concave propre et l'opérateur monotone associé est monotone maximal.