Non-convexity of level sets for solutions to $k$-Hessian equations in exterior domains

1. Problématique et Contexte

L'article s'intéresse à la quasi-convexité des solutions du problème de Dirichlet extérieur pour les équations de Hessian $k$-ième ($k$-Hessian equations). Le problème est formulé comme suit :
$$\begin{cases} S_k(D^2u) = 1 & \text{dans } \mathbb{R}^n \setminus \overline{\Omega}_0, \\ u = 0 & \text{sur } \partial\Omega_0, \end{cases}$$
où $\Omega_0$ est un domaine borné strictement convexe dans $\mathbb{R}^n$ ($n \ge 3$), et $S_k(D^2u)$ désigne la somme des mineurs principaux d'ordre $k$ des valeurs propres du Hessien de $u$.

Les auteurs imposent une croissance quadratique à l'infini :
$$\lim_{|x|\to\infty} \left( u(x) - \left(\frac{1}{2}x^T A x + b \cdot x + c\right) \right) = 0,$$
où $A$ est une matrice symétrique définie positive avec $S_k(A)=1$.

La question centrale (Question 1.1) : Pour $1 \le k \le n-1$, les solutions $k$-convexes de ce problème héritent-elles globalement de la convexité du domaine extérieur ? Autrement dit, les solutions sont-elles nécessairement quasi-convexes (c'est-à-dire que leurs ensembles de sous-niveau sont convexes) ?

Dans le cas particulier $k=n$ (équation de Monge-Ampère), la solution est localement convexe et donc quasi-convexe. Pour $k=1$ (équation de Laplace), des résultats classiques (Lewis, Kawohl) établissent la quasi-convexité (ou quasi-concavité selon la normalisation) pour des fonctions harmoniques décroissant vers zéro. Cependant, pour les cas intermédiaires $1 < k < n$, la question restait ouverte.

2. Méthodologie

Les auteurs adoptent une approche constructive pour répondre négativement à la question, en s'appuyant sur une stratégie de perturbation et d'analyse asymptotique.

A. Construction de Contre-exemples (Théorèmes 1.3 et 1.4)

Pour prouver la non-quasi-convexité, les auteurs construisent des solutions explicites qui échouent à être quasi-convexes.

1. Approximation par des anneaux convexes : Ils considèrent d'abord un problème approché dans un anneau convexe borné non concentrique $\Omega_R^\varepsilon = E_R(0) \setminus \overline{B_\varepsilon(x_0)}$, où $B_\varepsilon(x_0)$ est une petite boule centrée en $x_0$ (déplacée de l'origine) et $E_R(0)$ est un ellipsoïde de grand rayon $R$.
2. Estimations uniformes : Ils établissent des estimations $C^0$, $C^1$ et $C^2$ uniformes pour les solutions $u_{\varepsilon, R}$ de ce problème approché, indépendamment de $R$ et $\varepsilon$. Cela repose sur la construction de sous-solutions et de sur-solutions appropriées utilisant des fonctions symétriques généralisées.
3. Limites successives :
   • Ils font tendre $R \to \infty$ pour obtenir une solution $u_\varepsilon$ dans l'extérieur de la boule $B_\varepsilon(x_0)$.
   • Ils font ensuite tendre $\varepsilon \to 0$. Pour gérer la singularité en $x_0$, ils utilisent la théorie des mesures de Hessian ($k$-Hessian measures) développée par Guan et d'autres. Ils montrent que la solution limite $\tilde{u}_\varepsilon$ converge vers le polynôme quadratique $\psi(x) = \frac{1}{2}x^T A x + c$ au sens des mesures de Hessian.
4. Argument de contradiction : En supposant que la solution est quasi-convexe pour tout $\varepsilon$, ils démontrent que cela impliquerait une inégalité de convexité sur le polynôme limite $\psi$ qui contredit la position du centre $x_0$ par rapport à l'origine (puisque $\psi(x_0) > \psi(0)$ alors que la convexité des sous-niveaux imposerait $\psi(x_0) \le \psi(0)$).

B. Nouvelle preuve pour le cas Laplacien (Théorème 1.6)

Pour le cas $k=1$ (équation de Laplace), les auteurs revisitent le résultat classique de quasi-convexité (ou quasi-concavité) des fonctions harmoniques dans les domaines extérieurs.

• Approche microscopique : Au lieu d'utiliser des arguments macroscopiques (comme ceux de Lewis), ils utilisent une méthode de déformation continue.
• Courbure de Gauss : Ils analysent le comportement asymptotique de la courbure de Gauss $K(x)$ des ensembles de niveau à l'infini, montrant que $K(x) \sim |x|^{1-n}$.
• Principe du maximum : En utilisant un résultat de Ma et Zhang sur la sur-harmonicité de certaines fonctions de courbure, ils démontrent que la courbure de Gauss ne peut jamais s'annuler, garantissant ainsi la stricte convexité des ensembles de niveau.

3. Résultats Principaux

Théorème 1.3 (Cas $2 \le k \le n/2$)

Pour toute matrice $A \in \mathcal{A}_k$ et tout vecteur $b \in \mathbb{R}^n$, il existe un domaine strictement convexe $\Omega_0$ et une constante $c^*$ tels que pour tout $c \ge c^*$, la solution unique du problème extérieur n'est pas quasi-convexe.

• Signification : La convexité des sous-niveaux n'est pas préservée globalement pour les équations de Hessian non linéaires dans les domaines extérieurs, même si le domaine de bord et la croissance à l'infini sont convexes.

Théorème 1.4 (Cas Laplacien $k=1$)

Sous la condition supplémentaire $\lambda_{\max}(A) < 1/2$, il existe également des contre-exemples de solutions non quasi-convexes pour l'équation de Laplace dans des domaines extérieurs.

• Nuance importante : Ce résultat contraste avec les résultats classiques de quasi-convexité pour les fonctions harmoniques décroissant vers zéro. Ici, la croissance quadratique spécifique (avec une matrice $A$ "trop grande" ou mal orientée par rapport à la géométrie du trou) brise la quasi-convexité.

Théorème 1.6 (Preuve microscopique pour $k=1$)

Pour le problème de Dirichlet classique avec $u=1$ sur le bord et $u \to 0$ à l'infini, la solution est quasi-concave (les ensembles de sur-niveau sont strictement convexes). Les auteurs fournissent une preuve nouvelle basée sur l'analyse de la courbure de Gauss et la déformation du domaine.

4. Contributions Clés

1. Réponse négative à une question ouverte : L'article établit que la propriété de quasi-convexité, souvent observée dans les anneaux convexes bornés ou pour l'équation de Monge-Ampère, n'est pas une propriété universelle pour les équations de Hessian $k$ dans les domaines extérieurs.
2. Construction de contre-exemples : La méthode de construction via des boules excentrées ($x_0 \neq 0$) et l'utilisation de la théorie des mesures de Hessian pour traiter la limite singulière est une avancée technique significative.
3. Sensibilité géométrique : Les résultats montrent que la quasi-convexité est extrêmement sensible aux petites déformations du domaine et aux conditions aux limites à l'infini. Une légère excentricité du trou par rapport à la croissance quadratique suffit à détruire la convexité globale.
4. Nouvelle preuve pour le Laplacien : L'approche microscopique utilisant la courbure de Gauss offre une perspective alternative et puissante pour étudier la convexité des niveaux, applicable potentiellement à d'autres équations non linéaires.

5. Signification et Impact

Ce travail remet en cause l'intuition selon laquelle la convexité des données (domaine et comportement à l'infini) entraîne automatiquement la convexité des solutions pour les équations de type Hessian. Il met en lumière les subtilités de la géométrie des solutions dans les domaines non bornés.

Les résultats ont des implications pour la théorie des équations aux dérivées partielles non linéaires, en particulier pour la compréhension des propriétés géométriques des solutions (convexité des niveaux) qui sont cruciales en physique mathématique et en théorie du potentiel. La distinction faite entre le cas $k=1$ (Laplacien) avec décroissance et le cas avec croissance quadratique souligne l'importance critique des conditions asymptotiques dans l'analyse de la convexité.