Résumé Technique : Une méthode d'apprentissage profond à boucle unique pour le contrôle optimal de problèmes d'obstacle

1. Énoncé du problème

L'article traite du contrôle optimal de problèmes d'obstacle, une classe de problèmes d'optimisation non lisses, non linéaires et à structure hiérarchique. Ces problèmes surviennent dans diverses applications physiques et d'ingénierie, telles que la torsion élasto-plastique, la déformation de membranes et la tarification des options américaines.

Mathématiquement, le problème est formulé comme une tâche d'optimisation bi-niveau :

• Niveau supérieur : Minimiser une fonctionnelle d'objectif $J(y, u)$ (suivant généralement une cible d'état $y_d$ avec une régularisation du contrôle) par rapport au contrôle $u$.
• Niveau inférieur : L'état $y$ n'est pas une variable indépendante mais est défini implicitement comme le minimiseur unique d'une fonctionnelle d'énergie $E(y', u)$ sous la contrainte d'obstacle $y' \geq \psi$.

Les défis fondamentaux incluent :

1. Non-lissé et non-différentiabilité : L'opérateur de passage du contrôle à l'état n'est généralement pas de classe Gâteaux-différentiable en raison de la contrainte d'obstacle, ce qui complique l'optimisation basée sur le gradient.
2. Frontière libre : La solution implique une frontière libre (l'interface entre les ensembles de contact et de non-contact) qui peut ne pas s'aligner sur les grilles de maillage des méthodes classiques, entraînant des erreurs significatives.
3. Scalabilité computationnelle : Les méthodes numériques classiques (par exemple, les méthodes d'éléments finis, les méthodes de différences finies) reposent sur des discrétisations de maillage. Résoudre de manière répétée ces systèmes algébriques de grande taille et mal conditionnés est coûteux en calcul et peine à passer à l'échelle pour des configurations de haute dimension ou des géométries complexes.
4. Limites des approches existantes de Deep Learning : Les approches standard de deep learning pour le contrôle de PDE (équations aux dérivées partielles) réduisent souvent la structure bi-niveau en un problème à un seul niveau en pondérant les objectifs. Les auteurs soutiennent que cela échoue à imposer la dépendance hiérarchique stricte de l'état vis-à-vis du contrôle, menant à des solutions physiquement incohérentes.

2. Méthodologie

La solution proposée est un cadre d'apprentissage profond bi-niveau à boucle unique qui évite la discrétisation par maillage et préserve la structure intrinsèque du problème.

2.1. Réseaux de neurones à intégration de contraintes

Au lieu d'utiliser des termes de pénalité ou l'identification de l'ensemble actif, les auteurs conçoivent des réseaux de neurones (NN) qui imposent strictement les contraintes par construction :

• Approximation de l'état ($\hat{y}$) : La sortie du réseau est transformée (par exemple, via des opérations de mise au carré ou ReLU combinées à une fonction de bord lisse $m(x)$) pour garantir que $\hat{y} \geq \psi$ et $\hat{y} = 0$ sur la frontière $\partial\Omega$.
• Approximation du contrôle ($\hat{u}$) : De même, le réseau de contrôle est transformé pour satisfaire strictement les contraintes de boîte $u_a \leq \hat{u} \leq u_b$.

2.2. Formulation bi-niveau stochastique

Le problème continu est approximé par un problème d'optimisation bi-niveau stochastique à dimension finie sur les paramètres des réseaux de neurones ($\theta_y, \theta_u$). Les intégrales dans les fonctionnelles d'objectif et d'énergie sont approximées par échantillonnage de Monte Carlo (mini-lots) sur le domaine $\Omega$, rendant la méthode sans maillage (mesh-free).

2.3. L'algorithme S2-FOBA

Pour résoudre le problème bi-niveau stochastique résultant, les auteurs développent l'algorithme bi-niveau stochastique à premier ordre à boucle unique (S2-FOBA). Caractéristiques clés :

• Reformulation par l'enveloppe de Moreau : La contrainte de niveau inférieur est reformulée à l'aide de l'enveloppe de Moreau, qui fournit une approximation lisse de la fonction de valeur. Cela évite d'avoir recours à des hypothèses restrictives telles que l'unicité au niveau inférieur ou la convexité forte.
• Structure à boucle unique : Contrairement aux méthodes bi-niveaux traditionnelles qui nécessitent une optimisation imbriquée (résoudre le problème de niveau inférieur jusqu'à convergence à chaque étape du niveau supérieur), S2-FOBA met à jour simultanément les paramètres du niveau inférieur et la variable auxiliaire suivant le point proximal dans une seule boucle.
• Mises à jour stochastiques : L'algorithme utilise des gradients stochastiques calculés à partir de mini-lots, évitant le coût de résolution de grands systèmes linéaires ou le calcul de gradients exacts sur l'ensemble du domaine.
• Stratégie d'entraînement en deux étapes :
  1. Entraînement bi-niveau : S2-FOBA est utilisé pour trouver les paramètres approximatifs optimaux.
  2. Raffinement du niveau inférieur : Les paramètres de contrôle sont fixés, et le problème de niveau inférieur est résolu une seconde fois pour s'assurer que l'état satisfait strictement la condition d'optimalité, renforçant ainsi la cohérence physique.

3. Contributions clés

1. Conception du cadre : Un cadre de deep learning bi-niveau qui préserve la structure hiérarchique des problèmes de contrôle d'obstacle, évitant les pièges des formulations à un seul niveau pondérées.
2. Intégration de contraintes : Architectures de réseaux de neurones novatrices qui imposent strictement les contraintes d'obstacle et de contrôle sans réglage de pénalité ni détection d'ensemble actif.
3. Développement d'algorithme : L'algorithme S2-FOBA est :
   • À boucle unique : Élimine l'optimisation imbriquée.
   • Stochastique : Efficace pour les hautes dimensions via l'échantillonnage par mini-lots.
   • Robuste : Ne repose pas sur des hypothèses d'unicité ou de convexité forte au niveau inférieur.
4. Analyse de convergence : Preuve théorique de la convergence de S2-FOBA sous des hypothèses modérées (convexité faible de l'objectif de niveau inférieur), montrant la descente d'une fonction de mérite et la décroissance d'une mesure de stationnarité.
5. Extensibilité : Démonstration que la méthode s'étend naturellement au contrôle optimal des inégalités variationnelles elliptiques (EVI) générales, y compris celles avec des opérateurs non symétriques.

4. Résultats numériques

La méthode a été validée sur plusieurs problèmes de référence en utilisant Python et PyTorch sur du matériel haute performance (GPU NVIDIA H100) :

• Exemple 1 (Ensemble actif bi-actif) : Un problème 2D avec un ensemble actif non trivial. La méthode proposée a atteint des erreurs relatives $L_2$ nettement plus faibles par rapport à une approche de deep learning à un seul niveau pondérée naïve (Algorithme 1). Elle a également démontré une efficacité supérieure par rapport à la méthode classique d'ensemble actif : alors que la précision de la méthode d'ensemble actif s'améliore avec le raffinement du maillage (nécessitant un nouveau calcul), la méthode proposée maintient une erreur constante quelle que soit la résolution de la grille d'évaluation et ne nécessite qu'une passe avant pour de nouvelles résolutions.
• Exemple 2 (Frontière libre plate) : Un problème présentant une transition plate difficile dans l'ensemble actif. La méthode a réussi à capturer la solution avec une précision robuste à la frontière libre, là où les techniques d'ensemble actif primales peinent souvent.
• Exemple 3 (Haute dimension) : Un problème de contrôle distribué en 5 dimensions. En utilisant des réseaux de neurones informés par la physique séparables (SPINNs) et l'échantillonnage de quasi-Monte Carlo, la méthode a réussi à surmonter la malédiction de la dimensionnalité, capturant avec précision les solutions optimales.
• Exemple 4 (Domaine complexe) : Un problème sur un domaine non rectangulaire en forme de fleur. La nature sans maillage de la méthode a permis de gérer de manière fluide la géométrie irrégulière sans génération de maillage complexe.
• Extensions (Exemples 5 & 6) : Le cadre a été appliqué avec succès au contrôle d'obstacle (où l'obstacle lui-même est le contrôle) et au contrôle optimal d'EVI non symétriques, démontrant une large applicabilité.

5. Signification et affirmations

L'article affirme que ce travail fournit une méthode d'apprentissage efficace sur le plan computationnel et scalable pour les problèmes de contrôle optimal qui étaient difficiles à résoudre avec les techniques de deep learning existantes.

• Signification : La contribution principale est la capacité de résoudre des problèmes de contrôle optimal de haute dimension et de domaines complexes sans les goulots d'étranglement computationnels des discrétisations basées sur le maillage. En préservant la structure bi-niveau, la méthode garantit une cohérence physique dont les approches à un seul niveau pondérées sont dépourvues.
• Modestie : Les auteurs reconnaissent que bien que S2-FOBA soit efficace, le réglage des hyperparamètres (tailles de pas, séquences de pénalité) nécessite actuellement un ajustement manuel et pourrait bénéficier d'une automatisation future. Ils notent également que le cadre est actuellement limité aux problèmes stationnaires, les problèmes d'obstacle dépendants du temps et les EVI stochastiques étant identifiés comme des directions pour de futurs travaux.
• Comparaison : La méthode est présentée comme surpassant les approches de deep learning existantes en termes de qualité de solution et étant plus efficace que les méthodes numériques classiques pour les scénarios de haute dimension ou de domaines complexes, bien que les méthodes classiques puissent encore offrir une précision plus élevée pour les problèmes de basse dimension avec des maillages fins.