Sparse-grids-like surrogate models enhanced with gradient information

Résumé technique : Modèles de substitution de type grilles creuses améliorés par l'information de gradient

Énoncé du problème
L'article traite du défi consistant à construire des modèles de substitution (surrogates) efficaces pour les quantités d'intérêt (QoI) dérivées d'équations aux dérivées partielles (EDP) non linéaires paramétriques. Bien que l'interpolation sur grilles creuses (sparse-grid interpolation) soit une technique bien établie pour approximer des fonctions sur des domaines de paramètres de haute dimension, elle repose traditionnellement uniquement sur des évaluations de la fonction. Les auteurs visent à étendre cette méthodologie pour incorporer l'information de gradient (dérivées de la QoI par rapport aux paramètres de l'EDP).

Une motivation centrale est que, pour de nombreux problèmes basés sur les EDP, le calcul du gradient $\nabla_\Theta Q$ à un point de paramètre $\theta$ donné est numériquement comparable au calcul de la QoI $Q(\theta)$ lui-même. Plus précisément, une fois la solution $u_\theta$ trouvée (par exemple via la méthode de Newton), le gradient peut être obtenu en résolvant un système linéaire avec le même opérateur mais des termes sources différents (ou via des méthodes adjointes), souvent à un coût similaire à celui d'une évaluation de fonction supplémentaire. L'objectif est de tirer parti de cette information de gradient « peu coûteuse » pour améliorer la précision du modèle de substitution.

Cependant, l'article identifie un obstacle théorique majeur : l'incorporation de l'information de gradient dans les constructions de grilles creuses sans considération minutieuse conduit à une « malédiction de la dimension induite par la dérivée ». L'interpolation osculatoire par produit tensoriel standard (appariement des valeurs de la fonction et des premières dérivées) nécessite l'évaluation de toutes les $2^N$ dérivées partielles mixtes à chaque point de la grille, ce qui est irréalisable pour les applications d'EDP où seules les dérivées unidirectionnelles sont disponibles. De plus, une tentative précédente de résoudre cela par l'imbrication d'algorithmes de Smolyak (proposée dans [11]) est démontrée comme étant théoriquement erronée, ne fournissant ni propriétés d'interpolation ni convergence cohérente.

Méthodologie
Les auteurs proposent une approche hybride nommée Moindres carrés sur grilles creuses enrichis par le gradient (GELS - Gradient-Enhanced Least-squares on Sparse grids). Cette méthode découple la stratégie d'échantillonnage de la stratégie d'approximation :

1. Échantillonnage sur grille creuse : L'algorithme de Smolyak est utilisé pour définir l'ensemble des points de collocation (la grille creuse) dans le domaine des paramètres et pour identifier un espace polynomial approprié. Cela répond à la « malédiction de la dimension de l'échantillonnage » en évitant les grilles cartésiennes complètes.
2. Moindres carrés enrichis par le gradient : Au lieu d'utiliser les points de la grille creuse pour une interpolation directe (qui échoue lors du mélange de données de fonction et de gradient dans la technique de combinaison standard), la méthode formule un problème de moindres carrés pondérés. Le modèle de substitution est construit comme le minimiseur de la somme des erreurs au carré des valeurs de la fonction et des composantes du gradient sur les points de la grille creuse :
   $$G_w Q := \arg\min_{v \in P_{F_w}} \sum_{\tau_j \in T_{I_{sum}(w)}} \left[ \|Q(\tau_j) - v(\tau_j)\|^2 + \sum_{n=1}^N \omega_n \|\partial_{\theta_n}Q(\tau_j) - \partial_{\theta_n}v(\tau_j)\|^2 \right]$$
   où $P_{F_w}$ est l'espace polynomial dérivé de la combinaison de la grille creuse des opérateurs de Lagrange et osculatoires, et $\omega_n$ sont des poids équilibrant l'amplitude des erreurs de fonction et de gradient.

Contributions clés

1. Critique des approches existantes : L'article fournit une analyse rigoureuse démontrant pourquoi l'approche de Smolyak imbriquée proposée dans [11] est défectueuse. Il montre que l'opérateur résultant ne possède pas la structure télescopique nécessaire pour garantir la convergence et qu'en tests numériques, il peut produire des approximations avec une erreur plus élevée que ses composants individuels.
2. Le cadre GELS : Les auteurs introduisent la méthode GELS, qui combine avec succès l'efficacité de l'échantillonnage sur grilles creuses et les avantages de précision de l'information de gradient sans nécessiter de dérivées mixtes.
3. Analyse des compromis Coût et Précision : Le travail établit que l'efficacité de GELS n'est pas universelle mais dépend de deux facteurs critiques :
   • Coût de calcul : Le coût relatif ($\lambda$) du calcul d'une dérivée partielle par rapport à la QoI.
   • Précision des données : La précision relative des évaluations de gradient par rapport aux évaluations de la fonction. L'article démontre que si les données de gradient sont nettement plus bruitées ou moins précises que les évaluations de la fonction (un scénario courant dans les discrétisations d'EDP), GELS peut stagner ou être moins performant que les grilles creuses standard.

Résultats numériques
Les auteurs valident GELS à travers trois séries d'expériences :

• Fonctions de référence : Tests sur des fonctions de forme fermée avec diverses régularités et dimensions ($N=2$ à $11$). Les résultats montrent que GELS surpasse les grilles creuses standard (SG) pour les fonctions lisses lorsque les coûts de gradient sont faibles, mais que l'avantage diminue pour les fonctions moins régulières ou de plus haute dimension.
• Robustesse au bruit : Des expériences avec des données artificiellement bruitées révèlent que GELS est sensible à la précision relative des gradients. Si le bruit du gradient dépasse celui de la fonction, la convergence de GELS stagne au niveau du bruit, sous-performant potentiellement la SG standard.
• EDP paramétriques : Deux problèmes de flux de Darcy non linéaires (équation de p-Laplace) sont testés :
  • Test 1 (Bien élevé) : Un problème avec une perméabilité par morceaux constante où la solution reste régulière. Ici, les gradients numériques sont aussi précis que la QoI, et GELS converge plus rapidement que SG.
  • Test 2 (Dégénéré) : Un problème avec des interfaces mobiles et une diffusion dégénérée. Ici, les gradients numériques souffrent d'une régularité moindre et d'une erreur plus élevée que la QoI. Par conséquent, GELS stagne, tandis que SG continue de converger de manière fluide.

Signification et affirmations
L'article affirme modestement fournir un mécanisme viable pour incorporer l'information de gradient dans la modélisation de substitution par grilles creuses, corrigeant ainsi un fondement théorique erroné dans la littérature. Il souligne que la « commodité » de cette technique est conditionnelle. Les auteurs concluent que GELS est avantageux uniquement lorsque :

1. Le coût de calcul des gradients est suffisamment bas par rapport aux évaluations de fonctions.
2. La précision numérique des gradients calculés est comparable à celle de la QoI elle-même.

Ce travail met en évidence que l'ajout simple de données de gradient est insuffisant ; la qualité de l'information de dérivée par rapport à la valeur de la fonction est un facteur décisif du succès du modèle de substitution. Les auteurs suggèrent qu'une analyse théorique plus approfondie est nécessaire pour comprendre pleinement le pouvoir d'approximation de GELS sous diverses conditions de régularité et de bruit.