Résumé Technique : Un Estimateur Multi-fidélité du Gain d'Information Attendu pour le Design Expérimental Bayésien Optimal

Énoncé du Problème

Le Design Expérimental Optimal (OED) vise à identifier les conditions expérimentales qui maximisent l'information gagnée sur les paramètres du modèle. Dans un cadre bayésien, l'objectif standard est le Gain d'Information Attendu (EIG), défini comme l'information mutuelle entre les paramètres du modèle et les données d'observation. Bien que l'EIG soit analytiquement traitable pour les modèles linéaires avec des priors gaussiens, il est intraitable pour les modèles non linéaires. Par conséquent, il doit être estimé numériquement, généralement via un échantillonnage de Monte Carlo imbriqué (NMC).

Le défi principal réside dans le coût computationnel de ces estimations. L'évaluation de l'EIG nécessite des évaluations répétées du modèle de données (résolution des équations physiques directes) sous diverses réalisations de paramètres et de bruit. Pour les modèles de haute fidélité, tels que ceux impliquant une dynamique des fluides complexe, ce processus devient extrêmement coûteux. Bien que les modèles de substitution ou de réduction d'ordre puissent accélérer le calcul, leur simple substitution introduit un biais. Les méthodes multi-fidélité existantes, telles que le Monte Carlo Multi-niveaux (MLMC), offrent une réduction de la variance mais reposent sur des hypothèses strictes concernant les relations coût-précision et la convergence vers un « modèle de vérité », ce qui limite leur flexibilité.

Méthodologie

Les auteurs proposent un nouvel estimateur de Gain d'Information Attendu Multi-fidélité (MF-EIG) basé sur le cadre des Variables de Contrôle Approchées (ACV). La méthodologie répond à deux obstacles critiques : l'incompatibilité des formulations standard de l'EIG avec les exigences de l'ACV et la nécessité d'une réduction de la variance sans introduire de biais.

1. Reparamétrage de l'EIG

Une exigence fondamentale du cadre ACV est que les échantillons d'entrée pour l'estimateur puissent être générés indépendamment des évaluations du modèle coûteux. Les estimateurs NMC standards échantillonnent directement les données d'observation $Y$, ce qui nécessite de résoudre le modèle direct $Y = h(E; \Theta, \xi)$ pour chaque échantillon.

Pour résoudre cela, les auteurs reparamètrent l'EIG en changeant la variable d'intégration de la donnée d'observation $Y$ vers le bruit de données aléatoire sous-jacent $E$. En supposant que le modèle de données $h$ est injectif et continûment inversible, la vraisemblance et les termes d'évidence sont réécrits en termes de $E$ et du Jacobien de la mise en correspondance inverse. Cette transformation permet de prendre l'espérance sur $Z = \{E, \Theta\}$, où des échantillons de $E$ et $\Theta$ peuvent être tirés directement sans évaluer le modèle direct. La fonction d'utilité est par conséquent reformulée en tant que $u_E(\xi, E, \Theta)$, ce qui la rend compatible avec l'ACV.

2. L'Estimateur MF-EIG

L'estimateur combine un modèle d'utilité de haute fidélité ($u_0$) avec un ensemble de $M$ modèles d'utilité de basse fidélité ($u_1, \dots, u_M$). Ces modèles peuvent différer par :

• La Fidélité du Modèle de Données : Utilisation de différents modèles directs (par exemple, grilles plus grossières, physique simplifiée).
• L'Approximation Numérique : Utilisation de différentes tailles d'échantillons dans la boucle interne ou de règles de quadrature pour estimer le terme d'évidence intraitable.

L'estimateur MF-EIG est défini par :
$$\tilde{U}(\xi, z; \alpha, A) := \hat{U}_0(\xi, z_0) + \sum_{m=1}^M \alpha_m \left( \hat{U}_m(\xi, z^*_m) - \hat{U}_m(\xi, z_m) \right)$$
où $\hat{U}_m$ sont des estimateurs de Monte Carlo standards pour chaque niveau de fidélité, $z$ représente les ensembles d'échantillons alloués et $\alpha$ sont les poids des variables de contrôle. L'estimateur est sans biais par rapport à la moyenne de haute fidélité ($u_0$) et minimise la variance sous un budget de calcul donné en optimisant l'allocation des échantillons $A$ et les poids $\alpha$.

3. Améliorations Pratiques

L'article détaille des implémentations spécifiques pour les modèles de données à bruit additif et à bruit proportionnel (scaled noise). Il introduit également deux améliorations pratiques :

• Optimisation de la Taille d'Échantillon de la Boucle Interne : Le nombre d'échantillons de la boucle interne ($N_{in,m}$) pour les modèles de basse fidélité est optimisé pour équilibrer corrélation et coût de calcul, car un nombre trop faible dégrade la corrélation tandis qu'un nombre trop élevé offre des rendements décroissants.
• Réutilisation des Échantillons : Pour améliorer la corrélation entre les modèles d'utilité, les auteurs proposent de réutiliser les échantillons de la boucle interne des paramètres $\Theta$ à travers les différents niveaux de fidélité. Cette stratégie renforce considérablement la structure de corrélation nécessaire à une réduction efficace de la variance.

Contributions Clés

1. Nouvel Estimateur MF-EIG : La dérivation d'un estimateur d'EIG multi-fidélité sans biais sous le cadre ACV qui accepte des ensembles généraux de modèles sans nécessiter d'hypothèses spécifiques de convergence coût-précision.
2. Stratégie de Reparamétrage : Une reformulation mathématique de l'EIG qui découple l'espérance du modèle de données, permettant l'application des techniques ACV aux problèmes d'OED.
3. Techniques d'Optimisation : Le développement de stratégies pour optimiser les tailles d'échantillons de la boucle interne et implémenter la réutilisation des échantillons pour maximiser la réduction de la variance.
4. Implémentation : L'intégration de l'estimateur dans la boîte à outils MXMCPy, permettant des stratégies d'allocation flexibles qui englobent les méthodes MFMC et MLMC comme des cas particuliers.

Résultats Numériques

Les auteurs valident l'estimateur MF-EIG à l'aide de deux exemples numériques :

Cas 1 : Benchmark Non Linéaire

Un problème unidimensionnel non linéaire avec du bruit additif et proportionnel.

• Réduction de la Variance : L'estimateur MF-EIG a obtenu une réduction de la variance de 6 à 8 fois par rapport à un NMC mono-fidélité utilisant une approche naïve.
• Impact de l'Optimisation : L'optimisation des tailles d'échantillons de la boucle interne a apporté une amélioration supplémentaire de 6 à 12 %.
• Réutilisation des Échantillons : L'implémentation de la réutilisation des échantillons a produit les gains les plus importants, atteignant une réduction de la variance de 17 à 23 fois (environ le double de l'amélioration du cas sans réutilisation).

Cas 2 : Calibrage de Flux Turbulent

Un problème multidimensionnel impliquant la calibration des paramètres du modèle de fermeture de turbulence de type Shear-Stress Transport (SST) dans un cadre Reynolds-averaged Navier–Stokes (RANS). Quatre solveurs avec des résolutions de grille variables ont servi de niveaux de fidélité.

• Réduction de la Variance : Les estimateurs MF-EIG ont obtenu une réduction de la variance de un à deux ordres de grandeur (19 à 71 fois) à travers l'espace de conception par rapport au NMC mono-fidélité.
• Performance du Design Optimal : À l'emplacement spécifique du design optimal, la réduction de la variance était encore plus prononcée, atteignant 94 à 233 fois.
• Perspectives Physiques : Les résultats ont souligné que les designs les plus informatifs se situent près du bord d'attaque d'une plaque plane au sein de la couche limite, où la corrélation entre les solveurs est élevée mais la sensibilité physique est maximale. L'estimateur a réussi à distinguer le design optimal avec une grande confiance, là où l'estimateur mono-fidélité peinait en raison d'une variance élevée.

Signification et Revendications

L'article affirme que l'estimateur MF-EIG fournit une alternative robuste, sans biais et hautement efficace aux estimations traditionnelles de l'EIG mono-fidélité. En exploitant le cadre ACV, la méthode minimise la variance sous un budget de calcul fixe sans les hypothèses de convergence restrictives requises par le MLMC.

Les auteurs soulignent que l'estimateur est sans biais par rapport à la moyenne de haute fidélité, garantissant que l'optimisation des designs expérimentaux n'est pas biaisée par l'approximation multi-fidélité. Les résultats démontrent que la méthode peut réduire les coûts de calcul de un à deux ordres de grandeur tout en maintenant la précision. L'article conclut que la réutilisation des échantillons de la boucle interne est une technique critique pour maximiser les bénéfices de l'approche multi-fidélité, et que l'optimisation des tailles d'échantillons de la boucle interne offre des gains modérés mais précieux.

Ce travail positionne le MF-EIG comme un outil pratique pour les applications d'ingénierie complexes, telles que la modélisation des flux turbulents, où les simulations de haute fidélité sont coûteuses et où un design expérimental efficace est crucial.