Résumé Technique : Optimisation Bayésienne de Satisfaction Maximalement Robuste (MRSBO)

1. Définition du Problème

L'article traite d'une variante spécifique de l'optimisation bayésienne (BO) nommée Optimisation Bayésienne de Satisfaction Maximalement Robuste (MRSBO). Le problème central découle de tâches de conception où l'objectif n'est pas de trouver le maximum global d'une fonction boîte noire $f(x)$, mais plutôt une solution $x^*$ qui satisfait un seuil de qualité minimal $t$ (c'est-à-dire $f(x^*) \geq t$) tout en étant maximalement robuste aux perturbations d'entrée.

Le cadre suppose une distinction nette entre la phase d'optimisation et la phase de déploiement :

• Phase d'optimisation : Les entrées $x$ peuvent être contrôlées avec précision, et les évaluations $f(x)$ sont sans bruit (ou observées avec un bruit connu).
• Phase de déploiement : La solution sélectionnée est déployée dans un environnement où les entrées sont soumises à des perturbations inconnues $\delta$.

L'objectif est de trouver une solution $x^*$ qui maximise le rayon de robustesse $r^*$, défini comme le plus grand rayon tel que pour toute perturbation $\delta$ au sein d'une boule $B_{r^*}$, la solution perturbée reste satisfaisante :
$$\inf_{\delta \in B_r} f(x + \delta) \geq t$$
La tâche d'apprentissage consiste à trouver $x^* = \arg\max_{x \in X} \rho(x)$, où $\rho(x)$ est le rayon de robustesse maximal pour un $x$ donné.

Cette configuration diffère de la Optimisation Bayésienne Robuste (RBO) standard de deux manières clés :

1. Satisfaction vs Optimalité : L'objectif est de rester au-dessus d'un seuil $t$, et non de maximiser nécessairement $f(x)$.
2. Optimisation Propre vs Adversaire : Contrairement aux méthodes robustes de type pire cas antérieures (par exemple, Saday et al. [2025], Bogunovic et al. [2018]) qui supposent que le processus d'optimisation lui-même se déroule dans un environnement adversaire (où les entrées sont perturbées pendant l'évaluation), la MRSBO suppose des entrées propres durant l'optimisation. Les perturbations ne surviennent qu'après le déploiement.

2. Méthodologie : Algorithme MRSBO

La méthode proposée, MRSBO, utilise une fonction d'acquisition basée sur la théorie de l'information pour explorer efficacement l'espace de recherche.

2.1 Acquisition par Théorie de l'Information

Au lieu d'optimiser directement le rayon de robustesse, la MRSBO maximise le gain d'information concernant la paire $(x^*, r^*)$, où $x^*$ est le maximisateur robuste et $r^*$ est le rayon de robustesse correspondant. La fonction d'acquisition $\alpha(x)$ est définie comme l'information mutuelle entre une observation potentielle $y$ en $x$ et les variables cibles :
$$\alpha(x) = I(\{y, x\}; \{x^*, r^*\}) = H(p(y|x, D_t)) - \mathbb{E}_{p(x^*, r^*|D_t)}[H(p(y|x, D_t, x^*, r^*))]$$

• Premier terme : L'entropie de la distribution prédictive en $x$ (incertitude standard de la BO).
• Second terme : L'entropie conditionnelle attendue étant donné la cible $(x^*, r^*)$. Ce terme est approximé par échantillonnage de Monte Carlo.

2.2 Approximation de l'Entropie Conditionnelle

Le calcul de l'entropie conditionnelle repose sur la distance $d(x, x^*)$ relative au rayon de robustesse $r^*$ :

• À l'intérieur du rayon ($d(x, x^*) \leq r^*$) : Par définition, $f(x) \geq t$. L'entropie conditionnelle est approximée à partir d'une distribution normale tronquée, reflétant la contrainte que la valeur doit être supérieure à $t$.
• À l'extérieur du rayon : Aucune limite spécifique n'est supposée sur $f(x)$ (elle pourrait être arbitrairement haute ou basse), donc l'entropie revient à l'entropie prédictive standard.
• Observations bruitées : La méthode adapte l'approche de Takeno et al. [2020] pour gérer le bruit d'observation, en calculant la densité conditionnelle de l'observation $y$ étant donné la contrainte de la fonction latente $f > t$.

2.3 Échantillonnage des Maximisateurs Robustes

Pour calculer l'espérance dans la fonction d'acquisition, l'algorithme doit échantillonner des paires $(x^*_s, r^*_s)$ à partir de la distribution postérieure $p(x^*, r^* | D_t)$. Puisque cette distribution est intraçable, la MRSBO utilise des Fonctions de Fourier Aléatoires (RFF) pour générer des trajectoires de fonctions différentiables $\tilde{f}_s(x)$ à partir de la distribution de processus gaussiens (GP) postérieure.

Pour chaque trajectoire d'échantillon $\tilde{f}_s$, l'algorithme effectue les étapes suivantes (Algorithme 2) :

1. Approximation de l'ensemble de niveau : Il approxime l'ensemble de niveau $C_s = \{x : |\tilde{f}_s(x) - t| < \tau\}$ en échantillonnant des points de remplissage de l'espace et en les affinant via une optimisation de Gauss-Newton pour minimiser le résidu au carré $(\tilde{f}_s(x) - t)^2$.
2. Génération de l'ensemble de sur-niveau : Il génère un ensemble diversifié de points $S_s$ dans l'ensemble de sur-niveau ($\tilde{f}_s(x) \geq t$) en exécutant une ascension de gradient à partir des échantillons de l'ensemble de niveau.
3. Identification du maximisateur robuste : Il trouve le maximisateur robuste $x^*_s$ en maximisant un objectif différentiable (LogSumExp) qui approxime la distance par rapport à l'ensemble de niveau $C_s$. Le rayon de robustesse est alors $r^*_s = \min_{c \in C_s} d(x^*_s, c)$.

Ce processus d'échantillonnage permet d'optimiser la fonction d'acquisition à l'aide de méthodes de gradient standard, évitant ainsi les goulots d'étranglement computationnels des approches basées sur des grilles utilisées dans les méthodes précédentes de BO robuste.

3. Contributions Clés

Les auteurs identifient trois contributions primaires :

1. Formalisation du Problème : Ils formalisent le problème de la "Satisfaction Maximalement Robuste", en le distinguant des cadres d'optimisation robuste existants en supposant des entrées propres lors de l'optimisation et des perturbations uniquement lors du déploiement.
2. Développement d'Algorithme : Ils introduisent la MRSBO, un algorithme pratique basé sur le gain d'information concernant le maximisateur robuste et son rayon. Une innovation technique clé est la construction efficace de la fonction d'acquisition en utilisant l'échantillonnage par RFF et l'approximation d'ensemble de niveau.
3. Validation Empirique : Ils démontrent que la MRSBO surpasse à la fois la BO standard (qui ignore la robustesse) et les méthodes de BO robuste existantes (qui supposent une optimisation adversaire) à travers des benchmarks synthétiques et réels.

4. Résultats Expérimentaux

La méthode a été évaluée sur des benchmarks synthétiques (Branin, Hartmann, Mélanges Gaussiens) et une tâche réelle de poussée de robot (Robot Pushing).

• Performance : La MRSBO a systématiquement obtenu un regret de robustesse d'inférence plus faible par rapport aux lignes de base. Elle a atteint un regret nul dans six des huit scénarios de faible dimension.
• Comparaison avec AdveRS-2 : Bien qu'AdveRS-2 (Saday et al. [2025]) vise un objectif similaire, il suppose un environnement adversaire pendant l'optimisation. La MRSBO converge nettement plus vite (un ordre de grandeur dans certains cas) car elle ne perd pas d'évaluations à apprendre la fonction à l'intérieur de l'ensemble de sur-niveau, mais se concentre plutôt sur les frontières informatives du rayon de robustesse.
• Comparaison avec MES : L'algorithme Max-value Entropy Search (MES) échoue souvent car il cherche le maximum global, qui possède fréquemment un petit rayon de robustesse.
• Scalabilité : Contrairement à StableOpt et AdveRS-2, qui peinent dans des dimensions plus élevées en raison des exigences de grille ou d'optimisation imbriquée, la MRSBO passe à l'échelle pour des problèmes à 6 dimensions (Hartmann 6D) en utilisant l'optimisation de l'acquisition par gradient.
• Couverture de l'ensemble de niveau : Les expériences ont montré que même une couverture partielle de l'ensemble de niveau (environ 60-80 %) était suffisante pour identifier le bon maximisateur robuste, suggérant que la méthode est robuste aux erreurs d'approximation de l'étape d'échantillonnage.

5. Signification et Revendications

L'article affirme que la MRSBO fournit un cadre plus pratique pour les tâches de conception où la solution est déployée dans des environnements bruités mais conçue dans des environnements contrôlés.

• Efficacité : La méthode est présentée comme étant plus efficace en termes d'échantillonnage que les méthodes de robustesse adversaire car elle n'a pas besoin de simuler des perturbations pendant la boucle d'optimisation.
• Praticité : En se concentant sur des solutions de "satisfaction" plutôt que sur des optima globaux, la méthode s'aligne sur les contraintes d'ingénierie réelles où l'objectif est une durabilité ou une performance "suffisante".
• Limites : Les auteurs notent modestement que la méthode repose sur des approximations explicites de l'ensemble de niveau, qui peuvent échouer pour des fonctions cibles hautement non lisses dans des dimensions élevées. De plus, l'article ne fournit pas de garanties de convergence théorique ou de bornes de regret, identifiant cela comme une direction pour des travaux futurs. Ils reconnaissent également que si le seuil de satisfaction est très proche du maximum global, la BO standard peut être une solution plus pratique.

En résumé, l'article présente un cadre de BO spécialisé qui comble le fossé entre l'optimisation robuste et la prise de décision de satisfaction, offrant une approche computationnellement efficace pour trouver des conceptions qui restent fiables sous des incertitudes post-déploiement.