Posterior and Likelihood Sensitivity in Bayesian Distributionally Robust Optimization

Résumé Technique : Sensibilité de l'A posteriori et de la Vraisemblance dans l'Optimisation Robuste à la Distributionnelle Bayésienne

Énoncé du Problème
Les modèles bayésiens fournissent un cadre pour apprendre à partir des données en combinant une fonction de vraisemblance $L_\theta(\cdot)$ et une distribution a priori $\rho$ afin de former une distribution prédictive. Cependant, les décideurs (DM) sont souvent préoccupés par la spécification erronée des modèles. Plus précisément, le coût attendu d'une décision peut être très sensible aux écarts par rapport à la distribution prédictive supposée. Alors que la littérature existante traite de la robustesse dans l'optimisation empirique, il est nécessaire de quantifier la sensibilité des décisions bayésiennes spécifiquement aux écarts dans deux composantes distinctes : la distribution a posteriori (représentant l'incertitude des paramètres) et la fonction de vraisemblance (représentant le modèle structurel du processus de génération des données). Cet article traite du problème de la caractérisation et de la gestion de l'arbitrage entre la performance (coût attendu) et la robustesse contre ces sources spécifiques d'incertitude.

Méthodologie
Les auteurs introduisent les concepts de sensibilité de l'a posteriori au pire cas et de sensibilité de la vraisemblance au pire cas. Ceux-ci sont définis dans un cadre d'Optimisation Robuste à la Distributionnelle (DRO) Bayésienne.

1. Ensembles d'Incertitude : La méthodologie définit des ensembles d'incertitude pour l'a posteriori $\eta$ et la vraisemblance $Q_\theta$ en utilisant des mesures de déviation $d(\cdot|\cdot)$.

   • $P(\epsilon) = \{ \eta \mid d(\eta|\rho) \le \epsilon \}$ représente les déviations par rapport à l'a posteriori nominale.
   • $L_\theta(\delta) = \{ Q \mid d(Q|L_\theta) \le \delta \}$ représente les déviations par rapport à la vraisemblance nominale pour chaque paramètre $\theta$.

2. Coût Attendu au Pire Cas : Les auteurs formulent le coût attendu au pire cas $V(\epsilon, \delta)$ comme un problème de maximisation imbriqué :
   $$V(\epsilon, \delta) = \max_{\eta \in P(\epsilon)} \mathbb{E}_\eta \left[ \max_{Q_\theta \in L_\theta(\delta)} \mathbb{E}_{Q_\theta}[f(\theta, Y)] \right]$$
   Ici, la maximisation interne prend en compte les déviations de la vraisemblance au pire cas conditionnellement à $\theta$, et la maximisation externe prend en compte les déviations de l'a posteriori au pire cas sur l'espace des paramètres.

3. Régularisation et Expansion de Sensibilité : En s'appuyant sur les techniques de l'optimisation empirique robuste (en faisant spécifiquement référence aux travaux [8, 9, 10]), l'article dérive une expansion locale du coût au pire cas pour de petites tailles d'ensembles d'incertitude ($\epsilon, \delta$). Sous l'Hypothèse 4.1 (concernant le comportement des coûts d'ambiguïté), il est démontré que le coût au pire cas est approximativement égal au coût attendu nominal plus une somme pondérée de termes de sensibilité :
   $$V(\epsilon, \delta) \approx \mathbb{E}_\rho[\mathbb{E}_{L_\theta}[f]] + g(\delta)\mathbb{E}_\rho[S_{L_\theta}(f)] + g(\epsilon)S_\rho(\mathbb{E}_{L_\theta}[f])$$
   où $g(\cdot)$ est une fonction déterminée par la mesure de déviation, $S_{L_\theta}$ est la sensibilité de la vraisemblance, et $S_\rho$ est la sensibilité de l'a posteriori.

4. Mesures de Déviation Spécifiques : L'article dérive explicitement ces sensibilités pour les $\phi$-divergences lisses. Dans ce cas, les mesures de sensibilité correspondent aux écarts-types standards :

   • Sensibilité de l'A Posteriori : Proportionnelle à l'écart-type de l'espérance conditionnelle du coût sous l'a posteriori, $\sigma_\rho(\mathbb{E}_{L_\theta}[f])$.
   • Sensibilité de la Vraisemblance : Proportionnelle à l'espérance a posteriori de l'écart-type conditionnel du coût, $\mathbb{E}_\rho[\sigma_{L_\theta}(f)]$.
     Le cadre permet également des scénarios de type "mix and match" où différentes mesures de déviation (par exemple, une $\phi$-divergence pour l'a posteriori et des mesures basées sur la CVaR pour la vraisemblance) sont utilisées.

Contributions Clés

• Métriques de Sensibilité Nouvelles : L'article introduit des mesures quantitatives distinctes pour la sensibilité des décisions bayésiennes à la spécification erronée de l'a posteriori par rapport à la spécification erronée de la vraisemblance.
• Décomposition de la Robustesse : Il démontre qu'un problème de DRO bayésien peut être approximé par un problème nominal régularisé où le régularisateur est une somme pondérée des sensibilités de l'a posteriori et de la vraisemblance. Cela établit un lien direct entre la robustesse distributionnelle et l'analyse de sensibilité.
• Comportement Asymptotique : Une conclusion théorique critique concerne le comportement différentiel des deux sensibilités lors de l'apprentissage. L'article prouve que la sensibilité de l'a posteriori s'annule lorsque la distribution a posteriori dégénère en une masse ponctuelle (c'est-à-dire quand l'incertitude des paramètres est éliminée par l'apprentissage). En revanche, la sensibilité de la vraisemblance ne s'annule pas, même lorsque les paramètres sont connus, car elle reflète l'incertitude inhérente à la distribution des données $Y$ étant donné $\theta$.
• Arbitrages de Pareto : Les auteurs montrent que la résolution d'un problème de DRO bayésien trace une frontière de Pareto quasi-optimale entre la performance (coût attendu) et la robustesse (sensibilité de l'a posteriori et de la vraisemblance).

Résultats
L'article valide ces conclusions théoriques à travers une application de tarification où la demande est normalement distribuée avec des paramètres $a$ et $b$ inconnus.

• Effets de l'Apprentissage : Les expériences numériques montrent qu'à mesure que la variance de l'a posteriori diminue (simulant l'accumulation de données), la sensibilité de l'a posteriori diminue et finit par s'annuler. Cependant, la sensibilité de la vraisemblance reste constante, confirmant que l'apprentissage réduit l'incertitude des paramètres mais pas l'incertitude structurelle du modèle.
• Analyse de la Frontière : Les frontières récompense-sensibilité illustrent que la DRO permet de réduire la sensibilité de manière significative avec un coût minimal sur la récompense attendue, particulièrement lorsque l'incertitude initiale des paramètres est élevée.
• Indépendance : Dans l'exemple spécifique de tarification, la frontière récompense-sensibilité de la vraisemblance s'est avérée indépendante de la variance de l'a posteriori, tandis que la frontière récompense-sensibilité de l'a posteriori était indépendante de la variance de la vraisemblance (une propriété spécifique de la structure linéaire-quadratique de l'exemple).

Signification et Revendications
L'article affirme fournir une approche systématique pour les décideurs préoccupés par la fragilité de leurs hypothèses. En distinguant la sensibilité de l'a posteriori de celle de la vraisemblance, le cadre permet aux DM d'identifier quelle composante de leur modèle (estimation des paramètres vs forme structurelle) motive leurs préoccupations de robustesse.

• Robustesse vs Performance : La principale signification réside dans la formalisation du "prix de la robustesse" comme un arbitrage entre le coût attendu et la sensibilité.
• Orientation pour la Conception de Systèmes : Les auteurs suggèrent que ces mesures de sensibilité peuvent guider la sélection des ensembles d'incertitude et identifier les moments où le coût de la robustesse est élevé, ce qui peut inciter à une refonte du système.
• Limites de l'Apprentissage : Un aperçu clé est que, bien que l'apprentissage des données élimine la sensibilité de l'a posteriori, il n'élimine pas la sensibilité de la vraisemblance. Par conséquent, une décision bayésienne robuste doit tenir compte de la potentielle spécification erronée du modèle de vraisemblance, même après que les paramètres ont été bien estimés.

L'article conclut qu'une formulation distributionnellement robuste offre un mécanisme quasi-optimal de Pareto pour équilibrer la performance et la robustesse face aux deux types d'incertitude de modèle.