Wasserstein Distributionally Robust Risk-Sensitive Estimation via Conditional Value-at-Risk

Résumé Technique

1. Problématique

Le papier aborde le problème de l'estimation d'un signal inconnu $x$ à partir d'une observation $y$, dans un contexte où la distribution conjointe de ces variables est inconnue. L'objectif est de concevoir des estimateurs qui ne minimisent pas seulement l'erreur moyenne (MSE), mais qui sont sensibles au risque, c'est-à-dire capables de protéger contre les erreurs de prédiction rares mais sévères (la queue de la distribution des erreurs).

Les défis principaux identifiés sont :

• Insécurité des modèles : Les distributions nominales (estimées à partir de données) peuvent mal représenter les événements extrêmes, rendant la minimisation de la CVaR (Conditional Value-at-Risk) sous cette distribution nominale insuffisante.
• Besoin de robustesse : Il est nécessaire de garantir la performance de l'estimateur même si la vraie distribution s'écarte de la distribution nominale, tout en se concentrant spécifiquement sur la réduction des pertes dans la queue supérieure de la distribution d'erreur.

2. Méthodologie

Les auteurs proposent une approche d'optimisation robuste distributionnelle (DRO) basée sur la distance de Wasserstein de type 2.

• Modélisation de l'incertitude :
  L'ensemble des distributions possibles (l'ensemble d'ambiguïté $\mathcal{P}$) est défini comme une "balle de Wasserstein" centrée sur une distribution nominale $P_0$ avec un rayon $r$. Cela signifie que toute distribution $P$ dans $\mathcal{P}$ est à une distance de Wasserstein $W_2(P, P_0) \leq r$. Le rayon $r$ reflète le niveau de confiance de l'opérateur dans la distribution nominale.

• Critère de performance :
  Au lieu de minimiser l'espérance de l'erreur quadratique, l'objectif est de minimiser la CVaR (Valeur à Risque Conditionnelle) de l'erreur quadratique $\ell_\psi(z) = \|x - \psi(y)\|^2$ au niveau de confiance $\alpha$. La CVaR mesure la perte moyenne dans le pire des cas (la moyenne des $\alpha$ pires pertes).

• Formulation du problème :
  Le problème consiste à trouver un estimateur affine $\psi(y) = Ay + b$ qui minimise le pire cas de la CVaR sur l'ensemble d'ambiguïté :
  $$\inf_{\psi \in \mathcal{A}} \sup_{P \in \mathcal{P}} \text{CVaR}_\alpha^P (\ell_\psi(z))$$

• Réformulation Convexe et Dualité :
  En exploitant la dualité forte des problèmes de transport optimal, les auteurs dérivent une reformulation duale du problème de maximisation interne (le pire cas).

  • Théorème 2 : Ils montrent que pour une fonction de perte quadratique, le problème de minimisation du pire cas de la CVaR peut être réécrit comme un problème d'optimisation convexe.
  • Théorème 3 (Reformulation SDP) : Lorsque la distribution nominale $P_0$ est finie (supporté sur un nombre fini de points, comme une distribution empirique), le problème entier peut être reformulé exactement comme un Programme Semidéfini (SDP) tractable. Cela permet de résoudre le problème efficacement à l'aide d'outils d'optimisation convexe standard.

3. Contributions Clés

1. Cadre théorique nouveau : C'est la première étude, à la connaissance des auteurs, qui combine l'estimation robuste distributionnelle basée sur la distance de Wasserstein avec un critère de risque basé sur la CVaR pour une erreur quadratique.
2. Reformulation exacte : Dérivation d'une reformulation équivalente du problème de minimisation du pire cas de la CVaR quadratique. Contrairement aux travaux antérieurs qui nécessitaient des hypothèses fortes (distributions elliptiques ou absolument continues), cette méthode fonctionne pour n'importe quelle distribution nominale (y compris les distributions empiriques finies).
3. Tractabilité computationnelle : Preuve que lorsque la distribution nominale est finiment supportée, le problème d'estimation robuste sensible au risque se réduit à un SDP, garantissant une solution globale et calculable.
4. Généralisation : Le cadre englobe des cas particuliers connus, tels que la minimisation de l'erreur quadratique moyenne robuste (lorsque $\alpha=1$) et l'estimation robuste classique (lorsque $\alpha \to 0$).

4. Résultats Expérimentaux

Les auteurs ont évalué leur méthode sur une tâche de prévision des prix de l'électricité (marché PJM, États-Unis).

• Données : Utilisation de données réelles de prix et de prévisions de charge horaire. Le jeu de données de test a été spécifiquement choisi pour inclure des pics de prix plus élevés que ceux observés dans les données d'entraînement, simulant un scénario de "queue de distribution" difficile.
• Comparaison : L'estimateur proposé (DR-CVaR) a été comparé à un estimateur robuste classique minimisant l'erreur quadratique moyenne (DR-MSE).
• Performances :
  • L'estimateur DR-CVaR a systématiquement obtenu une CVaR hors échantillon (out-of-sample) plus faible que l'estimateur DR-MSE sur toute la gamme des rayons d'ambiguïté testés.
  • Visuellement, l'estimateur DR-CVaR prédit mieux les pics de prix extrêmes (réduisant le risque de sous-estimation lors des événements rares), au prix d'une légère perte de précision sur les jours à prix "normaux". Cela illustre le compromis souhaité par la formulation sensible au risque.

5. Signification et Impact

Ce travail est significatif pour plusieurs raisons :

• Sécurité des systèmes critiques : Dans des domaines comme les réseaux électriques ou la finance, les erreurs de prédiction extrêmes peuvent avoir des conséquences catastrophiques (pannes, pertes financières massives). Ce papier fournit un cadre mathématique rigoureux pour concevoir des estimateurs qui protègent explicitement contre ces scénarios.
• Robustesse aux données limitées : En utilisant la distance de Wasserstein et en permettant des distributions nominales finies, la méthode est particulièrement adaptée aux situations réelles où les données sont limitées et où les événements extrêmes sont sous-représentés dans l'historique.
• Faisabilité pratique : La réduction du problème à un SDP rend la méthode applicable à des problèmes de taille réelle, dépassant les limitations théoriques des approches précédentes qui étaient souvent trop complexes à résoudre ou nécessitaient des hypothèses de distribution irréalistes.

En conclusion, cette étude propose une avancée majeure dans la conception d'estimateurs robustes, démontrant qu'il est possible de minimiser le risque de catastrophes (via la CVaR) tout en maintenant une efficacité computationnelle élevée grâce à l'optimisation robuste distributionnelle.