Gradient-based Stochastic Optimization of Utility-based Shortfall Risk

Résumé Technique : Optimisation Stochastique par Gradient de l'Indice de Risque de Déficit Fondé sur l'Utilité

Énoncé du Problème

Cet article traite de l'estimation et de l'optimisation de la mesure de l'Indice de Risque de Déficit Fondé sur l'Utilité (UBSR - Utility-based Shortfall Risk). L'UBSR est une mesure de risque convexe et invariante par loi qui généralise plusieurs métriques de risque proéminentes, notamment le Risque Entropique, le Risque d'Expectile, la Valeur en Risque (VaR) et le Risque Quadratique. Bien que l'UBSR offre des avantages par rapport aux mesures standards comme la VaR et la CVaR (Valeur en Risque Conditionnelle) — spécifiquement concernant l'invariance sous aléatorisation et la sensibilité aux pertes à queues lourdes — la littérature existante limite largement l'analyse aux variables aléatoires bornées. De plus, des travaux antérieurs reposent souvent sur des garanties asymptotiques ou se concentrent sur des paramètres de décision scalaires.

Les principaux défis abordés dans ce travail sont les suivants :

1. Étendre le cadre théorique de l'UBSR pour couvrir les variables aléatoires non bornées satisfaisant des conditions d'intégrabilité spécifiques.
2. Dériver des bornes d'erreur non asymptotiques pour l'estimation de l'UBSR via l'Approximation par Moyenne Échantillonnale (SAA - Sample Average Approximation).
3. Formuler une expression de gradient pour l'UBSR sous une paramétrisation lisse (paramètres vectoriels) et développer un estimateur de gradient correspondant.
4. Concevoir et analyser un algorithme de Gradient Stochastique (SG) pour l'optimisation de l'UBSR avec des taux de convergence non asymptotiques dans les régimes fortement convexe, convexe et non convexe.

Méthodologie

• Extension Théorique aux Variables Non Bornées :
  Les auteurs définissent l'UBSR comme $SR_{l,\lambda}(X) \triangleq \inf\{ t \in \mathbb{R} \mid \mathbb{E}[l(-X - t)] \leq \lambda \}$, où $l$ est une fonction de perte et $\lambda$ un seuil de risque. Ils établissent rigoureusement que, pour les variables aléatoires non bornées, l'UBSR reste une mesure de risque monétaire et convexe sous des hypothèses sur $l$ et la distribution de $X$ plus faibles que celles requises précédemment. Ils prouvent que $SR_{l,\lambda}(X)$ correspond à la racine unique d'une fonction décroissante $g_X(t) = \mathbb{E}[l(-X-t)] - \lambda$.

• Estimation via l'Approximation par Moyenne Échantillonnale (SAA) :
  Le papier propose d'estimer l'UBSR en résolvant un problème d'optimisation où l'espérance est remplacée par une moyenne empirique sur $m$ échantillons i.i.d.

  • Algorithme : Un algorithme de "Recherche et Dichotomie" (UBSR-SB - Search and Bisect) est introduit pour trouver la racine de la fonction empirique sans connaissance préalable des bornes de l'intervalle de recherche.
  • Bornes d'Erreur : Sous une hypothèse de variance sur la fonction de perte, les auteurs dérivent des bornes non asymptotiques pour l'Erreur Absolue Moyenne (MAE) et l'Erreur Quadratique Moyenne (MSE) de l'estimateur, montrant des taux de $O(1/\sqrt{m})$ et $O(1/m)$, respectivement.

• Dérivation et Estimation du Gradient :
  Pour un objectif paramétré $F(\theta, \xi)$, le papier dérive le gradient de l'objectif UBSR $SR(\theta)$ en utilisant le Théorème des Fonctions Implicites. Le gradient est exprimé comme un ratio d'espérances :
  $$\nabla SR(\theta) = \frac{-\mathbb{E}[l'(-F(\theta, \xi) - SR(\theta)) \nabla F(\theta, \xi)]}{\mathbb{E}[l'(-F(\theta, \xi) - SR(\theta))]}$$
  Pour l'estimer, les auteurs proposent un schéma de double échantillonnage utilisant deux lots indépendants d'échantillons : l'un pour estimer la valeur de l'UBSR ($SR(\theta)$) et l'autre pour estimer les espérances du numérateur et du dénominateur. Cela produit un estimateur de gradient biaisé.

  • Bornes d'Erreur : Le papier établit des bornes non asymptotiques de MAE et de MSE pour cet estimateur de gradient, proportionnelles aux tailles d'échantillon $m_1$ et $m_2$.

• Algorithme d'Optimisation Stochastique :
  L'estimateur de gradient proposé est intégré dans un algorithme de Gradient Stochastique (SG) (Algorithme 2). L'algorithme emploie des tailles de lots croissantes ($m_k \propto k$) et des tailles de pas décroissantes.

  • Analyse de Convergence : Les auteurs dérivent des taux de convergence non asymptotiques pour le dernier itéré (ou l'itéré moyenné) sous trois scénarios :
    1. Fortement Convexe : Taux de convergence de $O(1/n)$ pour l'erreur de paramètre.
    2. Convexe : Taux de convergence de $O(1/\sqrt{n})$ pour l'erreur de la valeur de l'objectif.
    3. Non-Convexe : Taux de convergence de $O(1/\sqrt{n})$ pour la norme de l'espérance du carré du gradient.
       L'analyse prend en compte le biais et la variance de l'estimateur de gradient et s'applique tant aux contextes en ligne (où les échantillons sont interrogés dynamiquement) qu'hors ligne (jeux de données fixes).

Principales Contributions

1. Extension aux Variables Non Bornées : Le papier fournit une extension théorique rigoureuse de l'UBSR aux variables aléatoires non bornées, une lacune identifiée dans la littérature antérieure qui supposait souvent un support borné ou traitait cette extension comme triviale.
2. Bornes d'Estimation Non Asymptotiques : Des preuves inédites sont fournies pour les bornes de MAE et de MSE de l'estimateur SAA pour les variables non bornées, établissant des taux de $O(1/\sqrt{m})$ et $O(1/m)$ sans nécessiter la continuité de Lipschitz ou la convexité de la fonction de perte dans tous les cas.
3. Estimateur de Gradient Multivarié : Contra�à les travaux antérieurs restreints aux paramètres scalaires, ce papier dérive une expression générale du gradient de l'UBSR par rapport à un paramètre vectoriel $\theta$ et propose un estimateur correspondant avec des bornes d'erreur non asymptotiques prouvées.
4. Algorithme SG avec Garanties en Échantple Fini : Les auteurs proposent un algorithme de gradient stochastique pour l'optimisation de l'UBSR et dérivent des taux de convergence en échantplé fini pour des objectifs fortement convexes, convexes et non convexes, répondant au défi de l'optimisation avec des informations de gradient biaisées.
5. Validation Empirique : Les algorithmes sont testés sur des applications financières, incluant l'estimation de la VaR, la minimisation du risque entropique et l'optimisation de portefeuille en utilisant des jeux de données réels (S&P 500, FTSE 100, Nasdaq).

Résultats

• Estimation : Les simulations démontrent que l'algorithme UBSR-SB converge rapidement, les erreurs d'estimation (MAE et MSE) diminuant en $O(1/\sqrt{m})$ et $O(1/m)$ respectivement, conformément aux bornes théoriques.
• Optimisation : Dans les expériences d'optimisation de portefeuille, l'algorithme UBSR-SG (et sa variante hors ligne) a produit des portefeuilles comparables ou supérieurs aux références standards telles que le portefeuille à pondération égale (Equal-Weighted) et le portefeuille de CVaR minimum à travers plusieurs indices boursiers.
• Convergence : L'analyse théorique confirme que le processus SG proposé atteint les taux de convergence dérivés, validant l'utilité de la stratégie d'augmentation de la taille des lots pour gérer le compromis biais-variance de l'estimateur de gradient.

Signification et Revendications

Le papier affirme poser les fondements de l'estimation et de l'optimisation de l'UBSR dans un cadre plus large que ce qui était possible auparavant (variables non bornées) avec des garanties computationnelles plus fortes (bornes non asymptotiques). Les auteurs soulignent que leur travail traite des aspects computationnels de l'UBSR, allant au-delà des propriétés théoriques pour fournir des algorithmes pratiques avec des garanties de performance prouvables.

La signification est mise en évidence dans le contexte des applications financières (optimisation de portefeuille), ainsi que de l'apprentissage en ligne sensible au risque (bandits multi-bras, apprentissage fédéré), où la capacité d'optimiser des mesures de risque avec des pertes non bornées et des paramètres vectoriels est cruciale. Les auteurs notent que leur approche est plus générale que les cadres d'optimisation robuste existants qui requièrent souvent des distributions discrètes, un support borné ou des jeux de données hors ligne. Ce travail positionne l'UBSR comme une alternative supérieure à la CVaR et à la VaR pour les tâches d'estimation et d'optimisation, grâce à ses propriétés désirables (élicibilité, invariance de la randomisation).

Le papier conclut en suggérant des travaux futurs pour le développement de méthodes basées sur Newton pour l'optimisation de l'UBSR, en exploitant l'expression du gradient dérivée.