Portfolio Optimization Proxies under Label Scarcity and Regime Shifts via Bayesian and Deterministic Students under Semi-Supervised Sandwich Training

Cet article propose un cadre d'optimisation de portefeuille assisté par l'apprentissage automatique, utilisant un pipeline enseignant-élève avec des données synthétiques et un apprentissage semi-supervisé, pour améliorer la robustesse et la performance des modèles face à la pénurie de données et aux changements de régime de marché.

L'essentiel

🎓 Le Chef Cuisinier et ses Apprentis : Une nouvelle façon de gérer l'argent

Imaginez que vous voulez investir votre argent pour le faire fructifier, mais que vous avez deux gros problèmes :

1. Vous avez très peu de données : Vous n'avez que quelques années d'historique de marché pour apprendre (comme un étudiant qui n'a lu que deux livres avant un examen).
2. Le marché change tout le temps : Parfois tout va bien, parfois c'est la panique. C'est comme si la météo changeait toutes les 5 minutes.

Les méthodes traditionnelles (comme la célèbre formule de Markowitz) sont comme des GPS rigides. Elles fonctionnent bien quand la route est droite et le temps beau, mais dès qu'il y a un orage ou un embouteillage imprévu, elles vous donnent des directions catastrophiques.

Ce papier propose une solution intelligente : un système d'apprentissage par "imitation" avec un peu de magie mathématique.

1. Le Maître (Le "Professeur") : Le Cuisinier de la Sécurité

L'équipe a d'abord créé un "Maître" virtuel. Ce n'est pas un humain, mais un algorithme très prudent appelé CVaR (Value at Risk Conditionnelle).

• L'analogie : Imaginez un chef cuisinier obsédé par la sécurité alimentaire. Il ne cuisine pas pour être le plus rapide ou le plus créatif, mais pour s'assurer que jamais personne ne tombe malade, même si un ingrédient est avarié.
• Son rôle : Ce chef calcule la meilleure façon de répartir l'argent pour éviter les pertes catastrophiques. Il génère les "recettes" parfaites (les étiquettes) pour apprendre aux autres.

2. Les Apprentis (Les "Étudiants") : Les Cerveaux Artificiels

Ensuite, ils ont créé quatre "apprentis" (des modèles d'intelligence artificielle) pour apprendre à copier le Maître.

• Les Apprentis "Classiques" (Déterministes) : Ils apprennent par cœur les recettes. Si le Maître dit "mets 10% d'or", ils mettent 10%. Mais ils sont un peu rigides.
• Les Apprentis "Bayésiens" (La star du papier) : Ceux-ci sont spéciaux. Au lieu d'avoir une seule réponse, ils ont un doute. Ils se disent : "Le Maître dit 10%, mais je ne suis sûr qu'à 80% que c'est la bonne chose à faire dans ce contexte."
  • L'analogie : C'est comme un apprenti qui, au lieu de foncer tête baissée, regarde autour de lui et dit : "Je vais avancer, mais doucement, au cas où il y aurait un piège."

3. La Méthode "Sandwich" : Apprendre avec des Faux-Positifs

Le problème, c'est qu'il y a très peu de "vraies" recettes (données réelles) pour entraîner les apprentis.

• La solution : Ils ont créé une pâte à modeler synthétique. Ils ont inventé des milliers de scénarios de marché fictifs (des tempêtes, des crises, des jours ensoleillés) basés sur la réalité, mais en plus grand nombre.
• Le "Sandwich" :
  1. Tranche de pain (Haut) : L'apprenti regarde les vraies recettes du Maître.
  2. Garniture (Milieu) : L'apprenti s'entraîne sur des milliers de scénarios fictifs pour comprendre la structure du risque, pas juste la recette exacte.
  3. Tranche de pain (Bas) : On revient aux vraies recettes pour vérifier qu'il n'a pas oublié.

C'est comme si un élève lisait un vrai manuel, puis s'entraînait sur des milliers de jeux vidéo de simulation, avant de repasser un vrai examen.

4. Les Résultats Surprenants

Voici ce qui s'est passé quand ils ont testé ces apprentis sur le vrai marché :

• Moins de "Nervosité" (Réduction des frais) :
  Les apprentis classiques (non-Bayésiens) changeaient d'avis trop souvent, achetant et vendant frénétiquement. Cela coûte cher en frais de transaction.
  Les apprentis Bayésiens, grâce à leur "doute", étaient plus calmes. Ils ne changeaient de stratégie que s'ils étaient vraiment sûrs. Résultat : ils ont réduit leurs transactions de moitié, économisant ainsi beaucoup d'argent sans même que l'on ait demandé explicitement de le faire ! C'est une propriété "magique" qui émerge toute seule.

• Le Paradoxe de la Tempête (La généralisation) :
  C'est le résultat le plus fou. Ils ont testé les modèles sur un tout nouveau groupe d'actifs (des actions qu'ils n'avaient jamais vues).

  • En temps calme : Les modèles ont bien performé.
  • En temps de crise (Haute Volatilité) : Les modèles sont devenus encore meilleurs sur le nouveau groupe d'actifs que sur l'ancien !
  • Pourquoi ? Parce qu'ils ont appris à reconnaître les signaux de danger (comme un pilote qui sent l'orage) et à se protéger. Quand le marché est chaotique, ils savent exactement comment se placer pour se protéger, peu importe les nouvelles actions. C'est comme si un pompier, une fois formé sur un type de feu, savait éteindre n'importe quel autre feu, même plus grand.

🏆 En Résumé

Ce papier nous dit que pour gérer l'argent dans un monde imprévisible :

1. Ne faites pas confiance à un algorithme qui croit tout savoir (les modèles classiques).
2. Utilisez un algorithme qui sait qu'il ne sait pas tout (le modèle Bayésien).
3. Entraînez-le avec des scénarios fictifs pour qu'il comprenne la logique du risque, pas juste les chiffres.

Le résultat ? Une stratégie qui gagne de l'argent, qui perd moins en cas de crise, et qui ne gaspille pas d'argent en frais de transaction inutiles. C'est une approche plus sage, plus humaine, et plus robuste pour investir.

Résumé technique

1. Problématique et Contexte

L'article aborde les limitations persistantes de l'optimisation de portefeuille classique (Markowitz, CVaR) dans des environnements de marché réels :

• Scarcité des données étiquetées : Les données financières sont bruyantes, non stationnaires et comportent des queues épaisses (fat tails). Avec un nombre d'observations étiquetées limité (ici $N=104$ semaines étiquetées) face à une grande dimensionnalité des caractéristiques ($P=576$), les modèles d'apprentissage profond classiques souffrent de surapprentissage (overfitting).
• Fragilité des estimateurs : Les optimiseurs classiques sont sensibles aux petites erreurs d'estimation des rendements attendus et de la covariance, entraînant des changements drastiques de poids et un turnover élevé.
• Absence de gestion de l'incertitude : Les modèles déterministes ne fournissent pas de mesures d'incertitude, ce qui les rend vulnérables lors des changements de régime de marché (regime shifts).
• Contraintes d'exécution : Il est difficile d'intégrer analytiquement des contraintes réalistes (frais de transaction, limites de turnover, bornes de position) sans sacrifier la convexité ou la tractabilité.

L'objectif est de développer un cadre d'apprentissage automatique capable de généraliser des stratégies d'optimisation robustes dans des environnements à faible données et sous incertitude de régime.

2. Méthodologie : Apprentissage par Distillation "Sandwich"

L'auteur propose un pipeline d'apprentissage enseignant-élève (Teacher-Student) combinant l'optimisation mathématique et l'apprentissage profond bayésien, utilisant une approche semi-supervisée appelée "Sandwich Training".

A. L'Enseignant (Teacher)

• Rôle : Générer des étiquettes de supervision (poids de portefeuille optimaux).
• Méthode : Un optimiseur minimisant le CVaR (Conditional Value at Risk) à 95%. Contrairement à la maximisation du ratio de Sharpe, le CVaR se concentre sur la minimisation des pertes extrêmes (risque de queue), ce qui le rend plus robuste aux distributions non gaussiennes.
• Données : L'enseignant est résolu sur 104 observations réelles et 323 observations synthétiques.

B. Génération de Données Synthétiques

Pour pallier le manque de données réelles étiquetées, l'auteur génère des trajectoires de marché synthétiques :

• Modèle : Un modèle à facteurs (Fama-French + Momentum) avec des résidus modélisés par une copule-t.
• Avantage : La copule-t préserve la dépendance de queue (tail dependence) entre les actifs, cruciale pour l'entraînement au risque, contrairement aux copules gaussiennes.
• Volume : 1 400 semaines simulées, échantillonnées pour créer environ 323 paires supplémentaires d'étiquettes.

C. L'Élève (Student) et Architectures

Quatre modèles étudiants sont entraînés pour approximer le comportement de l'enseignant :

1. DNN-sup : Réseau de neurones déterministe, uniquement supervisé.
2. BNN-sup : Réseau de neurones bayésien (BNN), uniquement supervisé.
3. DNN-S : Réseau déterministe avec entraînement "Sandwich".
4. BNN-S : Réseau bayésien avec entraînement "Sandwich" (le modèle proposé).

Le paradigme "Sandwich Training" (Semi-supervisé) :
L'entraînement alterne entre trois phases :

1. Phase Supervisée (S0) : Imitation des étiquettes de l'enseignant (CVaR) sur les données réelles et synthétiques étiquetées.
2. Phase Non Supervisée (S1) : Entraînement sur des fenêtres de scénarios de retour non étiquetés (synthétiques) en minimisant le CVaR empirique et en appliquant une régularisation par entropie pour la diversification.
3. Phase d'Ancrage (S2) : Retour à une phase supervisée pour réaligner la politique avec les préférences de risque de l'enseignant.

D. Architecture Bayésienne

Les modèles BNN remplacent certaines couches linéaires par des couches variationnelles. Au lieu d'estimer un seul point pour les poids, ils apprennent une distribution a posteriori.

• Inférence : Utilisation de l'échantillonnage Monte Carlo (20 passes) pour moyenner les prédictions, fournissant une estimation naturelle de l'incertitude.
• Contraintes : La sortie est contrainte au simplexe de probabilité via une couche Softmax, garantissant des poids positifs et sommant à 1.

3. Contributions Clés

1. Cadre d'Optimisation-Proxy pour la Finance : Première application du paradigme "Sandwich Training" (initialement conçu pour les réseaux électriques) à l'optimisation de portefeuille, utilisant un optimiseur CVaR comme enseignant pour guider l'apprentissage dans des conditions de données rares.
2. Pipeline BNN à Faible Données : Intégration de la génération de données synthétiques (copule-t) avec des réseaux bayésiens pour fournir des estimations d'incertitude calibrées, empêchant l'engagement excessif du modèle lors de changements de régime.
3. Réduction Implicite du Turnover : Découverte d'une propriété émergente : les modèles bayésiens régulent automatiquement leur turnover hebdomadaire à 11-14% (contre ~24% pour les modèles déterministes), sans pénalité explicite dans la fonction de perte. Cela réduit les coûts de transaction d'environ 50%.
4. Généralisation Hiérarchique ("HIGHVOL Paradox") : Mise en évidence d'un résultat contre-intuitif où les modèles entraînés sur des indices agrégés surperforment lors de tests sur un univers d'actifs disjoint (D2A) spécifiquement en périodes de forte volatilité (amélioration du ratio de Sharpe de +140% à +276%).

4. Résultats Expérimentaux

L'évaluation a été menée sur trois niveaux : stabilité d'entraînement (GRID_3x5), marché réel in-distribution (C2A), et généralisation hors-distribution (D2A).

• Efficacité de Pareto : Le modèle BNN-S (Bayésien + Sandwich) occupe la région de Pareto optimale, offrant un ratio de Sharpe élevé avec un risque de queue (CVaR) environ 2,4 fois meilleur que l'optimisation Moyenne-Variance.
• Régulation du Turnover : Les modèles bayésiens réduisent naturellement le turnover grâce à l'intégration de l'incertitude des paramètres (les décisions de rééquilibrage sont atténuées si l'incertitude est élevée), évitant le sur-ajustement aux signaux bruyants.
• Performance en Réel (C2A et D2A) :
  • Sur les données réelles (2022-2026), BNN-S atteint un ratio de Sharpe annuel de 2,44 (C2A) et 1,94 (D2A).
  • Le Paradoxe HIGHVOL : Lors des périodes de forte volatilité, la performance du modèle sur l'univers disjoint (D2A) s'améliore considérablement par rapport à l'univers d'entraînement. Cela suggère que le modèle a appris des heuristiques de réduction du risque (ex: rotation vers des facteurs défensifs) qui sont mieux exploitées lorsque l'univers de test offre des instruments de couverture plus granulaires (ETF sectoriels, low-vol).
• Robustesse aux Contraintes : Le modèle BNN-S est presque insensible aux contraintes d'exécution strictes (L3) sur les données d'entraînement, tandis que les modèles déterministes bénéficient de contraintes explicites pour corriger leur sur-confiance hors-distribution.

5. Signification et Implications

• Théorique : L'article démontre que la distillation de connaissances peut transférer la structure d'une optimisation robuste (CVaR) plutôt que de mémoriser des solutions spécifiques. Il valide l'efficacité de l'apprentissage semi-supervisé "Sandwich" dans un domaine non stationnaire.
• Pratique :
  • Réduction des coûts : La régulation implicite du turnover par l'approche bayésienne offre une économie de coûts de transaction significative sans complexité algorithmique supplémentaire.
  • Gestion du risque : L'incertitude bayésienne agit comme un régulateur naturel contre le sur-ajustement, rendant les stratégies plus résilientes face aux changements de régime de marché.
  • Déploiement Retail : Le cadre est conçu pour être applicable aux systèmes de gestion de portefeuille de détail, utilisant des ETFs liquides et des fréquences de rééquilibrage hebdomadaires.

En conclusion, cette étude propose une voie prometteuse pour construire des politiques de portefeuille qui sont à la fois incertitude-conscientes, respectueuses des contraintes et robustes face à la rareté des données et à la non-stationnarité des marchés financiers.