💻 informatique

Deeper network methods for solving 3D American Heston-CIR model

Ce document propose trois méthodes de réseaux plus profonds — SoftNet, LinNet et AddNet — utilisant l'ensemble multiplicatif de sous-réseaux avec réutilisation de caractéristiques, agrégation linéaire et sorties précoces pour résoudre efficacement le modèle américain Heston-CIR 3D tout en atténuant la disparition du gradient et la dégradation des performances dans les architectures profondes.

Auteurs originaux : Chinonso Nwankwo, Weizhong Dai

Publié 2026-10-22

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Chinonso Nwankwo, Weizhong Dai

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Dans le monde de la finance, prédire le prix futur d'un actif est un jeu de probabilité à enjeux élevés. Les investisseurs et les banques s'appuient sur des modèles mathématiques complexes pour déterminer la valeur des options, qui sont des contrats donnant le droit d'acheter ou de vendre quelque chose à un prix spécifique à une certaine date. L'un des défis les plus difficiles dans ce domaine est l'évaluation des options « américaines ». Contrairement à leurs homologues européennes, qui ne peuvent être exercées qu'à une date unique et spécifique, les options américaines peuvent être exercées à tout moment avant leur expiration. Cette flexibilité crée une cible mouvante : le modèle doit constamment calculer non seulement la valeur de l'option, mais aussi le moment exact où il est le plus rentable de retirer ses profits. Ce moment critique est connu sous le nom de frontière d'exercice anticipé. Lorsque le modèle implique plusieurs facteurs changeants — tels que le prix de l'actif, la volatilité de ce prix et des taux d'intérêt fluctuants — le problème devient un puzzle tridimensionnel notoirement difficile à résoudre avec les méthodes informatiques traditionnelles.

Pendant des décennies, les scientifiques se sont tournés vers l'intelligence artificielle, et plus précisément l'apprentissage profond (deep learning), pour s'attaquer à ces puzzles complexes. Ces programmes informatiques, connus sous le nom de réseaux de neurones, sont conçus pour apprendre des schémas à partir de données en empilant des couches d'unités de traitement. Plus l'empilement est profond, plus les schémas complexes que le réseau peut théoriquement comprendre sont importants. Cependant, un problème persistant a tourmenté ces réseaux profonds : à mesure qu'ils grandissent, ils deviennent souvent instables. Les signaux utilisés pour enseigner au réseau peuvent s'estomper ou exploser en magnitude avant d'atteindre les couches supérieures, provoquant l'échec du système à apprendre quoi que ce soit d'utile. Ce phénomène, souvent appelé effet de disparition du gradient (vanishing gradient effect), a historiquement limité la profondeur de ces réseaux, en particulier pour les problèmes non linéaires complexes rencontrés dans les mathématiques financières.

Dans une étude récente, les chercheurs Chinonso Nwankwo et Weizhong Dai ont cherché à briser cette barrière. Ils se sont concentrés sur un modèle financier spécifique et hautement complexe appelé modèle américain Heston-CIR, qui suit simultanément trois éléments mobiles : le prix de l'actif, sa volatilité et le taux d'intérêt. Leur objectif était de concevoir un nouveau type de réseau de neurones capable de s'entraîner efficacement avec beaucoup plus de couches que jamais, lui permettant de capturer les comportements subtils et irréguliers du marché sans s'effondrer sous sa propre complexité. Au lieu de simplement empiler davantage de couches les unes sur les autres, ils ont inventé trois stratégies architecturales distinctes, qu'ils ont nommées SoftNet, LinNet et AddNet. Ces nouveaux designs ont été conçus pour contourner les limitations qui empêchaient auparavant les réseaux profonds de fonctionner sur des tâches aussi difficiles.

Les chercheurs ont commencé par tester les limites des réseaux standards et conventionnels. Ils ont constaté que lorsqu'ils tentaient d'utiliser un design traditionnel avec seulement treize couches cachées, le réseau performait mal. Il échouait à prédire avec précision la valeur des options ou le point auquel elles devraient être exercées. Plus le réseau devenait profond, plus il devenait médiocre, confirmant que l'approche standard heurtait un mur. Pour corriger cela, l'équipe a introduit ses trois nouvelles méthodes. La première, SoftNet, fonctionne en divisant le réseau en blocs plus petits et en les connectant d'une manière qui permet de réutiliser et de partager l'information efficacement, un peu comme un train où chaque wagon transmet sa cargaison au suivant tout en conservant sa propre charge. Ce design a permis au réseau de devenir plus profond sans perdre le signal. La deuxième méthode, AddNet, adopte une approche différente en créant de multiples « sorties anticipées » (early exits) au sein du réseau. Au lieu de forcer chaque information à voyager jusqu'au bout, le réseau prend des décisions partielles à diverses étapes et les combine à la fin. Cela garantit que même si les couches les plus profondes peinent, les couches antérieures et moins profondes apportent toujours des informations précieuses.

Le troisième design, le plus efficace, est LinNet, qui combine le meilleur des deux mondes. Il utilise un système d'addition d'unités linéaires avant de les faire passer par des blocs de traitement spécialisés. Cette structure empêche le coût computationnel d'exploser à mesure que le réseau s'approfondit, ce qui le rend hautement efficace. Les chercheurs ont poussé LinNet à un extrême niveau de profondeur, l'entraînant avec jusqu'à cent couches cachées. De manière remarquable, contrairement aux réseaux conventionnels qui échouaient à treize couches, LinNet a maintenu une grande précision, même à cette profondeur extrême. Les résultats ont montré que ces nouvelles architectures pouvaient prédire la valeur des options et la frontière d'exercice anticipé avec un niveau de précision qui égale ou dépasse les méthodes mathématiques établies et hautement respectées. Les réseaux ont réussi à cartographier les surfaces complexes des données financières, y compris les dérivés sensibles connus sous le nom de « Grecs », qui mesurent comment le prix de l'option réagit aux faibles changements du marché.

Une découverte clé de l'étude a été que ces nouveaux réseaux ont réussi sans dépendre des filets de sécurité habituels que les experts en apprentissage profond utilisent typiquement pour prévenir les erreurs, tels que le dropout ou la normalisation par lots (batch normalization). Les chercheurs ont démontré que la manière spécifique dont ils ont structuré les couches — en utilisant des fonctions d'activation spéciales et l'ensemblage multiplicatif — était suffisante pour maintenir la stabilité du réseau. Ils ont également découvert qu'en concentrant leurs données d'entraînement dans les zones les plus difficiles du problème, spécifiquement près des frontières où le comportement du marché est le plus erratique, les réseaux apprenaient beaucoup plus rapidement et avec plus de précision. L'étude a conclu que si le deep learning standard heurte un mur autour de treize couches pour ce type de problème, les nouvelles architectures SoftNet, AddNet et LinNet peuvent aller beaucoup plus loin, LinNet s'avérant particulièrement robuste et efficace. Ce travail suggère qu'en repensant la construction des réseaux de neurones, plutôt qu'en les rendant simplement plus grands, les scientifiques peuvent résoudre certains des problèmes les plus tenaces de la modélisation financière, ouvrant la voie à une tarification plus précise des instruments financiers complexes du monde réel.

Résumé Technique : Méthodes de Réseaux Profonds pour la Résolution du Modèle Américain Heston-CIR en 3D

Énoncé du Problème
L'article traite du défi que représente la résolution du modèle Heston-CIR américain en trois dimensions, une équation aux dérivées partielles (EDP) financière complexe impliquant une frontière libre (la frontière d'exercice anticipé). Le modèle intègre trois facteurs stochastiques : le prix de l'actif sous-jacent ( $S$ ), la variance ( $\upsilon$ ) et le taux d'intérêt ( $r$ ). L'objectif est d'approximer simultanément la fonction de valeur ( $V$ ), la frontière d'exercice anticipé ( $\hat{s}_f$ ) et les Grecs (dérivées de la fonction de valeur).

Les auteurs identifient une limitation critique des approches de deep learning conventionnelles pour cette tâche spécifique : les réseaux de neurones profonds (DNN) classiques dotés d'unités softmax souffrent d'une dégradation des performances, d'un surapprentissage et de l'effet de disparition du gradient lorsque la profondeur du réseau dépasse environ 13 couches cachées. Bien que des architectures comme DenseNet et ResNet aient réussi dans la classification d'images (CNN), leur application directe à des problèmes de régression non linéaires dans la modélisation financière de haute dimension s'est avérée inadaptée, particulièrement face aux singularités et aux irrégularités présentes près de la frontière d'exercice anticipé.

Méthodologie
Pour surmonter les limites des DNN conventionnels, les auteurs proposent trois nouvelles architectures de réseaux : SoftNet, LinNet et AddNet. Ces trois modèles utilisent une stratégie d'« ensemblage multiplicatif », combinant une sous-architecture principale profonde avec des sous-architectures de soutien légères pour satisfaire exactement les conditions terminales.

SoftNet (Réutilisation de caractéristiques via concaténation) :
- Structure : Composée d'une première sous-architecture profonde et d'une seconde sous-architecture peu profonde (deux couches cachées).
- Mécanisme : La première sous-architecture est construite à l'aide de « blocs softmax » (sous-réseaux avec activation softmax). Elle utilise la réutilisation de caractéristiques via la concaténation de connexions raccourcies entre ces blocs, inspirée de DenseNet mais adaptée à la régression.
- Conception : L'entrée de chaque bloc softmax suivant (à partir du troisième bloc) est la concaténation des caractéristiques d'entrée originales et des sorties des blocs précédents. Une variante modulaire, M-SoftNet, est également introduite, utilisant plusieurs voies avec différentes stratégies de réutilisation de caractéristiques (dense, partielle et aucune) qui sont concaténées avant l'ensemblage final.
AddNet (Sorties précoces et Multi-Mixture) :
- Structure : Conçue pour être efficace en termes de ressources, utilisant des sorties précoces (sorties locales) à partir des couches intermédiaires de la sous-architecture principale profonde.
- Mécanisme : Le réseau génère $n$ solutions de deep learning à mélange unique. Chaque solution est formée par l'ensemblage multiplicatif d'une sortie d'une « sortie locale » (ou de la couche finale) de l'architecture principale avec les sorties de deux sous-architectures de soutien peu profondes.
- Ensemblage : Ces $n$ solutions sont ensuite assemblées de manière additive avec des poids adaptatifs ( $\hat{\pi}_j$ ). Les auteurs proposent une stratégie de pondération adaptative où les sorties locales plus peu profondes se voient attribuer des poids plus élevés à mesure que la profondeur du réseau augmente, atténuant ainsi l'impact de la disparition du gradient dans les couches profondes.
LinNet (Agrégation d'unités linéaires) :
- Structure : La plus efficace des trois, conçue pour être entraînée avec une profondeur extrême (jusqu'à 100 couches cachées).
- Mécanisme : Au lieu de concaténer les caractéristiques (ce qui augmente la largeur et le coût computationnel), LinNet utilise l'agrégation systématique d'unités linéaires. Elle alterne entre des « blocs softmax » et des « unités d'agrégation » où les sorties linéaires sont sommées avant d'être transmises au bloc softmax suivant.
- Stabilité : Les auteurs soutiennent que la fonction d'activation softmax agit comme un mécanisme de classification qui contrôle la croissance des unités linéaires combinées, assurant la stabilité numérique sans nécessiter de techniques de régularisation explicites comme le dropout ou la normalisation par lots (batch normalization).

Contributions Clés

Innovation Architecturale : La proposition de trois architectures de réseaux profonds distinctes (SoftNet, LinNet, AddNet) spécifiquement adaptées à la résolution de problèmes de prix d'options américaines en 3D, allant au-delà des approches standard basées sur les CNN ou les DNN conventionnels.
Atténuation de la Disparition du Gradient : Les conceptions contournent avec succès l'effet de disparition du gradient qui frappe les DNN conventionnels au-delà de 13 couches. Les auteurs démontrent que si les DNN standards échouent à la profondeur 13, leurs modèles proposés maintiennent une précision prédictive à des profondeurs de 25, 35, 52 et même 100 couches (spécifiquement pour LinNet).
Imposition Exacte de la Condition Terminale : Tous les modèles intègrent une couche d'ensemblage multiplicatif avec une seconde sous-architecture peu profonde conçue pour que les conditions terminales (ex: $V=0$ à l'échéance) soient satisfaites sous forme exacte, éliminant les termes de biais des couches cachées.
Gestion des Singularités : La méthodologie inclut une stratégie d'étirement de grille utilisant la fonction sinus hyperbolique pour concentrer les points d'échantillonnage près de la singularité en $(0,0,0,0)$ , où la frontière d'exercice anticipé présente des irrégularités.

Résultats Expérimentaux
Les modèles ont été testés sur le modèle Heston-CIR 3D avec des paramètres incluant des prix d'exercice ( $K$ ), des échéances ( $T$ ) et des plages de volatilité/taux d'intérêt variables.

Performance vs Profondeur : Les DNN conventionnels (C-DNN) avec 13 couches cachées produisent de mauvais résultats (ex: erreurs de la fonction de valeur > 9.0 contre une référence de ~1.36). En revanche, SoftNet, AddNet et LinNet avec 13+ couches produisent des résultats cohérents avec les méthodes numériques établies (Boyarchenko & Levendorskii, Medvedev & Scaillet, Longstaff & Schwartz).
Efficacité de LinNet : LinNet a démontré la plus grande efficacité, atteignant une performance prédictive raisonnable avec jusqu'à 100 couches cachées. Elle a nécessité le temps d'entraînement et de prédiction le plus faible par rapport à SoftNet et AddNet.
Précision : Les modèles ont prédit avec précision la fonction de valeur, la frontière d'exercice anticipé et les Grecs (Delta, Gamma, Vega, Rho, Vanna, Vomma). Les surfaces prédites étaient lisses, et les Grecs se situaient dans les limites théoriques attendues (ex: Delta dans $[-1, 0]$ pour les puts).
Sensibilité du Jeu de Données : Les expériences ont montré qu'augmenter la taille du jeu de données d'entraînement (de $10^4$ à $14^4$ points) améliorait généralement les performances, particulièrement pour M-SoftNet-10.

Signification et Revendications
L'article affirme que le trio de réseaux proposé (SoftNet, LinNet, AddNet) offre une solution viable pour l'entraînement de réseaux de neurones profonds sur des EDP financières complexes de haute dimension là où les architectures conventionnelles échouent.

LinNet est mise en avant comme la solution la plus efficace, capable de s'entraîner avec 100 couches cachées sans régularisation, ce qui la rend adaptée aux environnements à ressources limitées et aux tâches extrêmement profondes.
SoftNet et AddNet fournissent des stratégies alternatives (réutilisation de caractéristiques et sorties précoces, respectivement) qui atténuent également la disparition du gradient, bien que SoftNet incurre des coûts computationnels plus élevés dus à la concaténation.
Les auteurs notent modestement que bien que leurs modèles fonctionnent bien sans régularisation, l'inclusion de techniques comme le dropout ou la normalisation par lots pourrait encore améliorer la généralisation pour des tâches de dimension supérieure et encore plus complexes. Ils positionnent ce travail comme un fondement pour de futures recherches sur la paramétrisation complète des modèles de prix américains impliquant des matrices de corrélation et des dimensions plus élevées.

Articles similaires