Résumé technique : Ensembles de Rashomon contraints par l'horizon pour la prévision chaotique

Énoncé du problème

La multiplicité prédictive (l'existence de multiples modèles d'exactitude équivalente mais de prévisions divergentes) et les dynamiques chaotiques (où de petites différences initiales entraînent des résultats divergeant de manière exponentielle) sont deux défis fondamentaux en apprentissage automatique qui ont historiquement évolué de manière isolée. Si l'effet Rashomon est bien caractérisé dans les tâches de prédiction statique, les cadres existants ne parviennent pas à prendre en compte les dynamiques temporelles. Inversement, la littérature sur la prévision chaotique optimise généralement un seul modèle « optimal » sans caractériser la multiplicité des alternatives également exactes.

Cette déconnexion crée des risques critiques dans les applications critiques pour la sécurité (par exemple, la dispatching de l'énergie éolienne, la gestion du trafic, la prévision météorologique). Dans les systèmes chaotiques, des modèles qui s'accordent sur des prévisions à court terme peuvent diverger de manière exponentielle à mesure que l'horizon de prévision s'étend. Les méthodes de sélection actuelles, qui reposent sur des métriques d'exactitude statiques comme l'erreur quadratique moyenne (RMSE), manquent d'une méthode rigoureuse pour choisir parmi des modèles quasi-optimaux lorsque l'utilité en aval dépend du comportement à long terme. Cet article comble ce vide en examinant comment le chaos transforme la structure de l'équivalence prédictive au fil du temps et comment sélectionner des modèles qui maximisent l'utilité décisionnelle en aval plutôt que la seule exactitude de la prévision.

Méthodologie

Cadre théorique

Les auteurs introduisent les Ensembles de Rashomon contraints par l'horizon, une extension théorique de l'ensemble de Rashomon classique qui varie en fonction du délai de prévision $k$.

• Définition : Pour un délai de prévision $k$ et une tolérance $\epsilon_k$, l'ensemble $R^{(k)}_{\epsilon_k}$ contient tous les modèles $h$ dont la perte $L_k(h)$ est comprise dans $\epsilon_k$ de la perte optimale $L^*_k$.
• Contraction exponentielle : L'article démontre (Théorème 1) que dans les systèmes chaotiques, la taille effective de cet ensemble se contracte de manière exponentielle avec le délai de prévision. Le taux de contraction est régi par l'exposant de Lyapunov maximal ($\lambda_{max}$), qui quantifie la sensibilité du système aux conditions initiales.
• Métriques pondérées par Lyapunov : Pour répondre à l'importance variable des différents horizons, les auteurs proposent des ratios de Rashomon pondérés par Lyapunov (Définition 2). Ces métriques pondèrent le désaccord entre les modèles par un facteur de décroissance exponentielle $e^{-\lambda_{max}k}$, fournissant des bornes plus serrées sur l'ambiguïté prédictive effective que les métriques classiques non pondérées (Théorème 2).

Approche algorithmique

L'article développe des Algorithmes de sélection alignés sur la décision (Algorithme 1) qui sélectionnent des modèles à partir de l'ensemble de Rashomon variant dans le temps, en se basant sur des fonctions d'utilité en aval plutôt que sur l'erreur de prévision.

• Processus : L'algorithme échantillonne des modèles à partir de l'intersection des ensembles contraints par l'horizon, calcule l'action en aval optimale pour chaque modèle à divers horizons, et agrège l'utilité en utilisant des poids de Lyapunov.
• Convergence : L'analyse théorique (Théorème 3) établit des bornes de complexité d'échantillonnage pour ce processus de sélection, montrant que la taille d'échantillon requise croît de manière exponentielle avec l'horizon décisionnel effectif pondéré par l'exposant de Lyapunov.

Mise en œuvre expérimentale

• Construction du modèle : Les auteurs construisent des ensembles de Rashomon en énumérant systématiquement des variantes d'ordinateurs à réservoir. Ils font varier les hyperparamètres, notamment la taille du réservoir ($N_r$), le rayon spectral ($\rho$), la parcimonie ($p$) et le taux de fuite ($\alpha$), aboutissant à 1 080 configurations candidates.
• Estimation de Lyapunov : L'exposant de Lyapunov maximal est estimé à l'aide de l'algorithme de Rosenstein sur des espaces de phase à retard temporel, vérifié contre des vérités de terrain synthétiques.
• Tolérance adaptative : La tolérance $\epsilon_k$ est définie de manière adaptative en fonction de la plage de performance empirique à chaque horizon, garantissant que la taille de l'ensemble reste gérable (10 à 100 modèles) tout en reflétant l'équivalence spécifique à l'horizon.

Résultats clés

Systèmes synthétiques

Les expériences sur les systèmes Lorenz-96 et Kuramoto-Sivashinsky valident les affirmations théoriques :

• Contraction de l'ensemble : Les mesures empiriques confirment que la cardinalité de l'ensemble de Rashomon décroît de manière exponentielle avec le délai de prévision, les taux de décroissance correspondant étroitement aux prédictions théoriques basées sur $\lambda_{max}$ ($R^2 > 0,95$).
• Intensité du chaos : L'augmentation de l'intensité du chaos (via le paramètre de forçage $F$) accélère la contraction de l'ensemble. Pour un chaos fort, l'ensemble s'effondre à moins de 10 modèles d'ici l'horizon 30, tandis qu'un chaos plus faible conserve environ 50 modèles.

Applications réelles

Le cadre a été évalué sur trois jeux de données réels : SDWPF Wind Power, METR-LA Traffic et ERA5 Weather.

• Utilité décisionnelle : La méthode de sélection alignée sur la décision proposée a amélioré la qualité des décisions en aval de 18 à 34 % par rapport aux bases de référence (Meilleur unique, Moyenne d'ensemble, Sélection aléatoire).
• Dépendance à l'horizon : Les améliorations étaient monotones avec l'horizon de prévision. Par exemple, dans l'énergie éolienne, les gains d'utilité sont passés de 18,4 % à 6 heures à 27,2 % à 24 heures. Dans le trafic, les gains sont passés de 21,3 % (30 min) à 31,7 % (60 min).
• Diversité architecturale : L'inclusion de familles de modèles diversifiées (Réservoirs, CNN, Transformers) dans le pool candidat a généré des gains d'utilité supplémentaires (jusqu'à 38 %) par rapport à la sélection au sein d'une seule famille, suggérant que la diversité architecturale complète la diversité des hyperparamètres.

Importance et revendications

L'article revendique d'établir le premier lien rigoureux entre la théorie du chaos et la multiplicité prédictive. Ses contributions principales sont :

1. Unification théorique : Il démontre que le chaos transforme fondamentalement l'équivalence prédictive, provoquant la rétrécissement exponentiel de l'espace des modèles « également bons » à mesure que les prévisions s'étendent vers l'horizon de prévisibilité du système.
2. Orientation pratique : Il fournit un cadre rigoureux pour la sélection de modèles dans des domaines chaotiques critiques pour la sécurité, allant au-delà des métriques centrées sur l'exactitude pour une sélection centrée sur l'utilité.
3. Performance : Le cadre surpasse systématiquement les stratégies de sélection standard dans les tâches de prévision chaotique réelles, offrant des améliorations substantielles de la qualité décisionnelle tout en maintenant une exactitude prédictive compétitive.

Les auteurs reconnaissent les limites, notant que le cadre repose sur des estimations précises de l'exposant de Lyapunov (ce qui peut être difficile pour les systèmes de haute dimension ou partiellement observés) et suppose l'accès à un pool suffisamment large de modèles quasi-optimaux. Ils suggèrent que les travaux futurs devraient explorer l'adaptation en ligne, l'optimisation multi-objectif et les applications à la modélisation climatique et aux équations différentielles ordinaires neuronales.