🤖 AI

KAN vs LSTM Performance in Time Series Forecasting

Cette étude démontre que bien que les réseaux Kolmogorov-Arnold (KAN) de base convergent plus rapidement pendant l'entraînement, les réseaux Long Short-Term Memory (LSTM) les surpassent de manière significative en termes de précision prédictive pour les séries temporelles financières stochastiques et non stationnaires, établissant ainsi le LSTM comme le choix supérieur pour les tâches de prévision critiques en termes de précision.

Auteurs originaux : Tabish Ali Rather, S M Mahmudul Hasan Joy, Nadezda Sukhorukova, Federico Frascoli

Publié 2026-07-07

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Tabish Ali Rather, S M Mahmudul Hasan Joy, Nadezda Sukhorukova, Federico Frascoli

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La vue d'ensemble : Une course entre deux pronostiqueurs

Imaginez que vous essayiez de prédire la météo pour les prochains jours, mais que la météo est chaotique, change d'avis constamment et ne suit pas un mode d'emploi simple. Vous avez deux « pronostiqueurs » différents (modèles informatiques) pour vous aider :

Le Détective Vétéran (LSTM) : Ce modèle existe depuis longtemps. Il est célèbre pour son excellence à analyser une histoire racontée à travers le temps (comme une séquence d'événements) et à se souvenir de ce qui s'est passé hier pour deviner ce qui se passera demain.
Le Nouveau Génie Théorique (KAN) : C'est un tout nouveau modèle basé sur un théorème mathématique sophistiqué. Il promet d'être très « transparent », ce qui signifie que vous pouvez facilement voir comment il prend ses décisions. Cependant, il a été conçu à l'origine pour des puzzles statiques, et non pour des histoires qui se déroulent au fil du temps.

Les auteurs de ce document les ont opposés pour voir qui est le meilleur pour prédire le cours de la bourse (qui est désordonné, aléatoire et en constante évolution).

La Mise en Place : Comment ils ont joué le jeu

Les chercheurs ont organisé un défi spécifique :

La Tâche : Prédire les futurs prix des actions en se basant sur des données passées (Ouverture, Plus haut, Plus bas, Clôture, Volume).
Les Règles : Ils ont utilisé une méthode de « Sortie Multi-Directe » (Direct Multi-Output). Imaginez demander au modèle : « Voici les données des 20 derniers jours ; dis-moi exactement quel sera le prix pour le jour suivant, dans 2 jours, ou même dans 100 jours, tout cela d'un coup. »
Le Score : Ils ont mesuré le succès en utilisant la RMSE (Racine de l'Erreur Quadratique Moyenne). Considérez cela comme un « score d'erreur ». Plus le chiffre est bas, meilleur est le modèle.

Les Résultats : Le Vétéran gagne de façon décisive

Les résultats ont été clairs et cohérents sur tous les horizons temporels (1 jour, 2 jours et 100 jours) :

Le Vétéran (LSTM) a été le grand vainqueur. Il a prédit les cours boursiers avec une précision bien plus élevée. En fait, ses erreurs étaient 6,5 à 10 fois plus petites que celles du Nouveau Génie.
Le Nouveau Génie (KAN) a eu du mal. Bien qu'il soit théoriquement intéressant, il a commis des erreurs énormes. C'était comme essayer de résoudre un puzzle mobile en figeant les pièces sur place ; il n'arrivait tout simplement pas à suivre le flux du temps.

L'Analogie :
Imaginez que vous essayiez de prédire où se trouvera un coureur dans 10 secondes.

LSTM regarde le coureur, observe sa vitesse, sa foulée et son élan, puis calcule la trajectoire future.
Le KAN Standard prend une photo du coureur, aplatit la photo en une seule liste de nombres (en ignorant l'ordre des étapes), et essaie de deviner le futur. C'est comme essayer de prédire la fin d'un film en regardant un tas d'images aléatoires prises au milieu du film. Cela ne fonctionne tout simplement pas bien pour les séquences.

Le Piège de la « Vitesse » : Qui était le plus rapide ?

Vous pourriez penser : « Si KAN était si mauvais, était-il au moins super rapide ? »

Le document dit : Oui, KAN a terminé son entraînement plus rapidement (environ 35 secondes contre jusqu'à 120 secondes pour LSTM).
Le Piège : Ce n'est pas une comparaison équitable. C'est comme comparer un sprinter qui a couru 100 mètres à un marathonien qui n'a fait que trottiner 10 mètres.
- LSTM s'est entraîné pendant 25 « rounds » (époques) en utilisant de petits lots de données.
- KAN n'a fait que 10 « rounds » en utilisant l'ensemble du jeu de données à la fois.
- Parce que KAN a fait beaucoup moins de travail, il a terminé rapidement, mais il n'a pas eu la chance d'apprendre en profondeur. Le document avertit que l'on ne peut pas dire que KAN est « plus rapide » de manière utile car ils n'ont pas effectué le même volume d'entraînement.

Pourquoi KAN a-t-il échoué ? (Le Problème Central)

Le document identifie un défaut structurel fondamental dans la manière dont le modèle KAN standard a été utilisé :

LSTM est construit pour comprendre le temps. Il se souvient de l'ordre des événements (l'étape 1 s'est produite avant l'étape 2).
Le KAN Standard (la version testée ici) traite le temps comme étant statique. Pour injecter les données, les chercheurs ont dû « aplatir » la séquence temporelle en une seule longue liste de nombres. Cela a détruit la chronologie. Le modèle a perdu le contexte de quand les choses se sont produites, ce qui est l'élément le plus important pour prédire l'avenir.

Conclusion pour les Professionnels

Si vous avez besoin de précision : Restez sur le LSTM. C'est le choix fiable et éprouvé pour les prévisions financières.
Si vous voulez tester la « Nouvelle Chose » (KAN) : N'utilisez pas la version standard pour la prédiction boursière. Elle n'est pas encore prête pour ce travail.
La Mise en Garde : Le document précise explicitement qu'il existe des versions plus récentes et modifiées de KAN (comme le « Temporal KAN » ou le « Time-Frequency KAN ») qui tentent de corriger ce problème de suivi du temps. Cependant, cette étude n'a pas testé ces versions. Elle n'a testé que la version « de base ».

Résumé en une phrase

Lors de la prédiction de cours boursiers chaotiques, le modèle LSTM, ancien mais conscient du temps, a écrasé le modèle KAN, nouveau et théoriquement transparent, car le KAN standard ne pouvait pas comprendre le flux du temps, transformant une séquence d'événements en un tas de chiffres sans signification.

Résumé Technique : Comparaison des performances entre les réseaux Kolmogorov-Arnold et la mémoire à long terme et court terme (LSTM) dans la prévision de séries temporelles

Énoncé du problème
Les marchés financiers sont caractérisés par des processus stochastiques et non stationnaires présentant des dépendances non linéaires complexes. Bien que les réseaux de mémoire à long terme et court terme (LSTM) soient devenus la norme pour modéliser ces données séquentielles, leur nature de « boîte noire » limite l'interprétabilité dans les prises de décision à enjeux élevés. Les réseaux Kolmogorov-Arnold (KAN), fondés sur le théorème de représentation de Kolmogorov-Arnold, offrent une alternative théoriquement interprétable en remplaçant les fonctions d'activation fixes par des fonctions de splines apprenables. Cependant, un écart significatif existe dans la littérature : il n'existe aucune comparaison empirique contrôlée entre le KAN de base (tel qu'implémenté dans la bibliothèque PyKAN) et les architectures LSTM établies sur des séries temporelles financières stochastiques. Les études antérieures comparent souvent le KAN à des perceptrons multicouches (MLP) ou évaluent des variantes temporelles spécialisées (par exemple, TKAN, TFKAN) plutôt que d'isoler la performance de la formulation standard de KAN. Cette étude comble ce fossé en comparant le KAN de base au LSTM de base afin de déterminer si l'architecture KAN standard est viable pour la prévision séquentielle sans modifications temporelles.

Méthodologie
L'étude utilise un plan expérimental contrôlé utilisant des données historiques de prix boursiers (Open, High, Low, Close, Volume) obtenues via l'API yfinance.

Prétraitement des données : Les caractéristiques ont été mises à l'échelle dans l'intervalle $[0, 1]$ à l'aide d'une mise à l'échelle Min-Max appliquée à l'ensemble du jeu de données avant la division. Un protocole de prévision multi-sorties direct a été utilisé : étant donné une fenêtre de regard en arrière $L$ , les modèles prédisent simultanément $H$ étapes temporelles futures. Les horizons de prédiction testés sont de 1, 2 et 100 jours.
Architectures de modèles :
- LSTM : Implémenté via TensorFlow/Keras avec des couches unidirectionnelles empilées, une régularisation par dropout et une optimisation RMSprop. Les entrées étaient traitées comme des tenseurs 3D $(batch, L, features)$, préservant l'ordre temporel.
- KAN : Implémenté via PyKAN (PyTorch). Crucialement, le KAN standard n'accepte que des entrées 2D ; par conséquent, l'entrée séquentielle a été aplatie en un vecteur 1D de longueur $L \times |F|$ , éliminant ainsi l'ordre temporel. L'optimisation a utilisé LBFGS (full-batch, second ordre) avec des fonctions d'activation par splines B.
Métriques d'évaluation : La performance a été mesurée à l'aide de l'erreur quadratique moyenne (RMSE) calculée dans l'espace des caractéristiques normalisées.
Asymétries expérimentales : Les auteurs notent explicitement plusieurs asymétries dans le protocole : le LSTM utilisait une optimisation stochastique par mini-lots (25 époques), tandis que le KAN utilisait une optimisation de second ordre par lot complet (10 étapes LBFGS). Les graines aléatoires ont été fixées pour KAN mais pas pour LSTM. Ces facteurs sont reconnus comme des variables de confusion qui empêchent d'attribuer les différences de performance uniquement à la capacité architecturale.

Résultats clés
L'étude conclut que le LSTM de base surpasse substantiellement le KAN de base à travers tous les horizons de prévision et conditions de marché testés (normal, volatil, en tendance).

Précision prédictive : Le LSTM a obtenu des valeurs de RMSE 6,5 à 10 fois plus faibles que le KAN.
- À l'horizon de 1 jour, la meilleure configuration LSTM a atteint un RMSE de test de 0,039, tandis que la meilleure configuration KAN a atteint 0,152.
- À l'horizon de 100 jours, le LSTM a maintenu un avantage de 6,5 à 7,2 fois.
- Le KAN était le seul modèle testé à l'horizon de 200 jours (en raison des limites de configuration du LSTM), produisant des valeurs de RMSE élevées (0,645–0,670), bien que les auteurs notent que l'absence de base naïve (ex: persistance) rend incertain si cela représente une amélioration significative par rapport à des stratégies triviales.
Efficacité de l'entraînement : Le KAN a terminé l'entraînement plus rapidement (moyenne de 35,12 secondes) par rapport au LSTM (11–120 secondes). Cependant, les auteurs mettent en garde contre une comparaison équitable de l'efficacité architecturale, car le KAN a effectué nettement moins de mises à jour de paramètres (10 étapes full-batch) que le LSTM (25 époques de mises à jour par mini-lots).
Aperçu architectural : Le principal moteur de l'écart de performance est identifié comme étant la représentation de l'entrée. Le LSTM préserve la structure temporelle via un mécanisme de porte récurrent, tandis que le KAN standard aplatit la séquence, supprimant les dépendances séquentielles essentielles à la prévision de séries temporelles. Des configurations LSTM plus simples (2 couches, 10 unités) ont surpassé des configurations plus profondes, ce qui est cohérent avec les problèmes de disparition de gradient dans les réseaux RNN profonds.

Contributions clés

Base empirique : Cette étude établit le premier point de référence empirique contrôlé pour le KAN standard (PyKAN) par rapport au LSTM standard sur des données financières stochastiques.
Identification des limites : Elle démontre que sans modifications temporelles (telles que des portes récurrentes ou un traitement dans le domaine fréquentiel), le KAN standard n'est pas compétitif pour les tâches de prévision séquentielle en raison de la perte de la structure temporelle lors de l'aplatissement de l'entrée.
Transparence sur les contraintes : L'article détaille explicitement les limites méthodologiques, incluant l'asymétrie de l'optimiseur, l'absence de graines aléatoires fixes pour le LSTM et la fuite de données due à la mise à l'échelle globale, garantissant que l'ampleur de l'écart de performance est interprétée avec la prudence appropriée.

Signification et affirmations
Les auteurs concluent modestement que le KAN de base sous sa forme standard n'est pas compétitif avec le LSTM établi pour la prévision financière nécessitant une grande précision. L'étude ne prétend pas que le KAN est inutile ; elle pose plutôt que l'interprétabilité théorique du KAN se fait au prix d'une réduction sévère de la précision prédictive dans son implémentation standard actuelle.

La signification du travail réside dans :

Validation de la nécessité des variantes temporelles : Les résultats soutiennent l'existence de variantes spécialisées de KAN (TKAN, TFKAN) conçues pour restaurer le traitement séquentiel, suggérant que ces modifications sont nécessaires et non optionnelles pour une performance compétitive.
Orientation pour les praticiens : Pour les applications exigeant une haute précision, le LSTM reste le choix privilégié. Les praticiens intéressés par l'interprétabilité du KAN pour les applications financières sont conseillés d'utiliser des variantes temporelles plutôt que l'implémentation standard de PyKAN.
Directions de recherche futures : Le document appelle à des travaux futurs incluant des budgets de calcul appariés, des bases naïves (persistance, ARIMA) et des évaluations de variantes spécialisées de KAN pour déterminer si les modifications architecturales peuvent combler l'écart de précision. Il souligne également la nécessité de recherches mathématiques supplémentaires sur l'approximation par splines polynomiales à nœuds libres efficace pour répondre aux défis d'optimisation non lisses et non convexes inhérents au KAN.