🤖 machine learning

TailedTS: Benchmark Dataset for Heavy-Tailed Time Series Prediction and Periodicity Quantification

Cet article présente TailedTS, un ensemble de données de référence à grande échelle composé de vues de pages Wikipédia caractérisées par des distributions à queue lourde et à forte inflation de zéros, conçu pour évaluer les modèles de prévision de séries temporelles dans des conditions non gaussiennes et pour révéler des informations sur la périodicité des plateformes numériques à fort trafic.

Auteurs originaux : Xinyu Chen, HanQin Cai, Lijun Ding, Jinhua Zhao

Publié 2026-05-19

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Xinyu Chen, HanQin Cai, Lijun Ding, Jinhua Zhao

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez de prévoir la météo. La plupart du temps, la météo est prévisible : il fait soleil, puis nuageux, puis peut-être une légère pluie. Vous pouvez construire un modèle basé sur des journées « moyennes », et il fonctionne plutôt bien. C'est comme les anciens jeux de données de séries temporelles que les scientifiques utilisent depuis des années (comme la consommation d'électricité ou le flux de trafic), qui suivent majoritairement une « courbe en cloche » où les événements extrêmes sont rares.

Mais que se passe-t-il si vous essayez de prédire quelque chose qui se comporte comme un mème viral sur Internet ? La plupart du temps, personne ne le regarde. Puis, soudainement, une célébrité en parle sur Twitter, et des millions de personnes inondent la page en une heure. Ensuite, le silence retombe. Ce sont des données à « queue lourde » : elles sont remplies de zéros ennuyeux et de pics massifs occasionnels qui brisent les règles de la « moyenne ».

Ce papier présente TailedTS, un nouveau jeu de données massif conçu spécifiquement pour tester les modèles informatiques sur ce type de données chaotiques et « pointues ». Voici un aperçu de ce qu'ils ont fait, en utilisant des analogies simples :

1. Le Jeu de Données : Une Bibliothèque de Moments Viraux

Les auteurs ont construit un gigantesque jeu de données utilisant les vues de pages Wikipédia de 2024.

L'Échelle : Ils ont collecté environ 24,7 milliards de points de données (comme compter chaque visiteur de chaque page, toutes les heures, pendant un an entier).
La « Queue Lourde » : Dans cette bibliothèque, une infime poignée de pages (environ 5 %) reçoit l'immense majorité de l'attention (plus de 70 % de toutes les vues). Le reste des millions de pages reçoit très peu de vues.
Le Problème : La plupart des modèles informatiques sont entraînés sur des données « calmes ». Si vous leur lancez ces données Wikipédia « virales », ils sont déconcertés car ils s'attendent à ce que le trafic soit régulier. Ils ne savent pas comment gérer les soudaines et massives vagues de fréquentation.

2. La Découverte : Les Pages Populaires sont Chaotiques

Les chercheurs ont posé une question simple : « Les pages populaires suivent-elles un horaire prévisible, comme un emploi du temps de train ? »

L'Analogie : Imaginez une rue calme de quartier (pages moins populaires). Elle a un rythme prévisible : les enfants vont à l'école à 8 h, les gens rentrent à 17 h. C'est très périodique.
La Découverte : Maintenant, imaginez une intersection urbaine animée (pages populaires). C'est chaotique. Une célébrité peut poster une photo, ou un événement médiatique peut survenir, provoquant une foule massive et imprévisible.
Le Résultat : L'équipe a découvert que les pages Wikipédia populaires sont en réalité moins prévisibles que les pages calmes. Elles ne suivent pas un cycle quotidien ou hebdomadaire strict car elles réagissent constamment à des événements aléatoires du monde réel. C'est une nouvelle importante pour quiconque tente de gérer le trafic serveur de grands sites web.

3. La Solution : Changer le « Tableau de Score »

Pour prédire ces nombres chaotiques, les chercheurs ont testé différentes façons de mesurer l'« erreur » (à quel point le modèle s'est trompé).

L'Ancienne Méthode (La « Roue qui Grince ») : Les modèles traditionnels utilisent une méthode appelée « Moindres Carrés » (norme ℓ2). Imaginez un professeur qui corrige des copies où une toute petite erreur est acceptable, mais si un élève se trompe d'une seule manière sur une question, le professeur crie et échoue l'ensemble du test. Cette méthode s'obsède sur les plus grosses erreurs (les pics viraux) et ruine la prédiction pour tout le reste.
La Nouvelle Méthode (L'Entraîneur « Dur ») : Les chercheurs ont testé des méthodes « Robustes » (comme la perte de Huber ou la norme ℓp). Imaginez un entraîneur qui dit : « D'accord, vous avez raté ce pic énorme, mais regardons le reste du match. » Ces méthodes ignorent les valeurs aberrantes extrêmes ou les traitent avec douceur, afin que le modèle apprenne le schéma général sans devenir fou.
Le Résultat : Lorsqu'ils ont utilisé ces méthodes d'« entraîneur dur », les modèles sont devenus bien meilleurs pour prédire le trafic, en particulier pour les pages les plus populaires. Les anciennes méthodes ont échoué lamentablement sur les gros pics ; les nouvelles méthodes les ont gérés avec grâce.

4. Pourquoi Cela Compte

Ce papier ne concerne pas seulement Wikipédia ; il s'agit de stress-tester notre IA.

La Référence : Ils ont créé un « test de résistance » (une référence) pour voir si les modèles d'IA peuvent gérer le chaos du monde réel.
La Leçon : Si vous construisez un modèle en utilisant uniquement des données « calmes », il cassera lorsqu'il rencontrera le monde réel, où les événements viraux et la volatilité extrême se produisent.
La Conclusion : Pour prédire l'avenir de choses comme le trafic internet, les marchés boursiers ou les appels d'urgence, nous devons cesser de supposer que tout suit une belle et propre courbe en cloche. Nous avons besoin de modèles prêts pour les « queues lourdes » — ces événements rares et massifs qui changent tout.

En bref : Les auteurs nous ont offert un gigantesque et désordonné jeu de données sur le trafic Wikipédia pour prouver que nos modèles d'IA actuels sont trop fragiles pour le monde réel. Ils ont montré qu'en changeant la façon dont nous mesurons les erreurs (en ignorant les valeurs aberrantes extrêmes), nous pouvons construire des modèles beaucoup plus résilients et précis lorsque les choses deviennent folles.

Résumé technique : Jeu de données de référence TailedTS pour la prédiction de séries temporelles à queues lourdes

Énoncé du problème

La prévision de séries temporelles est un composant critique des applications d'apprentissage automatique dans les domaines de l'économie, du génie et des sciences environnementales. Cependant, les modèles prédictifs traditionnels reposent principalement sur des hypothèses gaussiennes pour les résidus, hypothèses fréquemment violées par les comportements à queues lourdes, à inflation de zéros et non gaussiens observés dans les jeux de données empiriques réels. Les références existantes, telles que les compétitions M (M4, M5) et les jeux de données électriques de l'UCI, capturent diverses dynamiques temporelles mais échouent souvent à représenter la volatilité extrême, pilotée par des événements, et la parcimonie de haute dimension inhérentes aux modèles complexes d'intérêt humain. Plus précisément, ces jeux de données n'exhibent pas adéquatement les distributions de loi de puissance où une fraction minime d'événements explique la majorité des observations, créant ainsi un vide dans l'évaluation de la robustesse des modèles face aux explosions stochastiques et aux valeurs aberrantes extrêmes.

Méthodologie

L'article présente TailedTS, un jeu de données de référence à grande échelle dérivé des observations horaires de vues de pages Wikipédia tout au long de l'année 2024. La méthodologie englobe trois composantes principales :

1. Construction et alignement du jeu de données

Le jeu de données comprend environ 24,69 milliards de points de données couvrissant environ 3 millions de pages Wikipédia uniques par mois. Pour garantir la qualité des données et se concentrer sur le contenu fréquemment consulté, les auteurs ont filtré les données brutes pour n'inclure que les pages maintenant un seuil minimum de 10 vues par jour pour chaque jour du mois. Ce filtrage aboutit à un jeu de données où environ 5 % des pages représentent plus de 70 % du total des vues de pages, adhérant à une distribution de loi de puissance prononcée. Les données sont stockées au format Apache Parquet à haute efficacité.

2. Cadre de quantification de la périodicité

Pour analyser la structure périodique des séries temporelles, les auteurs proposent un cadre d'autorégression parcimonieux avec des contraintes de parcimonie et de non-négativité. Le problème d'optimisation est formulé pour identifier automatiquement les autocorrélations dominantes (par exemple, les cycles quotidiens et hebdomadaires).

Formulation : Le problème minimise l'erreur quadratique sous une contrainte de norme $\ell_0$ sur le vecteur de coefficients $w_\gamma$ et une contrainte de non-négativité ( $w_\gamma \in \mathbb{R}^d_+$ ).
Implémentation : Le problème est reformulé comme un problème de programmation quadratique mixte en nombres entiers (MIQP), résolu à l'aide de l'algorithme CPLEX. Le modèle suppose des ensembles de support cohérents à travers différentes catégories de popularité des pages.

3. Modélisation prédictive robuste

L'article évalue les modèles de prédiction autorégressive en utilisant une suite de fonctions de perte non gaussiennes pour traiter le bruit à queues lourdes. L'objectif d'optimisation minimise la somme d'une fonction de perte $\rho(\varepsilon_t)$ sur les résidus. L'étude compare :

Perte de norme $\ell_2$ : Moindres carrés standard (hypothèse gaussienne).
Perte de norme $\ell_1$ : Déviations absolues minimales (LAD).
Perte de Huber : Interpola entre $\ell_2$ et $\ell_1$ , appliquant une pénalisation quadratique aux petits résidus et une pénalisation linéaire aux grands.
Perte de quantile : Permet l'estimation de quantiles conditionnels en utilisant des pénalités linéaires asymétriques.
Perte de norme $\ell_p$ ( $0 < p < 1$ ) : Fournit une robustesse agressive en pénalisant les résidus de manière sous-linéaire, bien qu'elle introduise des défis d'optimisation non convexe.

Contributions clés

L'article expose des contributions en trois volets :

Jeu de données de référence : TailedTS fournit un jeu de données de séries temporelles à haute dimension, à queues lourdes et à inflation de zéros contenant des millions de séries temporelles sur une longue période (8 784 pas de temps horaires en 2024). Il permet à la communauté de recherche d'évaluer les modèles face à des résidus non gaussiens et à des explosions stochastiques, un scénario où les estimateurs standards basés sur la gaussienne échouent souvent.
Quantification de la périodicité : Les auteurs utilisent l'autorégression parcimonieuse pour révéler que les pages fréquemment consultées présentent une structure périodique significativement plus faible que leurs homologues moins consultées. Cette découverte suggère que les pages populaires sont plus sensibles aux événements spéciaux et aux anomalies, compliquant leur prédiction malgré leur volume élevé.
Modélisation prédictive robuste : L'étude démontre que les estimateurs standards basés sur la gaussienne se dégradent considérablement sur les catégories de pages à volume élevé. En revanche, les alternatives robustes (pertes de Huber, normes $\ell_p$ et quantiles) offrent des gains constants à toutes les échelles de trafic en atténuant l'influence des valeurs aberrantes extrêmes.

Résultats expérimentaux

Les auteurs ont mené des expériences extensives sur le jeu de données TailedTS et quatre jeux de données de référence externes (électricité UCI, trafic SF, qualité de l'air et données météorologiques).

Analyse de la saisonnalité : Sous des niveaux de parcimonie $\tau=8$ et $\tau=10$ , les autocorrélations dominantes pour les cycles quotidiens (24h), bi-quotidiens (48h) et hebdomadaires (168h) ont été identifiées. L'analyse a confirmé que les catégories de pages à volume élevé (par exemple, $O(10^4)$ vues) présentaient des coefficients de saisonnalité plus faibles que les catégories à volume inférieur, indiquant une volatilité plus élevée.
Performance de prédiction sur TailedTS :
- Pour les catégories à volume élevé ( $O(10^4)$ ), la perte de norme $\ell_2$ standard a produit une RMSE de 1163,08.
- Les estimateurs robustes ont considérablement surpassé la référence : la perte de norme $\ell_p$ a atteint une RMSE de 129,28, et la perte de Huber a atteint 139,87.
- La perte de norme $\ell_2$ n'a montré des résultats compétitifs que sur les catégories de plus faible magnitude ( $O(10^2)$ ), mais les performances se sont dégradées brusquement à mesure que le volume augmentait.
Performance sur les références externes : L'étude a vérifié que les résidus dans les références standards (électricité UCI, trafic SF, etc.) exhibent également un comportement à queues lourdes via des histogrammes log-log. Les fonctions de perte non gaussiennes ont constamment réduit le MAPE et la RMSE sur ces jeux de données. Par exemple, sur les données d'électricité de l'UCI, les pertes $\ell_1$ et de Huber ont réduit le MAPE de 0,095 ( $\ell_2$ ) à 0,083, soit une réduction relative d'environ 13 %.

Importance et affirmations

L'article positionne TailedTS comme un test de stress rigoureux pour les modèles de prévision de séries temporelles, ciblant spécifiquement les limites des méthodes actuelles de l'état de l'art (SOTA) qui reposent sur des hypothèses gaussiennes. Les auteurs affirment que :

La robustesse est cruciale : Les estimateurs standards sont inadaptés au trafic numérique réel caractérisé par un bruit à queues lourdes et une volatilité extrême.
Le choix de la fonction de perte compte : Le choix de la fonction de perte est un déterminant principal de la résilience du modèle. Les pertes robustes (Huber, $\ell_p$ , quantiles) sont nécessaires pour capturer les modèles d'intérêt humain irréguliers et interconnectés qui s'écartent des contraintes physiques trouvées dans les systèmes de transport ou climatiques.
Évolutivité et généralisabilité : En intégrant TailedTS aux références météorologiques existantes, les chercheurs peuvent mieux évaluer l'évolutivité des frameworks natifs GPU et l'efficacité des fonctions de perte robustes.

Les auteurs concluent que, bien que les estimateurs robustes offrent une réduction significative des erreurs, les défis posés par l'échelle extrême et l'inflation de zéros omniprésente restent une frontière redoutable. Ils visent à ce que cette référence catalyse le développement de modèles de nouvelle génération, conscients des distributions, qui comblent le fossé entre l'optimisation théorique et les réalités à queues lourdes des données de séries temporelles à grande échelle.

Limites : Les auteurs notent que la référence est dérivée exclusivement de données Wikipédia et peut ne pas capturer toutes les formes de non-stationnarités réelles, telles que des changements de régime abrupts ou une manipulation adversaire. Par conséquent, les conclusions tirées peuvent ne pas se généraliser pleinement aux séries temporelles régies par différents mécanismes de génération de données.