🤖 AI

In-Context Inpainting for Time Series Forecasting

Le papier présente ICI-Time, un nouveau cadre qui reformule la prévision de séries temporelles en une tâche d'inpainting visuel en convertissant les données en graphiques à aires et en exploitant des modèles de vision larges pré-entraînés pour atteindre des performances compétitives sans architectures spécialisées ni ajustement fin.

Auteurs originaux : Thang Nguyen, Dung Nguyen, Romero Morais, Truyen Tran

Publié 2026-08-26

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Thang Nguyen, Dung Nguyen, Romero Morais, Truyen Tran

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La prévision de séries temporelles est l'art de prédire l'avenir en se basant sur le passé. C'est le moteur derrière les bulletins météorologiques, la gestion des réseaux électriques et le suivi des maladies, où la compréhension de la manière dont une valeur évolue dans le temps nous permet de nous préparer à ce qui vient ensuite. Pendant des décennies, des scientifiques ont conçu des programmes informatiques complexes spécifiquement destinés à reconnaître ces motifs dans les chiffres. Ces programmes sont puissants, mais ils sont aussi rigides ; ils nécessitent généralement des quantités massives de données et un entraînement intensif pour apprendre une nouvelle tâche, et ils peinent souvent lorsque les données sont rares ou lorsque les modèles changent de manière inattendue. Parallèlement, un autre type d'intelligence artificielle a émergé, entraînée sur des millions d'images pour comprendre le monde visuel. Ces systèmes peuvent regarder une image et remplir les parties manquantes, ou reconnaître un chat sur une photo qu'ils n'ont jamais vue auparavant, simplement en utilisant des exemples fournis au moment de la tâche. Cette capacité à apprendre du contexte sans avoir besoin d'être réentraîné est un outil puissant, mais elle est restée largement inutilisée pour la prédiction de nombres car les nombres ne ressemblent pas naturellement à des images.

Une équipe de chercheurs de l'Université Deakin en Australie a désormais comblé ce fossé en apprenant à un ordinateur à voir le temps comme une image. Ils ont introduit une nouvelle méthode appelée ICI-Time, qui reformule le problème de la prédiction de l'avenir non pas comme un calcul mathématique, mais comme un puzzle visuel. Au lieu de nourrir un modèle de prévision spécialisé avec des chiffres bruts, les chercheurs convertissent d'abord l'historique d'un flux de données — comme les cas quotidiens de grippe ou les relevés de température horaires — en un simple graphique linéaire. Ils disposent ensuite ces graphiques dans une grille, plaçant un exemple complet d'un motif passé à côté de la situation actuelle, laissant un espace vide là où le futur devrait se trouver. Ils demandent à un modèle de vision pré-entraîné, un type d'intelligence artificielle qui a déjà appris à comprendre les images provenant d'Internet, de remplir cet espace vide. Le modèle traite le futur manquant comme une partie manquante d'une image et utilise l'exemple visuel fourni pour « inpainter », ou peindre par-dessus, la zone vide avec une continuation plausible de la ligne.

Une fois que le modèle de vision a généré l'image complétée, les chercheurs retranscrivent le dessin en nombres. Ils extraient soigneusement la ligne de la nouvelle image et convertissent sa hauteur et sa position en valeurs de données originales. L'ensemble du processus se déroule sans que l'ordinateur n'ait jamais été enseigné spécifiquement comment prévoir des séries temporelles. Il repose entièrement sur la capacité existante du modèle à reconnaître des formes et des tendances dans une image et sur sa capacité à apprendre des exemples présentés à ce moment précis. Les chercheurs ont testé cette approche sur diverses données du monde réel, incluant des cas de grippe collectés sur deux décennies, des indicateurs météorologiques tels que l'humidité et la pression atmosphérique, ainsi que des températures de transformateurs électriques. Ils ont comparé leur méthode aux modèles de prévision les plus avancés actuellement disponibles, qui sont construits avec des architectures complexes conçues spécifiquement pour les données temporelles.

Les résultats ont été surprenants. Dans presque tous les tests, l'approche visuelle égalait ou surpassait les modèles spécialisés, particulièrement lorsqu'il s'agissait de mesurer la proximité des prédictions avec les valeurs réelles. La méthode s'est révélée exceptionnellement robuste lorsque les données étaient limitées. Alors que les modèles spécialisés peinaient et que leurs erreurs augmentaient considérablement lorsqu'ils étaient entraînés sur une infime fraction des données disponibles, la méthode visuelle est restée stable et précise. Cela suggère que la capacité à reconnaître des formes et des tendances dans une image est une compétence plus universelle que les règles mathématiques spécifiques habituellement appliquées aux séries temporelles. Les chercheurs ont découvert que la clé du succès ne résidait pas seulement dans la transformation des nombres en images, mais dans le fait de le faire de manière à préserver parfaitement l'échelle et la forme des données, garantissant que le modèle de vision puisse lire le graphique aussi précisément qu'un humain.

Ce travail remet en question l'hypothèse de longue date selon laquelle prédire l'avenir nécessite des algorithmes spécialisés et gourmands en données. Il démontre qu'un système de vision à usage général, lorsqu'il est doté de la bonne représentation visuelle, peut comprendre la dynamique temporelle aussi bien, voire mieux, que des modèles construits de toutes pièces pour cet objectif spécifique. L'étude suggère que la frontière entre le raisonnement visuel et la prédiction temporelle n'est pas aussi fixe qu'on le pensait auparavant. En montant simplement une image du passé à un ordinateur et en lui demandant de compléter l'image, le système peut inférer le futur sans avoir besoin d'être réentraîné ou ajusté. Cela ouvre une nouvelle voie pour la prévision dans les situations où les données sont rares ou lorsqu'une adaptation rapide à de nouveaux types de données est requise, prouvant que parfois, la meilleure façon de comprendre le temps est de le regarder comme une image.

Résumé Technique : ICI-Time

Énoncé du Problème

La prévision de séries temporelles est un défi fondamental en apprentissage automatique, crucial pour des applications dans la finance, l'épidémiologie et la modélisation climatique. Malgré les progrès de l'apprentissage profond, les méthodes existantes reposent généralement sur des architectures temporelles spécialisées (par exemple, des Transformers avec des mécanismes d'attention spécifiques) et nécessitent un entraînement ou un ajustement fin (fine-tuning) approfondi et spécifique au domaine. Cette dépendance limite la scalabilité et la généralisation, particulièrement dans les régimes de faibles données ou lors de l'adaptation à de nouveaux domaines. De plus, bien que les modèles de fondation en langage et en vision aient démontré de puissantes capacités d'apprentissage en contexte (ICL), exploiter les Grands Modèles de Vision (LVM) pour la prévision de séries temporelles reste un défi ouvert en raison du « fossé modal » — les signaux temporels ne sont pas nativement visuels.

Méthodologie : Le cadre ICI-Time

Les auteurs proposent ICI-Time (In-Context Inpainting for Time series), un cadre qui reformule la prévision de séries temporelles comme une tâche d'inpainting visuel. L'hypothèse centrale est que des modèles de vision généralistes pré-entraînés peuvent résoudre des tâches de prédiction temporelle sans modification architecturale ni entraînement spécifique à la tâche, si les données sont présentées sous un format visuel approprié.

Le cadre opère à travers quatre étapes distinctes :

Sélection de cas basée sur le visuel (Visual Case-Based Selection) :
Le système construit une base de données de recherche à partir de données historiques en partitionnant les séries temporelles en fenêtres chevauchantes, chacune contenant une composante de rétrospection ( $L_I$ ) et une composante de prédiction ( $L_P$ ). Pour une fenêtre de requête donnée, le système récupère la paire d'exemples historiques la plus similaire basée sur la distance euclidienne entre les entrées normalisées. Cela imite le raisonnement par cas, où le LVM agit comme un interpolateur non linéaire dans l'espace d'image.
Représentation de la série temporelle en visuel :
Les séries temporelles numériques sont transformées en graphiques à aires structurés (images).
- Normalisation : Le système utilise une cartographie bidirectionnelle pour garantir l'invertibilité. Crucialement, il utilise une stratégie de mise à l'échelle de transfert ( $h_{transfer}$ ) : la plage de l'axe vertical de l'image de requête est déterminée par les statistiques locales de l'entrée de la requête plus l'échelle de hauteur dérivée de l'exemple récupéré. Cela assure une cohérence visuelle entre l'exemple et la requête, permettant au modèle de reconnaître des motifs à travers différentes magnitudes.
- Résolution : Les composantes d'entrée et de cible sont mappées vers des images fixes de 224×224 pixels. L'axe horizontal préserve la résolution temporelle native de l'entrée et de la cible séparément ( $w_{diff}$ ), plutôt que de forcer une résolution uniforme, afin de maintenir la fidélité temporelle.
Prompting visuel en contexte (In-Context Visual Prompting) :
La paire d'exemples récupérée (entrée-sortie) et la requête (entrée avec sortie manquante) sont disposées dans une grille de prompt visuel. Un Grand Modèle de Vision (LVM) pré-entraîné, utilisé tel quel sans ajustement fin, effectue un inpainting visuel sur cette grille. Le modèle déduit la tâche de prévision à partir de la paire d'exemples et « peint » la région future manquante de l'image de la requête, complétant ainsi le motif.
Récupération de la série temporelle :
L'image générée est convertie à nouveau en série temporelle numérique via un processus en deux étapes :
- Débruitage : L'image est binarisée et traitée avec des opérations morphologiques pour éliminer le bruit et les artefacts.
- Extraction de courbe : La frontière de la région remplie est extraite colonne par colonne. Pour traiter le « problème de déconnexion » (erreurs à la frontière entre l'entrée et la prédiction), un lissage gaussien par décroissance est appliqué pour fusionner le dernier point d'entrée avec les valeurs prédites.

Contributions Clés

L'article expose quatre contributions principales :

Cadre Cross-Modal : Une approche novatrice jetant un pont entre les domaines temporel et visuel, permettant une adaptation rapide en utilisant des transformeurs de vision prêts à l'emploi sans entraînement.
Formulation de l'Apprentissage en Contexte Visuel : Extension de l'ICL au-delà du NLP vers un paradigme où la prédiction temporelle est résolue via des prompts visuels et de l'inpainting.
Cartographie Inversible : Une cartographie bidirectionnelle soigneusement conçue entre les séries temporelles et les espaces visuels qui représente les dépendances temporelles via une disposition spatiale tout en garantissant l'absence de perte de fidélité de prévision lors de la transformation.
Validation Empirique : Performances solides sur les jeux de données d'épidémiologie (ILI), de météorologie (Weather) et de systèmes électriques (ETT), démontrant une compétitivité avec les bases de référence de l'apprentissage profond et une robustesse supérieure dans les contextes de faibles données.

Résultats Expérimentaux

Les auteurs ont évalué ICI-Time par rapport à des modèles de base basés sur les Transformers (Informer, Pyraformer, LogTrans) sur plusieurs jeux de données et horizons de prédiction.

Performance en données complètes : ICI-Time a surpassé les modèles de référence dans la majorité des cas, particulièrement sur la métrique de l'Erreur Absolue Moyenne (MAE) (23 cas sur 24). Cela confirme que des modèles visuels prêts à l'emploi peuvent effectuer des prévisions compétitives sans entraînement.
Adaptation Few-Shot : Dans les expériences restreignant les données d'entraînement à 1 %, 5 % et 10 %, ICI-Time a démontré une stabilité remarquable. Alors que les modèles de base comme Informer et Pyraformer ont vu leurs erreurs augmenter significativement (par exemple, une hausse de +32 % à +35 % de la MAE lorsque les données chutent de 10 % à 1 %), la performance de ICI-Time est restée stable (par exemple, une hausse de seulement +3,4 % de la MAE). Dans les scénarios extrêmes de faibles données (1 %), ICI-Time a souvent obtenu des erreurs multiples fois inférieures à celles des modèles de base, qui peinaient à converger.
Études d'Ablation : Les auteurs ont validé l'importance de leurs choix de conception. La stratégie de mise à l'échelle de transfert ( $h_{transfer}$ ) et la préservation de la résolution native ( $w_{diff}$ ) ont systématiquement réduit l'erreur par rapport à une mise à l'échelle fixe et une résolution uniforme. Le post-traitement par lissage a également amélioré les performances, particulièrement pour réduire les erreurs de bordure.

Signification et Revendications

L'article affirme que ICI-Time introduit un nouveau paradigme pour l'analyse des séries temporelles en démontrant que les modèles de raisonnement visuel peuvent se généraliser aux tâches temporelles lorsqu'ils sont dotés de représentations appropriées.

Élimination de la surcharge d'entraînement : Le cadre élimine le besoin d'architectures spécifiques au domaine, d'un pré-entraînement coûteux ou d'un ajustement fin. Il tire parti du « repas gratuit » des priors visuels pré-entraînés.
Efficacité des données : Les résultats suggèrent que le prompting visuel est hautement efficace dans les contextes de faibles ressources, offrant une alternative robuste lorsque les données étiquetées sont rares.
Transfert de Modalité : Ce travail défie les frontières conventionnelles entre la modélisation temporelle et visuelle, suggérant que les riches capacités de reconnaissance de formes des LVM peuvent être exploitées pour l'analyse de séries temporelles grâce à une conception de représentation soignée.

Les auteurs concluent que cette approche ouvre une nouvelle direction de recherche pour exploiter le transfert cross-modal, avec des extensions futures potentielles vers la détection d'anomalies et la classification, bien que le présent travail se concentre strictement sur la prévision.