TriTS: Time Series Forecasting from a Multimodal Perspective

Probleemstelling

Lange-termijn tijdreeksvoorspelling (Long-term Time Series Forecasting - LTSF) is cruciaal voor sectoren zoals financiën, energie en meteorologie. Bestaande methodes kampen echter met twee fundamentele beperkingen:

1. Representatiebottleneck: Real-world signalen bevatten sterk verweven dynamieken (trends, complexiteit seizoenspatronen, niet-stationaire mutaties) die moeilijk volledig te vangen zijn vanuit een puur 1D-tijdsdomein perspectief.
2. Berekeningsinefficiëntie: Nieuwe visuele benaderingen (zoals VisionTS) die tijdreeksen omzetten naar 2D-beelden en gebruikmaken van Vision Transformers (ViT), lijden onder een kwadratische rekencomplexiteit ($O(N^2)$). Dit maakt ze onpraktisch voor ultra-lange historische vensters vanwege het hoge geheugengebruik en de inferentielatentie.
3. Frequentielimieten: Traditionele frequentiedomein-methodes (gebaseerd op FFT) gebruiken globale basisfuncties, waardoor ze moeite hebben om lokale, niet-stationaire veranderingen en transienten nauwkeurig te lokaliseren.

Methodologie: Het TriTS Framework

TriTS is een nieuw raamwerk voor cross-modale ontkoppeling dat tijdreeksen projecteert naar drie orthogonale maar complementaire ruimtes: tijd, frequentie en 2D-visie. Deze worden dynamisch gefuseerd om de sterke punten van elk domein te benutten.

1. Tijd-domein Tak (Linear Anchor)

• Doel: Het waarborgen van numerieke stabiliteit en het vangen van niet-stationaire trendcomponenten.
• Techniek: In plaats van een simpele lineaire laag of een Moving Average (die randbias introduceert), gebruikt TriTS een streaming Exponential Moving Average (EMA). Dit zorgt voor een responsieve trendextractie zonder padding.
• Output: Een lineaire tak ($H_{time}$) die fungeert als een robuust "anker" voor de voorspelling, ongeacht de complexiteit van de andere modaliteiten.

2. Frequentie-domein Tak (MR-WM)

• Doel: Het ontkoppelen van niet-stationaire signalen in trend en ruis voor fijne tijd-frequentie lokalisatie.
• Techniek: TriTS vervangt de globale FFT door een Multi-Resolution Wavelet Mixing (MR-WM) module.
  • Het gebruikt Discrete Wavelet Transformatie (DWT) om het signaal op te splitsen in benaderingscoëfficiënten (lange-termijn trends) en detailcoëfficiënten (lokale variaties).
  • Er worden onafhankelijke resolutie-takken voor elk frequentiecomponent gebouwd. Dit voorkomt dat hoogfrequente ruis lage-frequentie trends vervuilt.
  • Een "Dual-Stage Mixer" (Patch & Embedding) modelleert lokale en globale correlaties binnen elke tak met lineaire complexiteit ($O(L)$).

3. Visie-domein Tak (Visual Mamba)

• Doel: Het efficiënt modelleren van globale cross-periode afhankelijkheden zonder de $O(N^2)$ kosten van ViT.
• Techniek:
  • Period-Aware Reshaping: De 1D-tijdreeks wordt op basis van de dominante periode $P$ omgevouwen tot een 2D "tijdsbeeld". Hierbij worden intra-periode variaties verticaal en inter-periode evolutie horizontaal weergegeven.
  • Visual Mamba (Vim): In plaats van een ViT, gebruikt TriTS Visual Mamba, gebaseerd op State Space Models (SSM). De bidirectionele selectieve scan-mechanisme van Mamba behandelt periodieke variaties als visuele texturen.
  • Resultaat: Dit behoudt het globale receptieve veld van visuele modellen maar reduceert de rekencomplexiteit naar lineair ($O(N)$).

4. Adaptieve Fusie

• Een Scale-Aware Gated Fusion module berekent dynamisch de gewichten voor elke tak (tijd, frequentie, visie) op basis van de input. Hierdoor kan het model zich aanpassen aan verschillende datasets (bijv. meer vertrouwen op frequentie bij sterke seizoenspatronen, of op visie bij lange-termijn structuren).

Kernbijdragen

1. TriTS Framework: Een unificatie van tijd, frequentie en visie modaliteiten die de representatiebottleneck van single-modality methodes doorbreekt.
2. Visual Mamba Integratie: Het is de eerste toepassing van Visual Mamba in tijdreeksvoorspelling via een 1D-naar-2D strategie, wat de kwadratische complexiteit van ViT doorbreekt en efficiënte globale textuurmodellering mogelijk maakt.
3. MR-WM Module: Een frequentie-encoder die FFT beperkingen oplost door niet-stationaire signalen hiërarchisch te ontkoppelen via wavelets, wat leidt tot betere detectie van lokale anomalieën.

Resultaten

TriTS is uitgebreid getest op zeven benchmarks (ETT, Weather, Electricity, Traffic) en presteert State-of-the-Art (SOTA):

• Nauwkeurigheid: TriTS behaalt de laagste MSE en MAE waarden op de meeste datasets en voorspellingslengtes, vaak met een significante marge ten opzichte van VisionTS, VisionTS++, PatchTST en iTransformer.
• Efficiëntie: In vergelijking met visuele forecasters (zoals VisionTS) reduceert TriTS het aantal parameters en de inferentielatentie drastisch.
  • Voorbeeld: TriTS gebruikt een Vim-Tiny backbone (klein model) in plaats van de zware MAE-Base die VisionTS gebruikt.
  • Het bereikt een lagere geheugenvoet en snellere inferentie tijden, zelfs bij lange vensters (L=720).
• Ablatie Studies: Het verwijderen van de tijd-domein tak leidt tot instabiliteit, wat het belang van de lineaire "anker" bevestigt. Het verwijderen van de visie- of frequentie-tak resulteert in een merkbare daling in prestaties, wat aantoont dat alle drie de modaliteiten essentieel zijn.

Betekenis en Impact

TriTS herdefinieert de efficiëntie-basislijn voor multimodale tijdreeksanalyse. Het bewijst dat het niet nodig is om te kiezen tussen hoge nauwkeurigheid (vaak geassocieerd met zware transformer-modellen) en rekenefficiëntie. Door slimme modale ontkoppeling en het gebruik van State Space Models, biedt TriTS een schaalbare oplossing voor ultra-lange tijdreeksvoorspelling in kritieke toepassingen zoals energievoorziening en weerberichten. Het paper opent de deur voor verdere onderzoek naar adaptieve periodedetectie en complexe, onregelmatige tijdreeksen.