🤖 machine learning

What if Tomorrow is the World Cup Final? Counterfactual Time Series Forecasting with Textual Conditions

Dit artikel introduceert de taak van contrafactuele tijdreeksvoorspelling met tekstuele condities, waarbij een nieuw mechanisme voor teksttoeschrijving en een uitgebreid evaluatiekader worden voorgesteld om flexibele, conditiebewuste voorspellingen mogelijk te maken in complexe realistische scenario's waarin toekomstige gebeurtenissen uitkomsten beïnvloeden.

Oorspronkelijke auteurs: Shuqi Gu, Yongxiang Zhao, Baoyu Jing, Kan Ren

Gepubliceerd 2026-05-15

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Shuqi Gu, Yongxiang Zhao, Baoyu Jing, Kan Ren

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert het verkeer op een drukke straat morgen te voorspellen.

De Oude Manier (Traditionele Voorspelling):
De meeste computermodellen gedragen zich als een historicus die in de achteruitkijkspiegel kijkt. Ze zeggen: "Vorige vrijdag was het verkeer om 17.00 uur zwaar vanwege het woon-werkverkeer. Dus volgende vrijdag zal het om 17.00 uur waarschijnlijk ook zwaar zijn." Ze vertrouwen volledig op wat er eerder is gebeurd.

Het Probleem:
Wat als morgen geen normale vrijdag is? Wat als er een enorme storm toeslaat, of als de WK-finale in de buurt wordt gespeeld? De oude modellen raken in de war. Ze weten niet hoe ze met deze "Wat als?"-scenario's om moeten gaan, omdat ze ze niet in hun geschiedenisboeken hebben gezien. Ze worstelen ook met het begrijpen van complexe beschrijvingen zoals "een plotselinge regenbui om 17.00 uur die de weg beschadigt", en geven de voorkeur aan simpele labels zoals "Regen: Ja/Nee".

De Nieuwe Oplossing (TADIFF):
Dit artikel introduceert een nieuw AI-model genaamd TADIFF (Text-Attributive Time Series Diffusion). Denk hierbij aan een super-imaginatieve weerman die een verhaal kan lezen en voorspellen hoe het plot zal veranderen.

Hier is hoe het werkt, opgesplitst in eenvoudige concepten:

1. Het "Wat Als?"-Spel (Contravente Voorspelling)

De auteurs willen dat de AI vragen beantwoordt zoals: "Als de WK-finale morgen plaatsvindt, hoe zal het verkeer dan veranderen?" zelfs als het spel nog niet heeft plaatsgevonden.

Feitelijk: Het voorspellen van morgen op basis van wat we weten dat zal gebeuren (bijv. "Het is een zonnige zaterdag").
Contravente: Het voorspellen van morgen op basis van een hypothetisch scenario (bijv. "Wat als een gigantische parade de straat blokkeert?").

2. De Magische Truc: Het "Persoon" scheiden van het "Kostuum"

Dit is de grootste innovatie van het artikel, genaamd Text-Attributie.
Stel je een tijdreeks (zoals verkeersdata) voor als een persoon.

Intrinsieke Kenmerken (De Persoon): Dit is wie ze diep van binnen zijn – hun persoonlijkheid, hun lengte, hun natuurlijke ritme. In het verkeer is dit de "natuurlijke stroom" van auto's die elke dag gebeurt, ongeacht externe gebeurtenissen.
Extrinsieke Omstandigheden (Het Kostuum): Dit is wat er van buitenaf met hen gebeurt – het dragen van een regenjas, een marathon lopen, of vastzitten in een parade.

Het Probleem met andere modellen: Ze proberen de toekomst te raden door het persoon en het kostuum door elkaar te halen. Als het kostuum verandert (bijv. een parade), raken ze in de war over wie het persoon is.

De TADIFF-oplossing:
TADIFF gebruikt een speciale "magische lens" om eerst het kostuum weg te halen.

Stap 1 (Attributie): Het kijkt naar het verleden verkeer en zegt: "Oké, de regen en de parade negerend, wat is het natuurlijke ritme van deze weg?" Het isoleert het "persoon".
Stap 2 (Voorspelling): Het neemt dat "natuurlijke persoon" en trekt het nieuwe kostuum aan dat in de tekst wordt beschreven (bijv. "WK-finale"). Het simuleert vervolgens hoe dat specifieke persoon zich in die specifieke nieuwe situatie zou gedragen.

3. Het Verhaal Lezen (Tekstuele Omstandigheden)

In plaats van de AI te dwingen simpele hokjes te begrijpen (zoals "Regen: Ja"), leest TADIFF volledige zinnen.

Invoer: "Er is een regenbui rond 17:00 uur die de weg beschadigt, en reparaties worden rond 21:00 uur voltooid."
Resultaat: De AI begrijpt de nuance: het verkeer zal om 17.00 uur slecht zijn, misschien erger om 18.00 uur door de schade, en dan tegen 21.00 uur verbeteren. Het behandelt de tekst als een script voor een filmscène.

4. De "Zonder Script"-Uitdaging (Evaluatie)

Normaal gesproken wacht je, om te controleren of een voorspelling goed is, tot de toekomst heeft plaatsgevonden en vergelijk je het met de werkelijkheid. Maar voor "Wat als?"-scenario's (zoals een parade die nooit heeft plaatsgevonden) is er geen werkelijkheid om mee te vergelijken.

De auteurs hebben een nieuwe Rechter bedacht (genaamd DTTC).

In plaats van te controleren "Is het getal goed?", stelt de Rechter twee vragen:
1. Voelt deze voorspelling nog steeds als de oorspronkelijke weg? (Hebben we het "persoon" intact gehouden?)
2. Komt deze voorspelling overeen met het verhaal dat we vertelden? (Past het "kostuum" bij het script?)
Als de AI een parade voorspelt maar de weg lijkt op een woestijn, faalt de Rechter het. Als het een parade voorspelt maar de weg lijkt op een normale dinsdag, faalt de Rechter het ook.

5. De Verbeelding Trainen

Omdat de AI de toekomst niet kan zien voor "Wat als?"-scenario's, leerden de auteurs het door nep-scenario's te verzinnen.
Ze namen echte data en wisselden willekeurig de "kostuums" uit.

Echt: "Zonnige dag, normaal verkeer."
Nep Training: "Zonnige dag, maar stel je voor dat er een parade plaatsvindt."
Ze trainden de AI om met deze verzonne verhalen om te gaan, zodat wanneer er een echte "Wat als?"-vraag komt, de AI klaar is.

Samenvatting

Het artikel beweert dat TADIFF beter is dan eerdere modellen omdat:

Het complexe tekstverhalen kan lezen om toekomstige omstandigheden te begrijpen.
Het de "natuurlijke ritme" van data scheidt van "externe gebeurtenissen" om verwarring te voorkomen.
Het "Wat als?"-scenario's (contravente) kan voorspellen, zelfs als er geen echte data is om mee te vergelijken, door een nieuwe manier te gebruiken om te beoordelen of de voorspelling logisch zinvol is.

Kortom, het is een AI die niet alleen in de achteruitkijkspiegel kijkt; het leest het script voor het toneelstuk van morgen en speelt de scène na, zelfs als die scène puur imaginair is.

Technische Samenvatting: Contrafactuele Tijdreeksvoorspelling met Tekstuele Condities

Probleemdefinitie

Tijdreeksvoorspelling in real-world scenario's wordt vaak gehinderd door de afhankelijkheid van historische patronen en feitelijke toekomstige condities, wat geen rekening houdt met complexe, stochastische en hypothetische ("wat als") scenario's. Bestaande methoden zijn doorgaans afhankelijk van historische waarnemingen of eenvoudige, gestructureerde toekomstige interventies (bijvoorbeeld binaire gebeurtenisindicatoren), wat hun vermogen beperkt om te generaliseren naar ongestructureerde, real-world complexiteiten. Bovendien vormt het evalueren van voorspellingsprestaties onder contrafactuele condities—waarbij de in tekst beschreven toekomstige gebeurtenis feitelijk niet heeft plaatsgevonden en dus geen ground-truth tijdreeksdata ontbreekt—een fundamentele uitdaging voor traditionele op nauwkeurigheid gebaseerde metrieken zoals de Mean Squared Error (MSE).

Het artikel formaliseert de taak van Contrafactuele Tijdreeksvoorspelling met Tekstuele Condities. Het doel is om toekomstige tijdreekssequenties te voorspellen, geconditioneerd op:

Historische tijdreeksdata ( $x_h$ ) en de bijbehorende historische tekstuele condities ( $c_h$ ).
Toekomstige tekstuele condities ( $c_f$ ) die feitelijk (waargenomen) of contrafactueel (hypothetisch/stochastisch) kunnen zijn.

Belangrijke uitdagingen die zijn geïdentificeerd, zijn onder meer:

Patroonconflicten: Historische dynamieken en toekomstige condities kunnen conflicterende patronen vertonen (bijvoorbeeld een WK-finale die verkeerspieken veroorzaakt, ondanks typische uren met weinig verkeer).
Aanpasbaarheid: Modellen die uitsluitend op feitelijke data zijn getraind, worstelen met het aanpassen aan ongezette contrafactuele combinaties, wat vaak resulteert in gehomogeniseerde voorspellingen.
Evaluatie: De afwezigheid van ground-truth toekomstige sequenties in contrafactuele settings maakt standaard numerieke metrieken ontoepasbaar.

Methodologie: TADIFF

De auteurs stellen TADIFF (Text-Attributive Time series Diffusion) voor, een multimodaal diffusiemodel dat is ontworpen om deze uitdagingen aan te pakken via een nieuw tekst-attributiemechanisme.

1. Tekst-Attributiemechanisme

Om de invloed van historische patronen en toekomstige condities in evenwicht te brengen, ontkoppelt TADIFF de tijdreeks in intrinsieke kenmerken (fundamentele eigenschappen die onafhankelijk zijn van extrinsieke condities, zoals demografische structuren in verkeer) en extrinsieke condities (contextuele factoren zoals weer of evenementen).

Attributiefase (Inferentie): Het model gebruikt een conditie-bewust diffusie-voorwaartse proces om de invloed van historische extrinsieke condities ( $c_h$ ) uit de historische sequentie ( $x_{h,0}$ ) te "elimineren", waardoor het intrinsieke kenmerk ( $x_{h,T}$ ) wordt geëxtraheerd. Dit dient als de initiële ruisstate voor het voorspellingsproces.
Voorspellingsfase: Het model conditioneert het denoising-proces op de oorspronkelijke historische sequentie ( $x_{h,0}$ ) en de gewenste toekomstige conditie ( $c_f$ ). Het gebruikt het geëxtraheerde intrinsieke kenmerk ( $x_{h,T}$ ) als startpunt voor het genereren van de toekomstige sequentie, zodat de voorspelling de onderliggende intrinsieke dynamiek respecteert terwijl het zich aanpast aan de nieuwe tekstuele conditie.

2. Trainingsstrategie

Gecombineerde Optimalisatie: Het model wordt getraind met twee doelen:
- Attributieverlies ( $L_A$ ): Minimaliseert de ruis-estimatiefout bij het attribueren van intrinsieke kenmerken uit historische data gegeven historische condities.
- Voorspellingsverlies ( $L_F$ ): Minimaliseert de ruis-estimatiefout voor de toekomstige sequentie, gemaskerd om uitsluitend de toekomstige componenten te superviseren.
Contrafactuele Data Augmentatie & Finetuning: Om de aanpasbaarheid aan diverse condities te verbeteren zonder ground-truth toekomstige data, construeren de auteurs een contrafactuele dataset door historische sequenties willekeurig te koppelen aan alternatieve toekomstige condities. Zij stellen een finetuning-algoritme voor dat semantische metrieken (DTTC) benut om het model te optimaliseren op deze synthetische contrafactuele data, waardoor generalisatie wordt versterkt zonder feitelijke nauwkeurigheid te compromitteren.

3. Evaluatiekader (DTTC)

Om voorspellingen te evalueren bij afwezigheid van ground truth, introduceert het artikel DTTC (Disentangled Time Series and Text Consistency), een semantische evaluatiemetriek gebaseerd op contrastief leren.

DTTC-I: Meet de consistentie tussen de voorspelling en de intrinsieke kenmerken van de historische sequentie.
DTTC-E: Meet de consistentie tussen de voorspelling en de extrinsieke toekomstige tekstuele condities.
Het DTTC-model maakt gebruik van een dual-encoder-architectuur (Tijdreeks-Encoder en Tekst-Encoder) die is getraind om intrinsieke kenmerken over de tijd te aligneren en extrinsieke kenmerken tussen tijdreeksen en tekst.

Belangrijkste Bijdragen

Taakformulering: Introductie van Contrafactuele Tijdreeksvoorspelling met Tekstuele Condities, wat flexibele, conditie-bewuste voorspelling mogelijk maakt onder stochastische aannames.
Evaluatiekader: Een uitgebreid kader dat numerieke nauwkeurigheid (voor feitelijke settings) en semantische consistentie (DTTC) combineert voor zowel feitelijke als contrafactuele settings, waarmee het gebrek aan ground truth in hypothetische scenario's wordt aangepakt.
Modelarchitectuur: Ontwikkeling van TADIFF, een diffusiemodel met een tekst-attributiemechanisme dat intrinsieke historische patronen ontkoppelt van tekstuele contexten.
Trainingsstrategie: Een contrafactuele finetuning-aanpak die de aanpasbaarheid van het model aan diverse condities verbetert met behulp van geconstrueerde data en semantische metrieken.

Experimentele Resultaten

De auteurs hebben TADIFF geëvalueerd op synthetische (Synth) en real-world datasets (ETTm1, Traffic, Exchange, Weather).

Feitelijke Prestaties: TADIFF behaalde superieure numerieke nauwkeurigheid (MAE, MSE) en semantische consistentie (DTTC-I, DTTC-E) in vergelijking met unimodale baselines (bijvoorbeeld DLinear, PatchTST) en multimodale baselines (bijvoorbeeld VerbalTS, TimeMMD, IATSF).
Contrafactuele Prestaties: In settings zonder ground truth toonde TADIFF sterke generalisatie, met de hoogste DTTC-scores, wat aangeeft dat het effectief historische beperkingen balanceert met hypothetische toekomstige condities.
Ablatiestudies:
- Tekst-Attributie: Het verwijderen van dit mechanisme degradeerde zowel de semantische consistentie als de numerieke nauwkeurigheid aanzienlijk, vooral in contrafactuele settings, wat de rol bevestigt bij het ontkoppelen van intrinsieke kenmerken.
- Contrafactuele Finetuning: Finetuning op contrafactuele data verbeterde de semantische consistentie zonder numerieke nauwkeurigheid op feitelijke data te offeren.
- Initiële Ruis: Analyse toonde aan dat tekst-attributie de initiële ruisruimte van het diffusiemodel optimaliseert, waardoor compactere clusters ontstaan en effectiever conditioneel denoising mogelijk wordt.

Betekenis en Beweringen

Het artikel beweert dat TADIFF nieuwe wegen opent voor het modelleren en beoordelen van contrafactuele voorspellingen onder complexe condities. Door verder te gaan dan de afhankelijkheid van historische trajecten en eenvoudige categorische interventies, maakt de voorgestelde methode rationelere en flexibele voorspelling mogelijk in scenario's waar toekomstige dynamieken sterk afwijken van het verleden.

De auteurs benadrukken drie potentiële positieve maatschappelijke impacten:

Ondersteuning van besluitvorming onder complexe, stochastische aannames (bijvoorbeeld: "Wat als een storm toeslaat tijdens een groot evenement?").
Het bieden van innovatieve evaluatiemethoden voor tijdreeksvoorspelling waar ground truth niet beschikbaar is.
Het inspireren van een beter gebruik van multimodale informatie in tijdreeksanalyse.

Het artikel behoudt een bescheiden houding wat betreft beperkingen, en wijst op uitdagingen bij het evalueren van voorspellingen van variërende lengtes met modelgebaseerde metrieken, maar benadrukt de bruikbaarheid van het voorgestelde kader voor real-world besluitvorming.