🤖 AI

Existence Precedes Value: Joint Modeling of Observational Existence and Evolving States in Time Series Forecasting

Dit artikel introduceert Timeflies, een verenigd framework dat toekomstige observeerbaarheid en waardeschatting gezamenlijk modelleert in onregelmatige tijdreeksvoorspellingen om de praktische beperkingen van bestaande methoden te overwinnen die aannemen dat toekomstige observatietijdstippen vooraf bekend zijn.

Oorspronkelijke auteurs: Yifan Hu, Hongzhou Chen, Peiyuan Liu, Yiding Liu, Zewei Dong, Jiang-Ming Yang

Gepubliceerd 2026-06-12

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yifan Hu, Hongzhou Chen, Peiyuan Liu, Yiding Liu, Zewei Dong, Jiang-Ming Yang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: Het Onvoorspelbare Voorspellen

Stel je voor dat je probeert te voorspellen wat het volgende week met het weer wordt. Maar er is een addertje onder het gras: je weerstation is kapot. Soms stuurt het je een temperatuurmeting, maar vaak blijft het stil omdat de batterij leeg is, de internetverbinding is weggevallen of de sensor bedekt is met sneeuw.

De oude manier (Generaties 1 & 2):
De meeste huidige AI-modellen gedragen zich als een eigenwijze chef-kok. Ze zeggen: "Ik moet de temperatuur van elk uur van volgende week weten om mijn soep te maken."

Generatie 1 probeert de "gaten in te vullen" door te gokken welke getallen er misschien hadden gestaan, en voorspelt vervolgens de toekomst op basis van die nep, volledige data.
Generatie 2 is slimmer; het begrijpt dat tijd continu is. Maar het maakt nog steeds een enorme aanname: Het gaat ervan uit dat we al precies weten wanneer het weerstation volgende week zal werken. Het vraagt: "Als het station om 14:00 uur werkt, wat is dan de temperatuur?"

De Realiteitscheck:
In de echte wereld weten we niet of het station zal werken. Het station kan om 14:00 uur dood zijn. Een temperatuur voorspellen voor een moment waarop er geen data bestaat, is nutteloos. Je kunt geen beslissing nemen op basis van een getal dat misschien niet eens bestaat.

De Nieuwe Oplossing: Timeflies

De auteurs stellen een nieuwe aanpak voor genaamd Timeflies. Hun kernfilosofie is simpel: "Existence Precedes Value" (Bestaan gaat vooraf aan Waarde).

Voordat je vraagt: "Wat zal de waarde zijn?", moet je eerst vragen: "Zal er überhaupt een waarde zijn?"

Zie Timeflies als een detectieteam van twee personen dat een zaak onderzoekt waarbij bewijsmateriaal ontbreekt:

Detective "Existence" (De Observatiestroom): Deze detective kijkt naar de geschiedenis van het kapotte weerstation. Ze merken patronen op: "Het station gaat meestal op dinsdag uit," of "Het stopt met werken als het regent." Hun taak is om te voorspellen: "Zal het station aanstaande dinsdag om 14:00 uur een signaal sturen?"
Detective "Value" (De Waardestroom): Deze detective kijkt naar de werkelijke temperatuurgegevens. Hun taak is om te voorspellen: "Als het station wel een signaal stuurt, wat zal de temperatuur dan zijn?"

Hoe ze samenwerken:
Deze twee detectives praten met elkaar. Als Detective Existence zegt: "Het station is aanstaande dinsdag om 14:00 uur definitief kapot," dan stopt Detective Value met het proberen te raden van een temperatuur voor dat tijdstip. Als Detective Existence zegt: "Het station werkt waarschijnlijk wel," dan geeft Detective Value een zelfverzekerde temperatuurmeting.

De Drie Geheime Wapens

Om deze samenwerking te laten slagen, gebruikt Timeflies drie speciale instrumenten:

Het "Betrouwbaarheidspad" (Reliability-Aware Patch Embedding):
Stel je voor dat je naar een foto kijkt die half wazig en half scherp is. Timeflies kijkt niet zomaar naar de hele foto; het plaatst een "Betrouwbaarheidspad" op elk gedeelte. Als een deel van de geschiedenis vol ontbrekende data zit (wazig), weet het model dat het dit minder moet vertrouwen. Het filtert de "ruis" eruit zodat de voorspelling niet in de war raakt door slechte data.
Het "Gedeelde Notitieblok" (Observation-Guided Value Attention):
Normaal gesproken werken de twee detectives in aparte kamers. Timeflies dwingt hen om een gedeeld notitieblok te gebruiken. De "Existence"-detective schrijft patronen op zoals "De sensor valt elke 3 dagen uit." De "Value"-detective leest dit en zegt: "Ah, ik zie het al. Ik moet niet proberen een waarde te voorspellen voor die 3-daagse kloof." Dit helpt het model om het ritme van de ontbrekende data te begrijpen, en niet alleen de getallen.
De "Poortwachter" (Dual Prediction Head):
Aan het einde spuugt het model niet zomaar een getal uit. Het geeft je twee dingen:

Een waarschijnlijkheidsscore: "Er is een kans van 85% dat we een meting krijgen."
Een waarde: "Als we een meting krijgen, zal het 72°F zijn."
Als de waarschijnlijkheid laag is, weet het systeem dat het de temperatuurvoorspelling moet negeren.

De Nieuwe Test: "Shadow"

Om te bewijzen dat hun idee werkt, gebruikten de auteurs niet alleen standaard testdata. Ze bouwden een nieuwe benchmark genaamd Shadow.

De Analogie: Stel je een test voor waarbij sommige studenten perfecte aantekeningen hebben, anderen gescheurde pagina's, en weer anderen volledig lege pagina's.
De Twist: Ze mengden publieke data met echte industriële data (zoals e-commerce verkopen) waar data op natuurlijke wijze verdwijnt (bijv. geen verkopen tijdens feestdagen, sensoren die offline gaan).
Het Doel: Ze wilden zien of het model de "schaduw" van ontbrekende data kon hanteren, en niet alleen het "licht" van perfecte data.

De Nieuwe Scorekaart: OVJE

Oude modellen worden alleen beoordeeld op hoe dicht hun temperatuurvoorspelling bij de echte temperatuur lag. Timeflies introduceerde een nieuwe score genaamd OVJE (Observation-Value Joint Entropy).

De Analogie: Stel je een weervoorspeller voor.
- Oude Score: "Je voorspelde 72°F, het was 72°F. Goed gedaan!" (Zelfs als ze 72°F voorspelden op een moment dat de sensor kapot was).
- Nieuwe Score (OVJE): "Je voelde 72°F, en je voorspelde correct dat de sensor zou werken. Goed gedaan!" OF "Je voorspelde correct dat de sensor kapot zou zijn. Goed gedaan!"
- Als je een temperatuur voorspelt voor een kapotte sensor, stort je score in, zelfs als het getal klopt. Dit dwingt de AI om eerlijk te zijn over wanneer het kan voorspellen.

De Resultaten

Toen ze Timeflies testten tegen de beste bestaande modellen:

Timeflies won. Het was consequent beter in het voorspellen van zowel wanneer data zou verschijnen als wat die data zou zijn.
Hoe kapot de data was, hoe groter de winst. Wanneer de data erg schaars was (veel ontbrekende stukjes), raakten de oude modellen in de war en faalden ze. Timeflies bloeide juist op omdat het specif Koo de ontwerpen om de "ontbrekendeheid" als een aanwijzing te gebruiken, in plaats van als een defect.

Samenvatting

Timeflies verandert het spel door toe te geven dat we in de echte wereld vaak niet weten of een signaal zal arriveren. In plaats van blindelings getallen te raden voor lege plekken, voorspelt het eerst of een plek gevuld zal worden, en voorspelt het pas daarna wat erin zit. Het behandelt ontbrekende data niet als een fout die moet worden hersteld, maar als een betekenisvol signaal dat ons iets vertelt over het gedrag van het systeem.

Technische Samenvatting: Timeflies – Bestaan gaat vooraf aan Waarde

1. Probleemstelling

Real-world tijdreeksvoorspelling wordt frequent gehinderd door hoge niveaus van incompleetheid en onregelmatigheid veroorzaakt door sensor-slaapstanden, transmissievertragingen en gebeurtenisgestuurde bemonstering. Hoewel bestaande methoden zijn geëvolueerd van rigide "imputeer-dan-voorspel"-pipelines naar continue-tijdmodellen (bijv. Neural ODEs, continue-tijd grafische netwerken) die historische onregelmatigheden beter kunnen afhandelen, lijden ze aan een kritieke beperking: de perfecte vooruitziendheid-aanname.

Huidige state-of-the-art modellen gaan ervan uit dat de tijdstempels van toekomstige geldige observaties vooraf bekend zijn tijdens de inferentie. In praktische systemen is het echter vaak onduidelijk of er op een specifiek toekomstig moment een geldige observatie zal plaatsvinden. Het voorspellen van een numerieke waarde zonder eerst de existentie ervan te bevestigen, is vaak onpraktisch, aangezien besluitvormingsprocessen afhankelijk zijn van de observeerbaarheid van informatie. Het artikel betoogt dat ontbreken niet louter moet worden behandeld als een statische datafout die geïmputeerd moet worden, maar als een diepgaand temporeel signaal dat de gedragspatronen van het systeem reflecteert.

2. Methodologie: Het Timeflies Framework

Om dit aan te pakken, stellen de auteurs Timeflies voor, een verenigd voorspellingsframework dat tijdreeksvoorspelling herformuleert als een gezamenlijk probleem van toekomstige observeerbaarheidsinferentie en waardeschatting. De kernfilosofie is "Bestaan gaat vooraf aan Waarde": een numerieke voorspelling is alleen zinvol als de observatie daadwerkelijk wordt gerealiseerd.

Architectuuroverzicht

Timeflies maakt gebruik van een symmetrische duale-stream architectuur bestaande uit een Observatiestroom en een Waardestroom, gekoppeld via drie synergetische modules:

Betrouwbaarheidsbewuste Patch Embedding:
- De invoersequentie wordt verdeeld in patches.
- Een Mask-Aware Normalisatie wordt toegepast op de waardesequentie, waarbij statistieken alleen worden berekend op geobserveerde vermeldingen om vervorming door ontbrekende waarden te voorkomen.
- De observatiestroom codeert ontbrekende posities en intervallen met behulp van een gated fusiemechanisme.
- Een Patch Betrouwbaarheidsscore ( $\rho$ ) wordt berekend op basis van de observatieratio en de duur van het ontbrekende interval binnen elke patch. Deze score moduleert de injectie van observatiepatronen in de waarde-embedding, waarbij bijdragen van schaarse, door ruis gedomineerde patches worden gedempt terwijl betrouwbare patches worden versterkt.
Observatie-gestuurde Waarde-aandacht:
- Beide stromen maken gebruik van self-attention om langetermijn-afhankelijkheden te vangen.
- Cruciaal is dat de observatiestroom niet in isolatie opereert; zij stuurt de waardestroom aan via een Cross-track Conditioned Attention mechanisme.
- De attention-map is een fusie van de semantische correlaties van de waardestroom, de structurele correlaties van de observatiestroom en een betrouwbaarheidsgewogen term. Dit zorgt ervoor dat waarde-voorspellingen worden geïnformeerd door historische ontbrekende patronen, waardoor de aandacht effectief wordt weggeleid van onbetrouwbare schaarse keys en naar informatieve patches.
Duale Voorspellingskop:
- De hoogwaardige representaties van beide stromen worden gemapt naar de voorspellingshorizon.
- Observeerbaarheidsvoorspelling: Een classificatiekop voorspelt de waarschijnlijkheid dat er op elk toekomstig tijdstap een geldige observatie plaatsvindt ( $\hat{O}$ ).
- Waardevoorspelling: Een regressiekop voorspelt de toekomstige toestands-waarden ( $\hat{Y}$ ).
- Gated Fusion: De voorspelde observeerbaarheid fungeert als een soft gate op de waarde-voorspelling. De uiteindelijke waarde-inschatting is een combinatie van de directe waarde-stroom output en de bijdrage van de observatiestroom, gewogen door de voorspelde existentiekans. Dit zorgt ervoor dat observatiekenmerken de voorspelling alleen significant beïnvloeden wanneer de existentie zeer waarschijnlijk is.

Trainingsdoelstelling

Het model wordt getraind met een gezamenlijke verliesfunctie:
$\mathcal{L} = \mathcal{L}_{val} + \eta \cdot \mathcal{L}_{obs}$

$\mathcal{L}_{val}$ : Mean Squared Error (MSE) berekend alleen op tijdstappen waar grondwaarheid-observaties bestaan.
$\mathcal{L}_{obs}$ : Focal Binary Cross-Entropy (Focal BCE) om de klassenonbalans tussen geobserveerde en ontbrekende posities te behandelen.
$\eta$ : Een hyperparameter die de twee taken balanceert.

3. Belangrijkste Bijdragen

Een Nieuw Voorspellingsparadigma

Het artikel daagt de "oracle timestamps aanname" uit die gangbaar is in eerdere modellen. Het pioniert een paradigma waarbij het model expliciet voorspelt of een observatie zal plaatsvinden voordat het de waarde ervan inschat. Dit verschuift de focus van eenvoudige numerieke extrapolatie naar het infereren van het mechanisme van informatiegeneratie.

Technische Vooruitgang (Timeflies)

Timeflies deelt tijdreeksen expliciet op in twee interactieve stromen. Door historische observatieritmes als dynamische context te extraheren, stelt de architectuur de existentiepatronen in staat om en de staat-voorspellingen te leiden en te verfijnen. Deze diepe interactie overbrugt de kloof tussen de observeerbaarheid van informatie en de onderliggende numerieke waarden.

Empirisch en Praktisch Nut

Shadow Benchmark: Om het framework rigoureus te valideren, hebben de auteurs Shadow geconstrueerd, een uitgebreide benchmark die natuurlijke ontbrekende gaten uit publieke datasets (GIFT-Eval) combineert met real-world industriële e-commerce data. Cruciaal is dat de propriëtaire datasets strikt natuurlijke ontbrekende waarden bevatten (niet-willekeurig, coderend met structurele patronen zoals inactiviteit tijdens daluren) met ontbrekende ratio's variërend van <0,1% tot >89%.
OVJE Metriek: De auteurs introduceren de Observation-Value Joint Entropy (OVJE) metriek. In tegenstelling tot traditionele marginale foutmetrieken (MSE/MAE), evalueert OVJE de gekoppelde capaciteit van existentie-inferentie en waarde-inschatting door de negatieve log-likelihood van de gezamenlijke distributie $P(y_t, o_t | x_t)$ te berekenen.

4. Experimentele Resultaten

Uitgebreide experimenten op de Shadow benchmark tonen aan dat Timeflies consequent de bestaande baselines overtreft, inclusief Transformer-gebaseerde (PatchTST, iTransformer, FEDformer), Lineair-gebaseerde (OLinear, DLinear) en CNN-gebaseerde methoden.

Prestaties: Timeflies bereikt state-of-the-art prestaties over alle schaarste-regimes (geen, lage, medium en hoge ontbrekende waarden).
Schaarste-gevoeligheid: Het prestatieverschil wordt aanzienlijk groter naarmate de dataschaarste toeneemt. In omgevingen met hoge schaarste degraderen traditionele baselines door blindelings waarden te extrapoleren, terwijl Timeflies effectief de ware signalen isoleert van door ontbrekende waarden geïnduceerde ruis.
Robuustheid: Op datasets met extreme verschuivingen in ontbrekende waarden (bijv. trainen met <1% ontbrekende waarden en testen met >90%), behoudt Timeflies een robuuste prestatie, terwijl concurrerende modellen catastrofaal falen.
Ablatie-studies: Het verwijderen van een kerncomponent (Mask-Aware Normalization, Observation-Guided Attention, Patch Reliability of Focal Loss) leidt tot prestatievermindering, wat de structurele noodzaak van elk module bevestigt.

5. Betekenis en Claims

Het artikel claimt dat het expliciet modelleren van toekomstige observeerbaarheid een onmisbare poort is voor betrouwbare numerieke voorspelling in onregelmatige settings. Door ontbreken te behandelen als een gestructureerde prior in plaats van een defect, stelt Timeflies beslissingssystemen in staat om observatie-onzekerheid te integreren.

De auteurs merken bescheiden op dat hun werk zich richt op de GIFT-Eval benchmark met natuurlijk voorkomende ontbrekende patronen en een stationair ontbrekendheidsmechanisme veronderstelt. Ze erkennen beperkingen zoals de constante computationele overhead van observatie-bewuste modules, zelfs in volledig geobserveerde settings, en de aanname van kanaal-onafhankelijkheid. Desalniettemin opent het werk een nieuwe weg voor tijdreeksvoorspelling door observeerbaarheid en numerieke regressie te overbruggen, wat een realistischerere benadering biedt voor real-world implementaties waar de integriteit van data niet gegarandeerd kan worden.