🤖 AI

Existence Precedes Value: Joint Modeling of Observational Existence and Evolving States in Time Series Forecasting

Dieses Paper stellt Timeflies vor, ein vereinheitlichtes Framework, das die zukünftige Beobachtbarkeit und Wertschätzung gemeinsam in der unregelmäßigen Zeitreihenprognose modelliert, um die praktischen Einschränkungen bestehender Methoden zu überwinden, die davon ausgehen, dass zukünftige Beobachtungszeitstempel im Voraus bekannt sind.

Ursprüngliche Autoren: Yifan Hu, Hongzhou Chen, Peiyuan Liu, Yiding Liu, Zewei Dong, Jiang-Ming Yang

Veröffentlicht 2026-06-12

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yifan Hu, Hongzhou Chen, Peiyuan Liu, Yiding Liu, Zewei Dong, Jiang-Ming Yang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Das Unvorhersehbare vorhersagen

Stellen Sie sich vor, Sie versuchen, das Wetter für die nächste Woche vorherzusagen. Aber es gibt einen Haken: Ihre Wetterstation ist defekt. Manchmal sendet sie Ihnen eine Temperaturmessung, aber oft bleibt sie stumm, weil die Batterie leer ist, das Internet ausgefallen ist oder der Sensor von Schnee bedeckt wurde.

Der alte Weg (Generation 1 & 2):
Die meisten aktuellen KI-Modelle verhalten sich wie ein eigensinniger Koch. Sie sagen: „Ich muss die Temperatur für jede Stunde der nächsten Woche kennen, um meine Suppe zu kochen.“

Generation 1 versucht, „die Lücken zu füllen“, indem sie rät, welche Zahlen dort hätten sein können, und prognostiziert dann die Zukunft basierend auf diesen gefälschten, vollständigen Daten.
Generation 2 ist klüger; sie versteht, dass Zeit kontinuierlich verläuft. Aber sie trifft immer noch eine große Annahme: Sie geht davon aus, dass wir bereits genau wissen, wann die Wetterstation nächste Woche funktionieren wird. Sie fragt: „Wenn die Station um 14:00 Uhr funktioniert, wie hoch wird die Temperatur sein?“

Der Realitätscheck:
In der realen Welt wissen wir nicht, ob die Station funktionieren wird. Die Station könnte um 14:00 Uhr tot sein. Eine Temperatur für einen Moment vorherzusagen, in dem keine Daten existieren, ist nutzlos. Man kann keine Entscheidung auf Basis einer Zahl treffen, die vielleicht gar nicht existiert.

Die neue Lösung: Timeflies

Die Autoren schlagen einen neuen Ansatz namens Timeflies vor. Ihre Kernphilosophie ist einfach: „Existence Precedes Value“ (Existenz geht dem Wert voraus).

Bevor Sie fragen: „Was wird der Wert sein?“, müssen Sie zuerst fragen: „Wird es überhaupt einen Wert geben?“

Betrachten Sie Timeflies als ein Zwei-Personen-Detektiv-Team, das an einem Fall arbeitet, bei dem Beweismittel fehlen:

Detektiv „Existenz“ (Der Beobachtungsstrom): Dieser Detektiv betrachtet die Historie der defekten Wetterstation. Er bemerkt Muster: „Die Station fällt meistens dienstags aus“ oder „Sie hört auf zu arbeiten, wenn es regnet“. Seine Aufgabe ist es vorherzusagen: „Wird die Station am nächsten Dienstag um 14:00 Uhr ein Signal senden?“
Detektiv „Wert“ (Der Wertstrom): Dieser Detektiv betrachtet die eigentlichen Temperaturdaten. Seine Aufgabe ist es vorherzusagen: „Wenn die Station tatsächlich ein Signal sendet, wie hoch wird die Temperatur sein?“

Wie sie zusammenarbeiten:
Diese beiden Detektive sprechen miteinander. Wenn Detektiv Existenz sagt: „Die Station ist am Dienstag um 14:00 Uhr definitiv defekt“, hört Detektiv Wert auf, eine Temperatur für diese Zeit zu raten. Wenn Detektiv Existenz sagt: „Die Station wird wahrscheinlich funktionieren“, liefert Detektiv Wert eine verlässliche Temperaturmessung.

Die drei Geheimwaffen

Um diese Teamarbeit zu ermöglichen, nutzt Timeflies drei spezielle Werkzeuge:

Das „Zuverlässigkeitsabzeichen“ (Reliability-Aware Patch Embedding):
Stellen Sie sich vor, Sie betrachten ein Foto, das halb verschwommen und halb klar ist. Timeflies betrachtet nicht einfach das ganze Foto; es setzt auf jeden Abschnitt ein „Zuverlässigkeitsabzeichen“. Wenn ein Abschnitt der Historie viele fehlende Daten enthält (verschwommen ist, weiß das Modell, dass es diesem Teil weniger vertrauen sollte. Es filtert das „Rauschen“ heraus, damit die Vorhersage nicht durch schlechte Daten verwirrt wird.
Das „Gemeinsame Notizbuch“ (Observation-Guided Value Attention):
Normalerweise arbeiten die beiden Detektive in separaten Räumen. Timeflies zwingt sie dazu, ein gemeinsames Notizbuch zu teilen. Der „Existenz“-Detektiv schreibt Muster auf wie: „Der Sensor fällt alle 3 Tage aus.“ Der „Wert“-Detektiv liest dies und sagt: „Ah, ich verstehe. Ich sollte nicht versuchen, einen Wert für diese 3-Tage-Lücke vorherzusagen.“ Dies hilft dem Modell, den Rhythmus der fehlenden Daten zu verstehen, nicht nur die Zahlen.
Der „Torwächter“ (Dual Prediction Head):
Am Ende spuckt das Modell nicht einfach nur eine Zahl aus. Es liefert zwei Dinge:

Einen Wahrscheinlichkeitswert: „Es besteht eine 85%ige Chance, dass wir eine Messung erhalten.“
Einen Wert: „Wenn wir eine Messung erhalten, wird es 72 °F sein.“
Wenn die Wahrscheinlichkeit niedrig ist, weiß das System, dass es die Temperaturprognose ignorieren muss.

Der neue Test: „Shadow“

Um ihre Idee zu beweisen, haben die Autoren nicht nur Standard-Testdaten verwendet. Sie haben einen neuen Benchmark namens Shadow entwickelt.

Die Analogie: Stellen Sie sich einen Test vor, bei dem einige Schüler perfekte Notizen haben, andere zerrissene Seiten und manche komplett leere Seiten.
Der Clou: Sie mischten öffentliche Daten mit realen Industriedaten (wie E-Commerce-Verkäufen), bei denen Daten natürlich fehlen (z. B. keine Verkäufe an Feiertagen, Sensoren, die offline gehen).
Das Ziel: Sie wollten sehen, ob das Modell mit dem „Schatten“ fehlender Daten umgehen kann, nicht nur mit dem „Licht“ perfekter Daten.

Die neue Bewertung: OVJE

Alte Modelle werden nur danach bewertet, wie nah ihre Temperaturprognose an der tatsächlichen Temperatur liegt. Timeflies führte eine neue Kennzahl namens OVJE (Observation-Value Joint Entropy) ein.

Die Analogie: Stellen Sie sich einen Wettervorhersager vor.
- Alter Score: „Sie haben 72 °F geschätzt, es waren 72 °F. Gute Arbeit!“ (Selbst wenn sie 72 °F für einen Zeitpunkt geschätzt haben, an dem der Sensor defekt war).
- Neuer Score (OVJE): „Sie haben 72 °F geschätzt UND korrekt vorhergesagt, dass der Sensor funktionieren wird. Gute Arbeit!“ ODER „Sie haben korrekt vorhergesagt, dass der Sensor defekt sein wird. Gute Arbeit!“
- Wenn man eine Temperatur für einen defekten Sensor vorhersagt, sinkt der Score drastisch, selbst wenn die Zahl stimmt. Dies zwingt die KI dazu, ehrlich darüber zu sein, wann sie etwas vorhersagen kann.

Die Ergebnisse

Als sie Timeflies gegen die besten bestehenden Modelle testeten:

Timeflies gewann. Es war konsistent besser darin, sowohl vorherzusagen, wann Daten erscheinen würden, als auch, was diese Daten enthalten würden.
Je kaputter die Daten waren, desto größer war der Sieg. Wenn die Daten sehr spärlich waren (viele fehlende Teile), wurden die alten Modelle verwirrt und scheiterten. Timeflies florierte, weil es speziell darauf ausgelegt war, das „Fehlen“ als einen Hinweis zu behandeln, nicht als einen Defekt.

Zusammenfassung

Timeflies ändert die Spielregeln, indem es zugibt, dass wir in der realen Welt oft nicht wissen, ob ein Signal eintreffen wird. Anstatt blind Zahlen für leere Slots zu raten, sagt es zuerst voraus, ob ein Slot gefüllt wird, und prognostiziert erst dann, was darin enthalten ist. Es behandelt fehlende Daten nicht als Fehler, der behoben werden muss, sondern als ein bedeutungsvolles Signal, das uns etwas über das Verhalten des Systems verrät.

Technisches Resümee: Timeflies – Existenz geht dem Wert voraus

1. Problemstellung

Die Zeitreihenprognose in der realen Welt wird häufig durch ein hohes Maß an Unvollständigkeit und Unregelmäßigkeit behindert, die durch Sensorruhe, Übertragungsverzögerungen und ereignisgesteuerte Abtastung verursacht werden. Während sich bestehende Methoden von starren „Impute-then-Forecast“-Pipelines zu kontinuierlichen Zeitmodellen (z. B. Neural ODEs, kontinuierliche Graph-Netzwerke) entwickelt haben, die historische Unregelmäßigkeiten besser handhaben können, leiden sie unter einer kritischen Einschränkung: der Annahme perfekter Voraussicht (Perfect Foresight Assumption).

Aktuelle State-of-the-Art-Modelle setzen voraus, dass die Zeitstempel zukünftiger gültiger Beobachtungen während der Inferenz im Voraus bekannt sind. In praktischen Systemen ist es jedoch oft unklar, ob zu einem bestimmten zukünftigen Zeitpunkt eine gültige Beobachtung stattfinden wird. Die Vorhersage eines numerischen Wertes ohne vorherige Bestätigung seiner Existenz ist oft unpraktikabel, da Entscheidungsprozesse auf der Beobachtbarkeit von Informationen beruhen. Das Paper argumentiert, dass fehlende Werte nicht bloß als statischer Datenfehler behandelt werden sollten, der imputiert werden muss, sondern als ein tiefgreifendes temporales Signal, das die Verhaltensmuster des Systems widerspiegelt.

2. Methodik: Das Timeflies-Framework

Um dies zu adressieren, schlagen die Autoren Timeflies vor, ein vereinheitlichtes Prognose-Framework, das die Zeitreihenvorhersage als ein gemeinsames Problem der Inferenz der zukünftigen Beobachtbarkeit und der Wertschätzung neu formuliert. Die Kernphilosophie lautet „Existenz geht dem Wert voraus“: Eine numerische Vorhersage ist nur dann sinnvoll, wenn die Beobachtung tatsächlich realisiert wird.

Architekturübersicht

Timeflies verwendet eine symmetrische Dual-Stream-Architektur, die aus einem Beobachtungsstrom (Observation Stream) und einem Wertestrom (Value Stream) besteht, welche durch drei synergetische Module gekoppelt sind:

Zuverlässigkeitsbewusste Patch-Einbettung (Reliability-Aware Patch Embedding):
- Die Eingangssequenz wird in Patches unterteilt.
- Eine Masken-bewusste Normalisierung (Mask-Aware Normalization) wird auf die Wertsequenz angewendet, wobei Statistiken nur auf beobachteten Einträgen berechnet werden, um Verzerrungen durch fehlende Werte zu verhindern.
- Der Beobachtungsstrom kodiert fehlende Positionen und Intervalle mittels eines Gated-Fusion-Mechanismus.
- Ein Patch-Zuverlässigkeitsscore ( $\rho$ ) wird basär auf dem Beobachtungsverhältnis und der Dauer der fehlenden Intervalle innerhalb jedes Patches berechnet. Dieser Score moduliert die Injektion von Beobachtungsmustern in das Wert-Embedding, indem er Beiträge aus spärlichen, rauschdominierten Patches abschwächt und zuverlässige Patches verstärkt.
Beobachtungsgesteuerte Wert-Aufmerksamkeit (Observation-Guided Value Attention):
- Beide Ströme nutzen Self-Attention, um langfristige Abhängigkeiten zu erfassen.
- Entscheidend ist, dass der Beobachtungsstrom nicht isoliert operiert; er leitet den Wertestrom über einen Cross-track Conditioned Attention-Mechanismus.
- Die Attention-Map ist eine Fusion aus den semantischen Korrelationen des Wertestroms, den strukturellen Korrelationen des Beobachtungsstroms und einem Zuverlässigkeits-gewichteten Term. Dies stellt sicher, dass Wertprognosen durch historische Fehlstellenmuster informiert werden, indem die Aufmerksamkeit effektiv von unzuverlässigen, spärlichen Keys weg und hin zu informativen Patches gelenkt wird.
Dualer Vorhersagekopf (Dual Prediction Head):
- Die High-Level-Repräsentationen beider Ströme werden auf den Prognosehorizont abgebildet.
- Beobachtbarkeits-Vorhersage (Observability Prediction): Ein Klassifikationskopf sagt die Wahrscheinlichkeit voraus, mit der zu jedem zukünftigen Zeitschritt eine gültige Beobachtung auftritt ( $\hat{O}$ ).
- Wert-Vorhersage (Value Prediction): Ein Regressionskopf sagt die zukünftigen Zustandswerte voraus ( $\hat{Y}$ ).
- Gated Fusion: Die vorhergesagte Beobachtbarkeit fungt als Soft-Gate für die Wertprognose. Die endgültige Wertschätzung ist eine Kombination aus dem direkten Output des Wertestroms und dem Beitrag des Beobachtungsstroms, gewichtet durch die vorhergesagte Existenzwahrscheinlichkeit. Dies stellt sicher, dass Beobachtungsmerkmale den Einfluss auf die Vorhersage nur dann signifikant erhöhen, wenn die Existenz hochwahrscheinlich ist.

Trainingsziel (Training Objective)

Das Modell wird mit einer gemeinsamen Verlustfunktion trainiert:
$\mathcal{L} = \mathcal{L}_{val} + \eta \cdot \mathcal{L}_{obs}$

$\mathcal{L}_{val}$ : Mittlerer quadratischer Fehler (MSE), der nur an Zeitschritten berechnet wird, an denen Ground-Truth-Beobachtungen existieren.
$\mathcal{L}_{obs}$ : Focal Binary Cross-Entropy (Focal BCE), um das Klassenungleichgewicht zwischen beobachteten und fehlenden Positionen zu handhaben.
$\eta$ : Ein Hyperparameter, der die beiden Aufgaben ausbalanciert.

3. Zentrale Beiträge

Ein neues Prognose-Paradigma

Das Paper stellt die in bisherigen Modellen vorherrschende „Oracle-Timestamps-Annahme“ infrage. Es pionieret ein Paradigma, in dem das Modell explizit vorhersagt, ob eine Beobachtung stattfinden wird, bevor es schätzt, welchen Wert sie haben wird. Dies verschiebt den Fokus von der einfachen numerischen Extrapolation hin zur Inferenz des Informationsgenerierungsmechanismus.

Technischer Fortschritt (Timeflies)

Timeflies zerlegt Zeitreihen explizit in zwei interaktive Ströme. Durch die Extraktion historischer Beobachtungsrhythmen als dynamischen Kontext ermöglicht die Architektur, dass Existenzmuster die Zustandsvorhersagen leiten und verfeinern. Diese tiefe Interaktion überbrückt die Lücke zwischen der Beobachtbarkeit von Informationen und deren zugrunde liegenden numerischen Werten.

Empirischer und praktischer Nutzen

Shadow Benchmark: Um das Framework rigoros zu validieren, haben die Autoren Shadow konstruiert, einen umfassenden Benchmark, der natürliche fehlende Lücken aus öffentlichen Datensätzen (GIFT-Eval) mit realen industriellen E-Commerce-Daten kombiniert. Entscheidend ist, dass die proprietären Datensätze strikt natürliche fehlende Werte enthalten (nicht zufällig, sondern kodierend strukturelle Muster wie Inaktivität in Nebenzeiten), mit Fehlquoten von <0,1 % bis >89 %.
OVJE-Metrik: Die Autoren führen die Metrik Observation-Value Joint Entropy (OVJE) ein. Im Gegensatz zu traditionellen marginalen Fehlermetriken (MSE/MAE) bewertet OVJE die gekoppelte Fähigkeit der Existenzinferenz und der Wertschätzung, indem die negative Log-Likelihood der gemeinsamen Verteilung $P(y_t, o_t | x_t)$ berechnet wird.

4. Experimentelle Ergebnisse

Umfangreiche Experimente auf dem Shadow-Benchmark zeigen, dass Timeflies bestehende Baselines, einschließlich Transformer-basierter (PatchTST, iTransformer, FEDformer), Linear-basierter (OLinear, DLinear) und CNN-basierter Methoden, konsistent übertrifft.

Leistung: Timeflies erreicht State-of-the-Art-Leistung über alle Sparsitätsregime hinweg (keine, geringe, mittlere, hohe Fehlquote).
Sparsitäts-Sensitivität: Der Leistungsunterschied wird mit zunehmender Datensparsamkeit signifikant größer. In Umgebungen mit hoher Sparsität degradieren traditionelle Baselines durch blindes Extrapolieren von Werten, während Timeflies effektiv echte Signale von durch fehlende Werte induziertem Rauschen isoliert.
Robustheit: Bei Datensätzen mit extremen Verschiebungen der Fehlquote (z. B. Training mit <1 % Fehlquote und Testen mit >90 %) behält Timeflies eine robuste Leistung bei, während konkurrierende Modelle katastrophal versagen.
Ablationsstudien: Das Entfernen einer der Kernkomponenten (Mask-Aware Normalization, Observation-Guided Attention, Patch Reliability oder Focal Loss) führt zu einer Verschlechterung der Leistung, was die strukturelle Notwendigkeit jedes Moduls bestätigt.

5. Bedeutung und Behauptungen

Das Paper behauptet, dass die explizite Modellierung der zukünftigen Beobachtbarkeit ein unverzichtbares Tor für eine zuverlässige numerische Vorhersage in unregelmäßigen Settings ist. Indem es Fehlstellen als strukturierten Prior statt als Defekt behandelt, ermöglicht Timeflies Entscheidungssystemen, die Beobachtungsunsicherheit einzubeziehen.

Die Autoren merken bescheiden an, dass sich ihre Arbeit auf den GIFT-Eval-Benchmark mit natürlich vorkommenden Fehlermustern konzentriert und einen stationären Fehlmechanismus annimmt. Sie räumen Einschränkungen ein, wie etwa den konstanten Rechenaufwand der beobachtungsbewussten Module selbst in vollständig beobachteten Settings sowie die Annahme der Kanalunabhängigkeit. Dennoch eröffnet die Arbeit einen neuen Weg für die Zeitreihenprognose, indem sie Beobachtbarkeit und numerische Regression verbindet und so einen realistischeren Ansatz für reale Anwendungen bietet, bei denen die Datenintegrität nicht garantiert werden kann.