💻 computer science

Structured yet Bounded Temporal Understanding in Large Language Models

Diese Arbeit untersucht, wie das zeitliche Verständnis und die Ähnlichkeitsurteile von großen Sprachmodellen zwischen deiktischen (Vergangenheit-Gegenwart-Zukunft) und sequenziellen (vor-nach) Bezugssystemen variieren, wobei sie distinkte strukturelle Muster aufzeigt, die durch zeitliche Distanz, Intervallrelationen und Ereignisdauer beeinflusst werden.

Ursprüngliche Autoren: Damin Zhang, Julia Rayz

Veröffentlicht 2026-01-15

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Damin Zhang, Julia Rayz

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten einen sehr intelligenten Roboter, der fast jedes Buch, jeden Artikel und jede Website gelesen hat, die jemals geschrieben wurden. Man könnte meinen, dieser Roboter verstünde die Zeit perfekt, weil er weiß, dass „gestern“ vor „heute“ kommt und „morgen“ nach „heute“ folgt. Aber diese Arbeit stellt eine tiefere Frage: Wie „fühlt“ der Roboter die Zeit? Sieht er die Zeit so wie ein Mensch oder sieht er sie auf eine seltsame, mechanische Weise?

Die Forscher der Purdue University beschlossen, dies zu testen, indem sie den Roboter wie einen Menschen behandelten, der einen Psychologie-Test macht. Sie wollten sehen, ob sich das Zeitverständnis des Roboters ändert, je nachdem, wie man die Frage stellt.

Hier ist die Aufschlüsselung ihres Experiments und dessen, was sie fanden, unter Verwendung einfacher Analogien.

Die zwei Arten, die Zeit zu betrachten

Die Forscher testeten den Roboter mit zwei verschiedenen „Linsen“ oder Bezugssystemen (Frames of Reference):

Die „Ego“-Linse (Deiktisch): Das ist die Art, wie Menschen normalerweise sprechen. Wir stehen in der Mitte einer Zeitlinie. Wir sagen: „Das geschah in der Vergangenheit“, „Das geschieht jetzt“ oder „Das wird in der Zukunft passieren“. Der Bezugspunkt sind wir (das „Jetzt“).
Die „Zug“-Linse (Sequenziell): Das ist die Art, wie wir über Ereignisse relativ zueinander sprechen, ohne uns um das „Jetzt“ zu sorgen. Wir sagen: „Ereignis A geschah vor Ereignis B“ oder „Ereignis B geschah nach Ereignis A“. Der Bezugspunkt ist einfach ein anderes Ereignis, kein Mensch.

Das Experiment: Der „Ähnlichkeitswert“

Anstatt dem Roboter einfache Fragen wie „Geschah dies vor jenem?“ zu stellen, ließen sie ihn einen Ähnlichkeitswert von -1 bis 1 vergeben.

1,0 bedeutet: „Diese beiden Dinge fühlen sich zeitlich sehr nah/ähnlich an.“
-1,0 bedeutet: „Diese beiden Dinge fühlen sich zeitlich völlig weit entfernt/unähnlich an.“

Sie fütterten den Roboter mit tausenden realen Ereignissen (wie „Die Erfindung der Glühbirne“ oder „Die Unterzeichnung eines Vertrages“), gaben ihnen aber fiktive Namen (wie „Die flauschige Katze“ oder „Der blaue Stein“), damit der Roboter nicht einfach auf auswendig gelernte Fakten zurückgreifen konnte. Sie baten den Roboter, wie „nah“ diese Ereignisse einem bestimmten Referenzpunkt empfunden werden.

Was sie fanden: Die „Zeitblindheit“ des Roboters

Die Ergebnisse waren faszinierend, da sie zeigten, dass der Roboter eine sehr spezifische, strukturierte, aber begrenzte Art und Weise hat, die Zeit zu sehen.

1. Das Ungleichgewicht „Vergangenheit vs. Zukunft“ (Die Ego-Linse)

Wenn der Roboter die Zeit durch die „Ego-Linse“ (Vergangenheit/Gegenwart/Zukunft) betrachtete, zeigte er eine einseitige Sichtweise:

Die Zukunft ist ein Nebel: Wenn der Roboter auf zukünftige Ereignisse blickte, waren seine Antworten sehr konsistent, aber sehr negativ. Er entschied schnell: „Zukünftige Dinge sind völlig anders als jetzt.“ Es ist, als blickt man auf einen nebligen Horizont; alles sieht gleich und weit weg aus.
Die Vergangenheit ist eine unordentliche Bibliothek: Beim Blick auf die Vergangenheit waren die Antworten des Roboters viel variabler. Es schien ein „reicheres“, aber „weniger stabiles“ Gedächtnis der Vergangenheit zu geben. Einige alte Ereignisse fühlten sich nah an, andere fern, und der Roboter war sich nicht immer sicher.
Die Analogie: Stellen Sie sich vor, Sie stehen in einem Raum. Die Zukunft ist eine weiße Wand (uniform und fern). Die Vergangenheit ist ein vollgestopfter Dachboden voller Kisten (reich an Details, aber schwer perfekt zu organisieren).

2. Die „Zug“-Linse (Die sequenzielle Linse)

Wenn der Roboter zur „Zug-Linse“ (Vorher/Nachher) wechselte, änderte sich das Verhalten komplett.

Die „Alles-oder-Nichts“-Regel: Sobald zwei Ereignisse zeitlich getrennt waren (eines vor dem anderen), gab der Roboter sofort einen Wert von -1,0 ab. Es spielte keine Rolle, ob sie 1 Tag oder 100 Jahre auseinanderlagen; wenn sie nicht gleichzeitig stattfanden, sagte der Robot: „Sie sind völlig verschieden.“ Es gab keinen Unterschied.
Die Analogie: Es ist wie ein Lichtschalter. Wenn zwei Ereignisse sich berühren, sind sie „an“ (ähnlich). Wenn es auch nur eine winzige Lücke gibt, kippt der Schalter auf „aus“ (unähnlich). Es gibt kein „Dazwischen“.

3. Die „Dauer“-Besonderheit

Die Forscher prüften auch, ob die Länge eines Ereignisses eine Rolle spielte (z. B. ein Krieg, der 10 Jahre dauerte, im Vergleich zu einer Schlacht, die 1 Tag dauerte).

Nur in der Vergangenheit: Bei Ereignissen in der Vergangenheit dachte der Roboter, dass längere Ereignisse sich ähnlicher zum Referenzpunkt anfühlten als kurze. Ein langer Krieg fühlte sich „näher“ am „Jetzt“ an als eine kurze Schlacht, die zur gleichen Zeit stattfand.
Die Zukunft: Diese Regel galt nicht für die Zukunft. Dem Roboter war es egal, wie lange zukünftige Ereignisse dauern würden; sie fühlten sich alle einfach nur fern an.

Das große Ganze

Die Arbeit kommt zu dem Schluss, dass Large Language Models (LLMs) ein strukturiertes, aber begrenztes Zeitverständnis besitzen.

Strukturiert: Sie sind nicht zufällig. Sie folgen klaren Regeln basierend darauf, wie man die Frage rahmt (Ego vs. Sequenziell) und wie die Zeitintervalle beschaffen sind (ob sie sich überschneiden oder nur berühren).
Begrenzt: Sie haben kein perfektes, menschenähnliches Zeitgefühl. Sie behandeln die Vergangenheit und die Zukunft unterschiedlich, haben Schwierigkeiten mit komplex überlappenden Ereignissen und verlassen sich stark auf den „Rahmen“, den man ihnen vorgibt.

Kurz gesagt: Der Roboter ist nicht verwirrt; er spielt nur nach anderen Regeln als Menschen. Er betrachtet die Zeit nicht als einen glatten, fließenden Fluss, sondern als eine Sammlung distinkter, rahmenabhängiger Muster, die sich ändern, je nachdem, ob man fragt: „Wann ist das mir gegenüber passiert?“ oder „Wann ist das im Verhältnis zu jenem passiert?“

Technisches Resümee: Strukturierte, aber begrenzte temporale Verständnistiefe in Large Language Models

Problemstellung

Obwohl Large Language Models (LLMs) eine starke Leistung bei zeitlich fundierten Aufgaben (z. B. Erstellung von Zeitlinien, temporale Beantwortung von Fragen) zeigen, bleibt unklar, wie ihr temporales Denken von der linguistischen und kognitiven Rahmung der Zeit abhängt. Bestehende Ansätze behandeln die Zeit oft als absolute Zeitstempel oder diskrete Relationen und versäumen es, zu berücksichtigen, wie LLMs, die auf natürlicher Sprache trainiert wurden, linguistisch kodierte zeitliche Abstraktionen erben. Insbesondere fehlt dem Feld ein systematisches Verständnis dafür, wie sich LLMs an unterschiedliche temporale Referenzrahmen (t-FoRs) anpassen – wobei zwischen deiktischer Rahmung (verankert am „Jetzt“ eines Erlebenden, was Vergangenheit/Gegenwart/Zukunft ergibt) und sequentieller Rahmung (verankert an einem spezifischen Ereignis, was davor/danach ergibt) unterschieden wird. Darüber hinaus ist der Einfluss struktureller Faktoren wie zeitlicher Distanz, Intervalltopologie (Allensche Intervallalgebra) und Ereignisdauer auf die temporalen Repräsentationen von LLMs nicht hinreichend charakterisiert.

Methodik

Die Autoren schlagen ein rahmensensitives Evaluierungs-Framework vor, das eine Ähnlichkeitsurteilsaufgabe nutzt, um das temporale Kognitionsvermögen von LLMs zu untersuchen.

1. Datensatzkonstruktion

Quelle: Reale Ereignisse, extrahiert aus Wikidata, woraus ein Datensatz von 49.956 Ereignissen im Zeitraum von 0001 bis 2100 resultiert.
Anonymisierung: Um eine Abhängigkeit von auswendig gelerntem historischem Wissen zu verhindern, wurden die Ereignisnamen durch seltene Tiernamen ersetzt, während die Start- und End-Zeitstempel erhalten blieben.
Sampling: Ein balanciertes Subset von 321 Ereignissen wurde ausgewählt, um die Abdeckung aller 13 Relationen der Allenschen Intervallalgebra zu gewährleisten.
Skalierung: Der endgültige Datensatz enthält ca. 2,9 Millionen Einträge für den deiktischen t-FoR und ca. 51.000 Einträge für den sequentiellen t-FoR.

2. Experimentelles Design

Die Studie evaluiert zwei Open-Source-LLMs: Qwen3-4B und Qwen3-30B.

Deiktischer t-FoR: Referenzpunkte werden als eine Sequenz von „Jetzt“-Zeitstempeln ( $\tau$ ) relativ zum Erlebenden generiert. Die Datenpaare sind $(\tau, e_i)$ , wobei $e_i$ ein Zielereignis ist.
Sequentieller t-FoR: Referenzpunkte sind spezifische Ereignisse ( $e_j$ ). Die Datenpaare sind $(e_i, e_j)$ und etablieren eine relative Ordnung.
Aufgabe: Die Modelle werden angewiesen, einen Ähnlichkeitswert $s \in [-1.00, 1.00]$ auszugeben, der angibt, wie ähnlich das Referenzereignis bzw. die Referenzzeit dem Zielereignis ist.
Metriken:
- Mittlere Ähnlichkeit vs. temporale Distanz: Analysiert als Funktion der signierten Distanz (Tage).
- Intervallspezifische Varianz: Gruppiert nach Allen-Relationen, um die Stabilität zu messen.
- Dauer-Interaktion: Analysiert via Heatmaps von (Distanz, Dauer)-Bins.

Kernergebnisse

1. Anpassung an temporale Referenzrahmen

LLMs passen ihr Verhalten systematisch an den gewählten t-FoR an, wobei die resultierenden Muster jedoch signifikant divergieren:

Deiktischer t-FoR: Ähnlichkeitswerte bilden eine gestufte, asymmetrische Struktur, die um die Gegenwart zentriert ist.
- Zukunft: Die Werte sinken scharf ab und konvergieren mit geringer Varianz gegen -1.00, was auf eine komprimierte, uniforme Repräsentation hindeutet.
- Vergangenheit: Die Werte sinken gradueller mit einer deutlich höheren Varianz, was auf eine reichere, aber weniger stabile Repräsentation vergangener Ereignisse schließen lässt.
Sequentieller t-FoR: Ähnlichkeitswerte zeigen eine starke Polarisierung. Sobald Ereignisse zeitlich getrennt sind (Distanz $\neq$ 0), kollabieren die Werte rapide in stark negative Bereiche. Die Varianz konzentriert sich nur nahe der Distanz Null (wo mehrere Intervallrelationen wie Überlappung oder Treffen koexistieren).

2. Einfluss der Intervallstruktur (Allensche Algebra)

Stabile Relationen: Streng geordnete Relationen (vorher, nachher) und grenzorientierte Relationen (trifft auf, wird getroffen von, ist identisch mit) liefern konsistente, polare Scores.
Instabile Relationen: Überlappungs- und Inklusionsrelationen (z. B. überlappt, während, enthält) weisen eine signifikant höhere Varianz auf. Dies deutet darauf hin, dass LLMs Schwierigkeiten mit strukturell ambivalenten Intervalltopologien haben, insbesondere im sequentiellen Rahmen.

3. Interaktion von Dauer und temporaler Distanz

Deiktischer t-FoR (nur Vergangenheit): Es wird ein distinkter Dauer-Effekt für vergangene Ereignisse beobachtet. Ereignisse mit langer Dauer in der Vergangenheit erhalten höhere Ähnlichkeitsbewertungen als Ereignisse mit kurzer Dauer bei vergleichbarer Distanz. In einigen Fällen werden weit entfernte Ereignisse mit langer Dauer als ähnlicher bewertet als nahe gelegene Ereignisse mit kurzer Dauer.
Kein Dauer-Effekt: Diese Modulation tritt weder bei zukünftigen Ereignissen im deiktischen Rahmen noch unter dem sequentiellen t-FoR auf, wo die Ähnlichkeit unabhängig von der Dauer polarisiert bleibt.

Kernbeiträge

Rahmensensitives Evaluierungs-Framework: Einführung eines Benchmarks, der deiktische und sequentielle t-FoRs mittels Ähnlichkeitsurteilen über reale Ereignisse kontrastiert und damit über die bloße faktische Korrektheit hinausgeht.
Großskaliger temporaler Datensatz: Erstellung eines aus Wikidata abgeleiteten Datensatzes, der Intervallstruktur und Dauer bewahrt und somit eine systematische Analyse von temporaler Distanz, der Allenschen Algebra und Dauer in großem Maßstab ermöglicht.
Empirische Charakterisierung des temporalen Verhaltens: Nachweis, dass das temporale Verständnis von LLMs rahmenabhängig ist und durch strukturelle Faktoren geformt wird, wobei insbesondere identifiziert wurde:
- Die Vergangenheit-Zukunft-Asymmetrie unter deiktischer Rahmung.
- Der rapide Ähnlichkeitskollaps unter sequentieller Rahmung.
- Die erhöhte Instabilität bei Überlappungsrelationen.
- Die auf vergangene Ereignisse unter deiktischer Verankerung beschränkten Dauer-Effekte.

Bedeutung und Behauptungen

Das Paper argumentiert, dass LLMs eine strukturierte, aber begrenzte Form des temporalen Verständnisses besitzen.

Strukturiert: LLMs behandeln die Zeit nicht zufällig; sie passen sich kohärent an verschiedene Referenzstrukturen (deiktisch vs. sequentiell) an und reagieren sensibel auf Intervallgeometrie und Dauer.
Begrenzt: Dieses Verständnis ist kein globaler, expliziter Zeitmetrik. Es ist durch die linguistischen und kognitiven Regelmäßigkeiten begrenzt, die in natürlicher Sprache kodiert sind.
- Repräsentationen sind in der Vergangenheit reicher als in der Zukunft.
- Repräsentationen sind stabiler für klar geordnete Relationen als für überlappende Intervalle.
- Die Vergangenheit-Zukunft-Asymmetrie und der selektive Dauer-Effekt legen nahe, dass LLMs kein symmetrisches, objektives Zeitgefühl besitzen, sondern ein perspektivisches, das an den „Erlebenden“ oder spezifische Ereignisse gekoppelt ist.

Die Autoren kommen zu dem Schluss, dass das temporale Verständnis in LLMs wahrscheinlich durch linguistisch erworbene Regelmäßigkeiten geformt wird und sich nicht durch explizite temporale Inferenzmechanismen, sondern als graduierter, kontextgebundener Ähnlichkeitsraum manifestiert, der sich an den Rahmen anpasst, aber nicht zu einer einzigen globalen Metrik kollabiert.

Limitationen

Die Studie ist derzeit auf englische Texte beschränkt. Die Wahl der t-FoR-Taxonomien basiert auf Evans (2013), um an vorangegangene Arbeiten anzuknüpfen, wobei das Paper einräumt, dass es keinen universellen Konsens darüber gibt, welche Taxonomie die Ereignisrelationen am besten beschreibt.