💬 NLP

Storyline Trees: Hierarchical Representations for Long-Form Narratives

Dieses Paper führt „Storyline Trees“ ein, eine hierarchische Repräsentation, die langgestreckte Erzählungen in mehrstufige Strukturen aus Szenen und Handlungssträngen organisiert, um ein adaptives Abrufen zu ermöglichen, was die Leistung bei der Beantwortung von Fragen im Vergleich zu bestehenden Long-Context-Modellen und Chunk-basierten Methoden signifikant verbessert.

Ursprüngliche Autoren: Litu Ou, Mirella Lapata

Veröffentlicht 2026-06-23

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Litu Ou, Mirella Lapata

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, ein Rätsel zu lösen, aber anstatt einiger Hinweise auf einem Tisch wird Ihnen eine Bibliothek mit 500 Romanen übergeben. Sie müssen ein ganz spezifisches Detail finden: Warum hat der Charakter in Kapitel 42 die Stadt verlassen?

Wenn Sie einfach alle 500 Bücher in einen riesigen Haufen werfen und einen superintelligenten Roboter (eine KI) bitten, sie alle auf einmal zu lesen, wird der Roboter überfordert sein. Es ist, als würde man versuchen, eine einzelne Nadel in einem Heuhaufen zu finden, der so groß wie ein Berg ist. Selbst wenn der Roboter sehr klug ist, geht er oft „in der Mitte verloren“ und vergisst den Anfang oder übersieht den entscheidenden Hinweis, der tief im Text verborgen liegt.

Dieses Paper stellt eine neue Art vor, diese Bücher zu organisieren, damit der Roboter sich nicht verirrt. Sie nennen es Storyline Trees (Handlungsstrang-Bäume).

Das Problem: Der „flache“ Haufen

Derzeit behandeln die meisten KI-Modelle ein langes Buch wie eine flache Liste von Wörtern. Sie verstehen nicht wirklich, dass eine Geschichte eine Struktur hat. Sie sehen Kapitel 1, dann Kapitel 2, dann Kapitel 3, aber sie verstehen nicht unbedingt, dass Kapitel 10 eigentlich der Höhepunkt einer Handlungsstrang-Entwicklung ist, die in Kapitel 2 begann.

Die Autoren sagen: „Lassen Sie uns aufhören, Bücher wie eine flache Textwand zu behandeln, und anfangen, sie wie einen Baum zu behandeln.“

Die Lösung: Den Storyline Tree aufbauen

Betrachten Sie einen langen Roman nicht als eine einzige lange Straße, sondern als einen riesigen Stammbaum.

Die Blätter (Die Szenen):
Zuerst zerlegen die Autoren das Buch in seine kleinsten, logischsten Einheiten, die sie Szenen nennen.
- Analogie: Stellen Sie sich einen Film vor. Eine „Szene“ ist, wenn die Charaktere in einem Raum sind und eine bestimmte Sache zu einer bestimmten Zeit tun. Wenn die Charaktere den Raum wechseln oder die Zeit springt, ist das eine neue Szene.
- Die Autoren nutzen KI, um das Buch automatisch in diese Szenen zu schneiden. Das ist viel besser, als es nur nach „Kapiteln“ zu schneiden, da ein Kapitel drei verschiedene Szenen enthalten kann oder eine einzige Szene über zwei Kapitel hinweg verlaufen kann. Szenen sind die wahren Bausteine einer Geschichte.
Der Stamm und die Äste (Die Handlungsstränge):
Sobald sie alle Szenen haben, bauen sie den Baum auf zwei Arten auf:
- Top-Down (Der Architekt): Sie betrachten das gesamte Buch und fragen: „Was sind die großen Themen?“ (z. B. „Heathcliffs Rache“). Dann brechen sie dieses große Thema in kleinere Sub-Themen herunter, und diese wiederum in spezifische Szenen. Es ist wie ein Architekt, der einen Bauplan vom Dach bis zum Fundament zeichnet.
- Bottom-Up (Der Baumeister): Sie beginnen mit den einzelnen Szenen und fragen: „Welche dieser Szenen gehören zusammen?“ Sie gruppieren ähnliche Szenen (wie alle Szenen, in denen der Held traurig ist) und fassen sie zu einem größeren „Ast“ zusammen. Sie machen dies so lange, bis sie die Spitze des Baumes erreichen.

Wie der Roboter den Baum nutzt (Adaptive Retrieval)

Das ist der magische Teil. Wenn Sie dem KI eine Frage stellen, rät sie nicht einfach oder liest das ganze Buch noch einmal. Sie nutzt den Baum als Landkarte.

Die alte Methode: Die KI versucht zu erraten, welche Seiten wichtig sind, und liest diese. Wenn sie falsch rät, übersieht sie die Antwort.
Die neue Methode (Adaptive Retrieval):
1. Die KI schaut an die Spitze des Baumes (die großen Themen). Sie fragt: „Welcher Ast des Baumes wird wahrscheinlich die Antwort enthalten?“
2. Sie wählt diesen Ast aus und schaut sich die kleineren Äste darunter an.
3. Sie zoomt immer weiter hinein, bewegt sich vom großen Ganzen hinunter zur spezifischen Szene (dem Blatt), in der die Antwort verborgen ist.
4. Sie liest nur diese spezifische Szene, um die Frage zu beantworten.

Die Analogie: Stellen Sie sich vor, Sie suchen eine bestimmte Adresse in einer Stadt.

Alte Methode: Sie fahren jede einzelne Straße in der Stadt ab, bis Sie sie finden.
Storyline Tree Methode: Sie schauen auf den Stadtplan. Sie sehen das Viertel (obere Ebene), dann die spezifische Straße (mittlere Ebene), dann die Hausnummer (Szenen-Ebene). Sie fahren direkt zum Haus.

Was sie herausgefunden haben

Die Forscher haben dies an drei verschiedenen Datensätzen langer Bücher und schwierigen Fragen getestet. Das ist das Ergebnis:

Es funktioniert besser: Die „Storyline Tree“-Methode schlug jede andere Methode, die sie getestet haben, einschließlich Modellen, die speziell darauf trainiert wurden, lange Texte zu lesen.
Szenen sind wichtig: Das Zerlegen des Buches in „Szenen“ war viel wichtiger als das bloße Zerlegen in „Kapitel“. Kapitel sind oft willkürlich (basierend auf der Seitenzahl), aber Szenen basamen auf dem tatsächlichen Erzählfluss.
Der Top-Down-Ansatz gewinnt: Obwohl sowohl der Aufbau des Baumes von oben als auch von unten funktionierte, arbeitete der Aufbau von oben (beginnend mit den großen Themen) etwas besser. Er gab der KI ein klareres „Großes Ganzes“, um zu navigieren.

Das Fazit

Dieses Paper zeigt, dass wir der KI nicht einfach nur mehr Gedächtnis geben sollten, um ihr zu helfen, lange Geschichten zu verstehen. Wir müssen ihr eine Struktur geben. Indem wir ein Buch in einen Baum aus Szenen und Handlungssträngen organisieren, geben wir der KI eine Karte zur Navigation durch die Geschichte, sodass sie Antworten schnell und präzise findet, ohne sich in den tausenden von Seiten zu verlieren.

Technisches Resümee: Storyline Trees für Langform-Narrative

Problemstellung

Langform-Narrative, wie etwa Romane, stellen eine erhebliche Herausforderung für aktuelle Large-Context-Sprachmodelle dar. Im Gegensatz zu technischen Dokumenten, die über explizite strukturelle Hinweise (Überschriften, Abschnitte) verfügen, verlassen sich Narrative auf implizite Verbindungen zwischen Ereignissen, Charakteren und Handlungssträngen, die über hunderte von Seiten verteilt sind. Selbst wenn der gesamte Text in das Kontextfenster eines Modells passt, sinkt die Leistung bei Aufgaben, die die Integration disparater Informationen erfordern. Bestehende Methoden scheitern oft, weil sie entweder auf expliziten Dokumentstrukturen basieren, die in der Fiktion nicht existieren, oder Narrative als flache Sammlungen abrufbarer Passagen behandeln, denen eine wiederverwendbare Repräsentation der impliziten Erzählstruktur fehlt. Zudem werden Kapitelgrenzen oft durch Pacing oder Stil statt durch thematische Kohärenz bestimmt, was sie zu inkonsistenten Einheiten für das Verfolgen von Erzählsträngen macht.

Methodik

Die Autoren schlagen Storyline Trees vor, eine hierarchische Repräsentation, die Langform-Narrative von globalen Themen und großen Handlungssträngen bis hin zu feingranularen Ereignissen organisiert. Die Methodik besteht aus drei Kernkomponenten:

1. Szenensegmentierung als Basiseinheiten

Anstatt Kapitel oder fest vorgegebene Segmente zu verwenden, segmentiert das System Narrative in Szenen. Eine Szene wird als eine zusammenhängende narrative Einheit definiert, die durch eine relative Konsistenz in Zeit, Ort, Charakterkonfiguration und Handlung gekennzeichnet ist.

Prozess: Kapitel werden zunächst aus Metadaten extrahiert. Ein LLM segmentiert dann jedes Kapitel in Szenen und generiert strukturierte Beschreibungen für jede: einen Titel (prägnante Bezeichnung), eine Synopsis (Inhaltszusammenfassung) und eine Bedeutung (narrative Funktion).
Begründung: Szenen bieten eine konsistente Granularität, die mit der Erzähltheorie übereinstimmt, und vermeiden die Variabilität von Kapitellängen sowie die durch feste Segmentierung verursachten Kontinuitätsbrüche.

2. Bauminduktion

Das Paper führt zwei komplementäre Verfahren zur Konstruktion der Hierarchie ein:

Top-Down-Induktion: Dieser Ansatz leitet abstrakte Handlungsstränge aus der Gesamtheit der Szenen ab und verfeinert diese rekursiv zu spezifischen Sub-Handlungssträngen. Dies entspricht einer „Plot-zentrierten“ Sichtweise, bei der Ereignisse ihre Bedeutung aus ihrer Rolle in größeren Bögen ableiten. Der Prozess konditioniert auf die vollständige Szenenfolge und die Ebene der vorangegangenen Handlungsstränge, um eine fundierte, spezifische Ausarbeitung zu gewährleisten.
Bottom-Up-Induktion: Inspiriert von RAPTOR, beginnt dieser Ansatz mit Szenenrepräsentationen, clustert rekursiv semantisch verwandte Szenen und fasst jedes Cluster zu einem übergeordneten Handlungsstrang-Knoten zusammen. Dies entspricht einer „Szenen-zentrierten“ Sichtweise, bei der breitere Handlungsstränge aus lokalen Relationen (gemeinsame Charaktere, kausale Verknüpfungen) hervorgehen.

3. Adaptives Retrieval für QA

Die konstruierten Bäume dienen als Schnittstelle für ein adaptives Retrieval-Verfahren während der Beantwortung von Fragen (Question Answering).

Mechanismus: Gegeben einer Frage ruft das Modell einen initialen Satz an Szenen ab. Es inspiziert dann iterativ den Storyline-Tree, um zu entscheiden, welche Teile des Narrativs als Nächstes untersucht werden sollen.
Entscheidungsschleife: In jedem Schritt entscheidet das Modell entweder, eine Antwort zu liefern, oder fordert Evidenz aus einem spezifischen Handlungsstrang-Knoten an. Wenn ein Knoten ausgewählt wird, wird dessen Titel als Abfrage verwendet, um die top- $k$ relevantesten Szenen aus dem ursprünglichen Szenenpool abzurufen.
Vorteil: Dies ermöglicht es dem Modell, seinen Fokus progressiv von der breiten Erzählstruktur auf lokalisierte Szenen-Evidenz einzuengen, geleitet durch eine interpretierbare Karte der Geschichte statt durch eine flache Retrieval-Policy.

Zentrale Beiträge

Storyline Trees: Eine interpretierbare hierarchische Repräsentation, die globale Themen mit feingranularen Szenen-Evidenzen verbindet und speziell für die implizite Struktur von Langform-Narrativen entwickelt wurde.
Duale Konstruktionsmethoden: Die Einführung sowohl von Top-Down- als auch von Bottom-Up-Induktionstechniken sowie eines adaptiven Retrieval-Verfahrens, das die progressive Exploration des Baums ermöglicht.
Empirische Validierung: Demonstration von Leistungssteigerungen bei drei Long-Context-Narrative-QA-Benchmarks (DetectiveQA, NovelQA, LiteraryQA) sowie Ablationsstudien, die die Wirksamkeit von szenenbasierten Einheiten und der adaptiven Traversal bestätigen.

Experimentelle Ergebnisse

Die Experimente wurden auf drei Datensätzen unter Verwendung von Qwen3-Modellen (30B und 235B Parameter) als Backbones durchgeführt.

Leistung: Das Top-Down-adaptive Retrieval erreichte konsistent die beste Genauigkeit über alle Datensätze und Modellskalen hinweg und übertraf dabei Zero-Shot-Baselines, Memory-basierte Agenten (MemAgent), Multi-Agent-Tree-Ansätze (TOA) und statische Retrieval-Methoden.
Konstruktionsrichtung: Die Top-Down-Konstruktion erwies sich als überlegen gegenüber der Bottom-Up-Konstruktion, was darauf hindeutet, dass das Auflegen einer globalen Erzählstruktur zuerst und die anschließende Verfeinerung nach unten eine bessere Retrieval-Schnittstelle bietet als die Aggregation lokaler Elemente.
Basiseinheiten: Die szenenbasierte Konstruktion schnitt signifikant besser ab als Alternativen, die Kapitel, TextTiling-Segmente oder semantische Chunks verwendeten, selbst wenn die Retrieval-Budgets nach Token-Anzahl angeglichen wurden. Dies deutet darauf der, dass von Autoren definierte Grenzen und generische semantische Kohärenz für Narrative QA unzureichend sind.
Retrieval-Effizienz: Die Gewinne waren nicht bloß auf das Abrufen von mehr Kontext zurückzuführen. Statisches Retrieval mit größeren Budgets verbesserte die Leistung nicht zuverlässig. Der adaptive, durch den Baum geleitete Ansatz war am effektivsten, da er die Baumstruktur aktiv nutzte, um von unvollständiger Evidenz zu entscheidenden Details auf Szenenebene zu navigieren.
Fragetypen: Die Methode erzielte die größten Gewinne bei Fragen, die die Lokalisierung und Interpretation von narrativen Ereignissen innerhalb breiterer Kontexte erfordern (z. B. Fragen zu Plot, Charakter, Setting und Bedeutung).

Bedeutung und Behauptungen

Das Paper behauptet, dass die Explizitmachung der Erzählstruktur einen gangbaren Weg darstellt, um ein Verständnis langer Kontexte zu erreichen, das über die bloße Erweiterung von Kontextfenstern hinausgeht. Die Ergebnisse legen nahe, dass:

Struktur entscheidend ist: Die Modellierung der impliziten Handlungsstruktur ist vorteilhafter, als Narrative als flache Sammlungen von Passagen zu behandeln.
Adaptivität der Schlüssel ist: Adaptives Retrieval, das durch eine hierarchische Repräsentation geleitet wird, erlaubt es Modellen, iterativ die High-Level-Struktur zu inspizieren und Szenen-Evidenz auf Abruf abzurufen, wodurch sie feste oder agentenbasierte Chunk-Methoden übertreffen.
Szenen fundamental sind: Szenen dienen als effektivere Basiseinheit für die narrative Repräsentation als Kapitel oder generische Segmente, da sie mit der Ereignisstruktur von Langform-Narrativen übereinstimmen.

Die Autoren räumen Einschränkungen ein und merken an, dass das aktuelle System vollständig promptbasiert ist, was die Zuverlässigkeit von Traversal-Entscheidungen im Vergleich zu trainierten Policies einschränken kann. Sie stellen zudem fest, dass die Rechenkosten für die Baumkonstruktion nicht unerheblich sind, diese jedoch über mehrere Abfragen desselben Buches amortisiert werden können. Zukünftige Arbeiten sollen sich auf das direkte Erlernen von Retrieval- und Traversal-Policies über Storyline-Trees konzentrieren und die Repräsentation auf andere narrative Genres ausweiten.