Technisches Resümee: Selbstkompaktierende Sprachmodell-Agenten

Problem: Kontext-Verrottung und starre Kompaktierung

Wenn Sprachmodell (LM)-Agenten langfristige Aufgaben bewältigen – von Wettbewerbsmathematik, die zehntausende Token erfordert, bis hin zu agentischen Suchen, die hunderte von Werkzeugaufrufen orchestrieren – akkumulieren ihre generierten Trajektorien „veraltete Inhalte“. Dieses Phänomen, das als Kontext-Verrottung (Context Rot) bezeichnet wird, tritt auf, wenn fehlerhafte frühe Argumentationen, veraltete Suchergebnisse oder verworfene Kandidatenprogramme nachfolgende Generationen verankern und dadurch die Leistung verschlechtern.

Bestehende Lösungen verwalten dies über eine festgelegte Intervall-Kompaktierung, bei der die Zusammenfassung ausgelöst wird, wenn ein Token-Schwellenwert (z. B. 30 % des Kontextfensters) erreicht ist. Das Paper argumentiert, dass dieser Ansatz fundamental fehlerhaft ist, da er die Trajektorien-Struktur ignoriert. Ein fester Trigger kann nicht zwischen einem Modell unterscheiden, das gerade ein Teilproblem gelöst hat (ein sicherer Zeitpunkt für eine Zusammenfassung) und einem, das sich mitten in einer Ableitung befindet oder feststeckt (ein gefährlicher Zeitpunkt für eine Zusammenfassung). Wie in Abbildung 1 des Papers illustriert, kann schlecht getimte Zusammenfassungen verifizierte Fakten mitten in der Argumentation löschen, was das Modell dazu zwingt, Informationen erneut abzuleiten oder zu raten, wodurch das Rechenbudget verschwendet und die Genauigkeit reduziert wird.

Methodik: SELFCOMPACT

Die Autoren schlagen SELFCOMPACT vor, ein trainingsfreies Scaffold (Gerüst), das es dem LM-Agenten ermöglicht, selbst zu entscheiden, wann und wie er seinen eigenen Kontext kompaktioniert. Das System arbeitet ohne Fine-Tuning oder externe Überwachung und stützt sich auf zwei zusammengekoppelte Elemente zur Inferenzzeit:

1. Das Kompaktierungswerkzeug: Ein eingebettetes Zusammenfassungswerkzeug ($S$), das das Modell aufrufen kann, um den akkumulierten Kontext ($x, y_{1:t}$) in eine verdichtete Version ($\tilde{y}$) zusammenzufassen. Die Generierung setzt sich dann ab dem neuen Kontext $(x, \tilde{y})$ fort.
2. Die leichtgewichtige Rubrik: Eine Menge aufgabenspezifischer Kriterien, die den Aufruf des Werkzeugs steuern. In periodischen Probeintervallen (alle $N$ Token oder Werkzeugaufrufe) wird das Modell gebeten, seinen aktuellen Zustand anhand der Rubrik zu bewerten.
   • Wann auslösen (KOMPRIMIEREN): Wenn ein Teilziel erreicht wurde (z. B. eine Antwort in der Mathematik in einen Kasten gesetzt wurde oder eine Suche mit verifizierten Fakten abgeschlossen wurde) oder die Trajektorie konvergiert.
   • Wann unterdrücken (WEITERMACHEN): Wenn das Modell mitten in einer Ableitung, mitten in einer Suche oder in einer Schleife steckt.

Implementierungsdetails:

• KV-Cache-Wiederverwendung: Um die Kosten zu minimieren, werden die Rubrik-Probe und die Summarizer-Prompts an den bestehenden Kontext angehängt, anstatt ihn zu ersetzen. Dies bewahrt den Key-Value (KV) Cache der Trajektorie ($y_{1:t}$), was bedeutet, dass das Modell nur für das Prefill der neuen Instruktion bezahlt, nicht für die gesamte Historie.
• Workflow: Das Scaffold läuft in einer Schleife, in der das Modell generiert, an Intervallen pausiert, die Rubrik evaluiert und die Zusammenfassung bedingt auslöst. Wenn die Rubrik COMPRESS zurückgibt, wird der Summarizer aktiviert; andernfalls wird die Probe verworfen und die Generierung setzt sich fort.

Zentrale Beiträge

1. Neuartiges Scaffold: Einführung von SELFCOMPACT, das die Zusammenfassung als Inline-Werkzeug präsentiert, das mit einer Rubrik gekoppelt ist, welche den Zeitpunkt des Aufrufs bestimmt. Dies erfordert keine Parameteraktualisierungen.
2. Empirische Validierung: Demonstration über sieben Modelle (vier Qwen-Varianten für Mathematik; drei eingesetzte Agenten für die Suche) und sechs Benchmarks (IMO-Answerbench, HMMT, BrowseComp, etc.).
3. Ablations-Erkenntnisse: Beweis, dass die Rubrik essenziell ist. Die Bereitstellung des Werkzeugs allein führt zu einer ungleichmäßigen, oft nicht hilfreichen Nutzung (Modelle rufen es zum falschen Zeitpunkt auf oder gar nicht). Die Rubrik schließt diese „metakognitive Lücke“ und ermöglicht eine zuverlässige adaptive Kompaktierung.

Ergebnisse

Das Paper berichtet, dass SELFCOMPACT die feste Intervall-Zusammenfassung erreicht oder übertrifft und gleichzeitig die Token-Kosten signifikant senkt.

• Wettbewerbsmathematik: Auf Benchmarks wie IMO-Answerbench und HMMT verbesserte SELFCOMPACT die Genauigkeit gegenüber einer No-Compaction-Baseline um bis zu 18,1 Punkte. Es übertraf die feste Intervall-Zusammenfassung in 11 von 12 Benchmark/Modell-Konfigurationen.
• Agentische Suche: Auf BrowseComp und DeepSearch QA steigerte SELFCOMPACT die Genauigkeit um 5–9 Punkte gegenüber der Baseline.
• Kosteneffizienz: Trotz des Overheads eines zusätzlichen LLM-Aufrufs für die Rubrik-Probe erreichte SELFCOMPACT 30–70 % geringere Token-Kosten pro Frage im Vergleich zur No-Compaction-Baseline. Dies liegt daran, dass es die massiven Kosten der Verarbeitung veralteter, unzusammengefasster Kontexte in späteren Durchgängen vermeidet.
• Timing-Analyse: Im Gegensatz zu festen Intervall-Methoden, die strikt bei einem 30 %-Schwellenwert komprimieren, löst die Rubrik von SELFCOMPACT die Kompaktierung früher aus (oft wenn ein Teilziel erreicht ist), was verhindert, dass sich „Verrottung“ ansammelt, bevor sie schädlich wird.

Bedeutung und Ansprüche

Das Paper beansprucht, das erste zu sein, das die rubrikbasierte adaptive Kompaktierung des Timings in einem trainingsfreien Setting einführt und evaluiert. Seine primäre Bedeutung liegt in der Umdeutung von „wann zu kompaktieren“ – nicht als eine Fähigkeit, die durch Fine-Tuning oder Reinforcement Learning in die Modellgewichte eingebacken werden muss, sondern als eine metakognitive Fähigkeit, die über ein leichtgewichtiges Scaffold bereitgestellt werden kann.

Die Autoren heben eine „metakognitive Lücke“ hervor: Während unangeforderte Modelle nicht zuverlässig erkennen können, wann ihr eigener Kontext verrottet, schließt eine einfache Rubrik diese Lücke. Dies deutet darauf hin, dass komplexe Kontextmanagement-Strategien aus Standardmodellen durch einfaches Prompting evoziert werden können, ohne den Rechenaufwand eines Trainings zu verursachen, was eine praktische Lösung für den Einsatz von Langzeit-Agenten unter aktuellen Hardwarebeschränkungen bietet.

Die Arbeit bleibt in ihrem Umfang bescheiden, da sie sich auf trainingsfreie Interventionen konzentriert und anerkennt, dass Frontier-Modelle mit stärkerer inhärenter Introspektion möglicherweise weniger Scaffolding benötigen könnten. Für die aktuelle Generation von Open-Weight- und Deployments-Agenten bietet SELFCOMPACT jedoch einen robusten, kosteneffizienten Mechanismus, um die Leistung über verlängerte Denkhorizonte hinweg aufrechtzuerhalten.