💬 NLP

ReSum: Unlocking Long-Horizon Search Intelligence via Context Summarization

Die Arbeit stellt ReSum vor, ein leichtgewichtiges, trainingsfreies Framework, das durch kontextuelle Zusammenfassungen und eine angepasste GRPO-Optimierung (ReSum-GRPO) die Fähigkeit von LLM-Agenten zur Bewältigung langfristiger Suchaufgaben über begrenzte Kontextfenster hinaus signifikant verbessert.

Ursprüngliche Autoren: Xixi Wu, Kuan Li, Yida Zhao, Liwen Zhang, Litu Ou, Huifeng Yin, Zhongwang Zhang, Xinmiao Yu, Dingchu Zhang, Yong Jiang, Pengjun Xie, Fei Huang, Minhao Cheng, Shuai Wang, Hong Cheng, Jingren Zhou

Veröffentlicht 2026-03-27

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC0 1.0

Ursprüngliche Autoren: Xixi Wu, Kuan Li, Yida Zhao, Liwen Zhang, Litu Ou, Huifeng Yin, Zhongwang Zhang, Xinmiao Yu, Dingchu Zhang, Yong Jiang, Pengjun Xie, Fei Huang, Minhao Cheng, Shuai Wang, Hong Cheng, Jingren Zhou

Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stell dir vor, du hast einen extrem klugen, aber vergesslichen Detektiv. Dieser Detektiv (eine Künstliche Intelligenz) ist super darin, im Internet nach Informationen zu suchen, um komplexe Rätsel zu lösen. Aber er hat ein riesiges Problem: Sein „Gedächtnis" ist wie ein sehr kleiner Rucksack.

Das Problem: Der volle Rucksack
Wenn der Detektiv eine schwierige Frage bekommt (zum Beispiel: „Wie hieß der Schriftsteller, dessen Vater an Herzkrankheit starb, der drei Scheidungen hatte und dessen Werk wir suchen?"), muss er viele Schritte gehen: googeln, Webseiten lesen, Notizen machen, neue Fragen stellen.

Bei der alten Methode (ReAct) schreibt er alles in seinen Rucksack: jeden Gedanken, jede Suchanfrage und jede Antwort. Bei langen Rätseln wird der Rucksack schnell voll. Wenn er voll ist, muss er den Anfang des Falls wegwerfen, um Platz für Neues zu machen. Aber dann vergisst er die wichtigen Hinweise aus dem Anfang und scheitert am Ende. Es ist, als würde man versuchen, ein 100-seitiges Buch zu lesen, aber man darf nur die letzten 5 Seiten im Kopf behalten.

Die Lösung: ReSum – Der intelligente Zusammenfasser
Die Forscher haben eine clevere Lösung namens ReSum entwickelt. Stell dir vor, der Detektiv hat einen Assistenten, der ein genialer Zusammenfasser ist.

Der Rucksack wird geleert: Wenn der Detektiv merkt, dass sein Rucksack fast voll ist, ruft er den Assistenten.
Die Zusammenfassung: Der Assistent liest all die Notizen, die der Detektiv bisher gesammelt hat, und schreibt sie auf einen einzigen, kompakten Zettel. Auf diesem Zettel stehen nur die wichtigsten Fakten, die Beweise und der nächste Schritt. Alles Unwichtige wird weggelassen.
Neustart: Der Detektiv wirft den vollen Rucksack weg und nimmt nur diesen einen, perfekten Zettel mit. Jetzt hat er wieder Platz im Rucksack, um weiter zu suchen, ohne die alten Beweise zu vergessen.

Das ist ReSum: Ein „Plug-and-Play"-System. Man muss den Detektiv nicht neu erfinden oder neu programmieren; man gibt ihm einfach diesen Assistenten dazu.

Der Spezial-Assistent: ReSumTool-30B
Damit das funktioniert, muss der Zusammenfassungs-Assistent sehr schlau sein. Ein normaler Assistent würde vielleicht nur sagen: „Der Detektiv hat gegoogelt." Aber unser spezieller Assistent (ReSumTool-30B) versteht den Kontext. Er erkennt: „Aha, hier ist der Name des Vaters wichtig, aber die Wetterberichte von 2015 sind egal." Er trainiert sich so, dass er wie ein erfahrener Ermittler die wirklich wichtigen Fäden herausfiltert.

Das Training: ReSum-GRPO
Aber wie lernt der Detektiv, mit diesem neuen Zettel-System zu arbeiten? Schließlich ist er daran gewöhnt, alles im Kopf zu behalten.
Hier kommt ReSum-GRPO ins Spiel. Stell dir vor, der Detektiv spielt ein Spiel. Am Ende des Spiels bekommt er einen Punktestand (hat er das Rätsel gelöst?).

Bei der alten Methode bekam er nur Punkte für den letzten Schritt.
Mit ReSum-GRPO bekommt er Punkte für das gesamte Spiel, und diese Punkte werden auf alle seine vorherigen Schritte verteilt.

Das ist wie ein Trainer, der sagt: „Gut gemacht! Auch wenn du vor 20 Minuten die falsche Straße gewählt hast, war es gut, dass du dort angehalten und die Karte geprüft hast. Das hat dir später geholfen." So lernt der Detektiv, dass es okay ist, Zwischenergebnisse zusammenzufassen, solange er am Ende das Ziel erreicht.

Das Ergebnis
Die Forscher haben gezeigt, dass dieser Ansatz Wunder wirkt:

Der Detektiv kann jetzt unendlich lange suchen, ohne den Überblick zu verlieren.
Selbst mit nur sehr wenig Trainingsmaterial (nur 1.000 Beispiele) wird ein kleinerer Detektiv (30 Milliarden Parameter) so gut, dass er mit den größten, teuersten Modellen der Welt mithalten kann.
Es ist viel billiger und schneller als andere Methoden, die den ganzen Detektiv neu bauen müssten.

Zusammenfassung in einem Satz:
ReSum ist wie ein cleverer Notizblock, der den Detektiv daran erinnert, was er schon weiß, damit er nicht vergisst, was er sucht, und so auch die schwierigsten Internet-Rätsel lösen kann, ohne seinen Rucksack zu sprengen.

1. Problemstellung

Large Language Model (LLM)-basierte Web-Agenten zeichnen sich zwar bei wissensintensiven Aufgaben aus, stoßen jedoch bei komplexen Suchanfragen auf ein fundamentales Problem: den Konflikt zwischen dem Bedarf an extensiver Exploration (lange Suchpfade, viele Tool-Aufrufe) und den begrenzten Kontextfenstern der Modelle.

Herausforderung: Das etablierte ReAct-Paradigma (Reasoning + Acting) hängt jede Beobachtung, jeden Gedanken und jede Aktion an den Verlauf an. Bei komplexen Aufgaben (z. B. mehrstufige Faktenverifikation) erschöpft dies schnell das Token-Limit (z. B. 32k), was zu einem vorzeitigen Abbruch der Suche führt.
Bestehende Lösungen: Ansätze wie MEM1 oder MemAgent versuchen dies durch architektonische Änderungen (z. B. interne Memory-Tokens) zu lösen. Diese erfordern jedoch ein teures End-to-End-Neu-Training und brechen die Kompatibilität mit bestehenden Agenten.

2. Methodik: Das ReSum-Ökosystem

Die Autoren stellen ReSum vor, ein leichtgewichtiges, „Plug-and-Play"-Paradigma, das die Kontextbeschränkung durch periodische Zusammenfassung (Summarization) umgeht, ohne die Architektur des Agenten zu ändern.

A. Das ReSum-Paradigma

Anstatt den gesamten Verlauf beizubehalten, wird der Interaktionsverlauf periodisch (z. B. bei Erreichen des Token-Limits) durch ein externes Tool komprimiert:

Initialisierung: Der Agent beginnt wie im ReAct-Paradigma.
Zusammenfassung: Wenn ein Trigger (z. B. Token-Limit) erreicht ist, wird ein Summary-Tool ( $\pi_{sum}$ ) aufgerufen, um den bisherigen Verlauf $H_t$ in einen kompakten, zielorientierten Summary $s$ zu kondensieren.
Neustart: Der Agent setzt die Suche fort, indem er den ursprünglichen Auftrag $q$ mit dem neuen Summary $s$ als neuen Kontext $(q, s)$ erhält. Der alte Verlauf wird verworfen, wodurch der Kontextspeicher freigemacht wird, aber die wesentlichen Beweise erhalten bleiben.

B. ReSumTool-30B (Spezialisiertes Zusammenfassungs-Modell)

Ein generisches LLM reicht oft nicht aus, um aus lauten Suchverläufen relevante Beweise zu extrahieren. Daher wurde ReSumTool-30B entwickelt:

Basis: Feinabstimmung (Fine-Tuning) von Qwen3-30B-A3B-Thinking.
Training: Verwendung von hochwertigen $\langle$ Konversation, Zusammenfassung $\rangle$ -Paaren, die von einem starken Lehrermodell (GPT-OSS-120B) generiert wurden.
Fähigkeiten: Das Modell ist spezialisiert darauf, Schlüsselevidenzen zu extrahieren, Informationslücken zu identifizieren und nächste Schritte vorzuschlagen. Es übertrifft in dieser Aufgabe deutlich größere Modelle wie DeepSeek-R1-671B.

C. ReSum-GRPO (Reinforcement Learning für Paradigma-Anpassung)

Obwohl ReSum ohne Training funktioniert, sind Standard-Agenten nicht optimal darauf trainiert, aus komprimierten Kontexten zu reasoning. Um dies zu beheben, wird ReSum-GRPO eingeführt:

Segmentierung: Lange Trajektorien werden an den Zusammenfassungspunkten in mehrere Episoden (Segmente) unterteilt.
Advantage Broadcasting: Anstatt segment-spezifische Belohnungen zu berechnen, wird eine einzige Trajektorien-Belohnung (basierend auf der Korrektheit der finalen Antwort) berechnet. Diese Belohnung wird über die Group Relative Policy Optimization (GRPO) normalisiert und als Vorteil (Advantage) an alle Segmente derselben Trajektorie „gesendet".
Ziel: Dies löst das Credit-Assignment-Problem bei langen Horizonten. Der Agent lernt, dass frühe Explorationsschritte, die zu einem erfolgreichen Abschluss führen, belohnt werden, auch wenn sie weit zurückliegen.

3. Wichtige Beiträge

ReSum (Paradigma): Eine architekturunabhängige Methode, die unbegrenzte Exploration durch periodische Komprimierung ermöglicht und bestehende ReAct-Agenten sofort nutzbar macht.
ReSumTool-30B: Ein spezialisiertes Modell, das durch gezieltes Training die Qualität der Kontextzusammenfassung für Web-Suchaufgaben signifikant verbessert.
ReSum-GRPO: Ein RL-Algorithmus, der Agenten effizient an das Zusammenfassungs-Paradigma anpasst, indem er Trajektorien segmentiert und Vorteile über den gesamten Verlauf verteilt.

4. Ergebnisse

Die Evaluation erfolgte auf drei anspruchsvollen Benchmarks: GAIA, BrowseComp und BrowseComp-zh.

Training-Free Setting:
- ReSum übertrifft das Standard-ReAct-Paradigma ohne jegliches Training um durchschnittlich 4,5 %.
- Die Verwendung von ReSumTool-30B als Zusammenfassungs-Tool ist entscheidend und schlägt deutlich größere Modelle (z. B. DeepSeek-R1-671B) in der Leistung.
- Ein 30B-Agent mit ReSum erreicht auf dem BrowseComp-Benchmark eine Pass@1 von 16,0 %, was stärkeren proprietären Modellen wie Claude-4 (12,2 %) und Kimi-K2 (14,1 %) überlegen ist.
Training-Required Setting (ReSum-GRPO):
- Mit nur 1.000 Trainingsstichproben (sehr dateneffizient) erzielt ReSum-GRPO weitere 8,2 % Verbesserung gegenüber dem reinen ReSum-Paradigma.
- Ein WebSailor-30B-Agent mit ReSum-GRPO erreicht auf BrowseComp-zh 33,3 %, was ihn wettbewerbsfähig mit Open-Source-Modellen macht, die mit über 10.000 Stichproben trainiert wurden.
- Im Vergleich zu MEM1-GRPO bietet ReSum-GRPO eine bessere Balance zwischen Leistung und Effizienz (geringerer Token-Verbrauch bei ähnlicher oder besserer Leistung).

5. Bedeutung und Ausblick

Praktische Anwendbarkeit: ReSum bietet eine kosteneffiziente Lösung für das Problem der begrenzten Kontextfenster, ohne dass teure Architekturanpassungen oder massive Neutraining-Datensätze nötig sind.
Skalierbarkeit: Die Methode funktioniert auch bei Agenten mit großen Kontextfenstern (bis 128k) und verbessert deren Leistung weiter, was zeigt, dass intelligente Zusammenfassung auch bei großen Fenstern notwendig ist.
Zukunft: Die Autoren planen, den externen Zusammenfassungsprozess durch autonome, agentengetriebene Mechanismen zu ersetzen und die Qualitätssicherung der Zusammenfassungen weiter zu verbessern.

Zusammenfassend demonstriert ReSum, dass durch die Kombination aus einem cleveren Inferenz-Paradigma (Zusammenfassung) und einer spezialisierten RL-Anpassung (GRPO) die Grenzen der Kontextfenster überwunden werden können, was zu robusten, langlebigen Such-Agenten führt.