Technische Samenvatting: Diagnostiek en Mitigatie van Context Rot in Long-horizon Zoekopdrachten

Probleemdefinitie

Naarmate Large Language Models (LLM's) steeds vaker worden ingezet voor langdurige agentische taken (long-horizon tasks), zoals diepe webzoekopdrachten, accumuleren zij uitgebreide context bestaande uit zowel omgevingsfeedback als interne redenering. Dit paper identificeert een kritieke degradatie in modelprestaties die bekend staat als context rot (context-rot). Specifiek in scenario's met diep zoeken, waarbij agenten tientallen of honderden tool-aanroepen uitvoeren, zorgt uitgebreide context ervoor dat modellen ofwel direct opgeven (stellen dat ze het probleem niet kunnen oplossen) ofwel voortijdig onzekere antwoorden geven (een duidelijk antwoord geven terwijl de redenering expliciet onopgeloste onzekerheid erkent).

In tegen tegenstelling tot eerder onderzoek dat zich richt op single-turn lange inputs (bijv. "needle-in-a-haystack"-tests) of multi-turn menselijke conversaties, onderzoekt dit werk context rot in multi-turn, multi-source, progressief geaccumuleerde agentische zoektaken. De auteurs observeren dat naarmate de trajectlengte toeneemt, modellen niet alleen aan nauwkeurigheid verliezen; ze verschuiven hun gedrag naar deze twee specifieke faalmodi, waarbij ze vaak gevangen raken in "struggle patterns" (herhaalde mislukte pogingen of gebrek aan voortgang).

Methodologie

1. Diagnostiek en Taxonomie

De auteurs hebben een fijnmazige taxonomie van eindtoestanden ontwikkeld om rot te diagnosticeren, waarbij ze agent-uitkomsten categoriseren in:

• Opgeven (Give Up): De agent geeft expliciet aan het probleem niet te kunnen oplossen.
• Onzeker Antwoord (Uncertain Answer): De agent geeft een duidelijk antwoord, maar de redenering geeft expliciet aan dat er onopgeloste onzekerheid is.
• Zeker Antwoord (Confident Answer): De agent geeft een duidelijk antwoord met een redenering die aangeeft dat aan alle criteria is voldaan.
• Geen Antwoord (No Answer): De agent slaagt er niet in een antwoord te produceren vanwege contextlimieten of budgetten voor het aantal beurten.

Met behulp van een LLM-als-rechter (gevalideerd tegen menselijke experts met 98,7% overeenstemming), evalueerden de auteurs vier vooraanstaande open-source modellen (Qwen3.5-397B-A17B, GLM-4.7, GLM-5.0, MiniMax-M2.5) over drie benchmarks: BrowseComp, BrowseComp-Plus (lokale corpus), en xbench-DeepSearch.

2. Pruning Analyse

Om de relatie tussen geaccumuleerde context en rot te begrijpen, voerden de auteurs experimenten uit met het wegknippen (pruning) van context. Ze verwijderden systematisch verschillende delen van de geaccumuleerde geschiedenis (tool-responses, inhoud van de redenering, of de volledige context) terwijl ze het meest recente interactievenster behielden. Dit stelde hen in staat te isoleren of rot werd veroorzaakt door de trajectlengte, het aantal interacties, of de specifieke inhoud van de geaccumuleerde context.

3. Mitigatiestrategieën

Het paper evalueert twee primaire benaderingen om context rot te mitigeren:

A. Contextbeheer (In-Process)
De auteurs evalueerden systematisch zeven methoden over drie categorieën, waarbij het ReAct-framework werd aangepast:

1. Context Compactie (Context Compaction): Het periodiek herschrijven van de geaccumuleerde geschiedenis naar een compacte samenvatting. Triggers waren trajectlengte, interactierondes en een "struggle score" (semantische detectie van falen).
2. Context Trimmen (Context Trimming): Het weggooien van vorige inhoud zonder deze te herschrijven. Varianten omvatten het weggooien van alle tool-responses behalve de laatste, het behouden van alleen de laatste interactierondes, en het combineren van trimmen met samenvatting.
3. Context Isolatie (Context Isolation): Het gebruik van sub-agenten (bijv. FoldAgent) om taken uit te voeren en alleen gesommeerde uitkomsten terug te geven, waardoor het contextvenster van de hoofdagent schoon blijft.

B. Post-Hoc Rejection Sampling
De auteurs ontwikkelden een rot-bewuste filterstrategie. Voor een enkele query worden meerdere trajecten gegenereerd met standaard ReAct (zonder contextbeheer). Een filter sluit vervolgens trajecten uit die eindigen in "Give Up" of "Uncertain Answer" toestanden, waarbij alleen "Confident Answers" worden behouden voor aggregatie (via meerderheidsstemming, minimale lengte, of minste beurten).

Belangrijkste Resultaten

1. Kenmerken van Context Rot

• Prevalentie: Uitgebreide context zorgt ervoor dat modellen opgeven of onzekere antwoorden geven, een fenomeen dat verergert naarmate de context groeit.
• Niet enkel Lengte: Rot is niet uitsluitend afhankelijk van de trajectlengte of het aantal beurten. Pruning-experimenten toonden aan dat het verwijderen van de geaccumuleerde context de rot bijna volledig elimineert, maar het verwijderen van alleen de redenering of alleen de tool-responses (terwijl de andere behouden blijft) de rot ook vermindert, wat aangeeft dat de inhoud van de accumulatie ertoe doet.
• Correlatie met Strijd (Struggle): Trajecten die eindigen in rot-toestanden vertonen significant hogere "struggle scores" (herhaalde mislukkingen, geen voortgang) vergeleken met succesvolle trajecten.
• Venstergrootte vs. Prestaties: De grootte van het contextvenster zelf is niet de primaire bottleneck; modellen kunnen problemen binnen het venster oplossen, maar de prestaties verslechteren door de manier waarop het model de geaccumuleerde context verwerkt.

2. Effectiviteit van Contextbeheer

• Gemengde Strategie is Optimaal: Een hybride aanpak die Context Trimming (het behouden van de laatste beurten) combineert met Context Compaction (het samenvatten van oudere inhoud) bereikte de beste balans tussen kosten (tool-aanroepen) en mitigatie van rot. Pure compactie verminderde rot aanzienlijk maar bracht hoge kosten en onvoltooide trajecten met zich mee; pure trimming was efficiënt maar minder effectief in het verminderen van rot.
• Modelafhankelijkheid: Contextisolatie (sub-agenten) vertoonde een hoge variantie. Het presteerde uitzonderlijk goed met sterke backbones (bijv. Qwen3.5) maar presteerde slecht met zwakkere modellen (bijv. GLM-4.7), wat suggereert dat het een robuust LLM-backbone vereist om effectief te zijn.
• Trigger Frequentie: Het verhogen van de frequentie van passief beheer (bijv. samenvatten bij kortere lengtedrempels) mitigeerde rot, maar verhoogde de kosten en de mate van onvoltooide trajecten.

3. Effectiviteit van Rejection Sampling

• Prestatiewinst: Het toepassen van rot-bewuste filtering op meerdere gesamplede trajecten leverde een gemiddelde prestatiewinst op van 2,6% tot 4,9% over de aggregatiemethoden heen.
• Synergie: Het combineren van rejection sampling met contextbeheermethoden verbeterde de prestaties verder. In datasets met ernstige rot (BrowseComp, BrowseComp-Plus) presteerde de beste contextbeheermethode gecombineerd met rejection sampling beter dan standaard ReAct. In datasets met minder ernstige rot (xbench-DeepSearch) presteerde standaard ReAct met rejection sampling soms gelijk aan of beter dan contextbeheermethoden.

Betekenis en Bijdragen

Het paper claimt de volgende bijdragen:

1. Diagnostiek: Het onthult een wijdverspreid maar voorheen onopgemerkt rot-fenomeen in long-horizon agentische zoekopdrachten, gekenmerkt door direct opgeven en voortijdige onzekere antwoorden, wat wordt verergerd door contextgroei.
2. Causale Analyse: Door middel van pruning-experimenten toont het aan dat rot direct wordt veroorzaakt door de inhoud van de geaccumuleerde context, en niet enkel door trajectstatistieken zoals lengte of aantal beurten.
3. Systematische Evaluatie: Het biedt een uitgebreide evaluatie van zeven contextbeheermethoden over drie categorieën, wat duidelijke richtlijnen biedt voor strategieselectie op basis van de afweging tussen prestaties, kosten en de ernst van de rot.
4. Nieuwe Mitigatie: Het introduceert een rot-bewuste filterstrategie voor rejection sampling, waarmee de effectiviteit van het verbeteren van de betrouwbaarheid van agenten wordt aangetoond zonder het onderliggende agent-framework te wijzigen.

De auteurs concluderen dat deze inzichten een fundament bieden voor het bouwen van robuustere autonome agenten die in staat zijn om steeds complexere, real-world long-horizon uitdagingen aan te gaan door effectief de afwegingen tussen contextbehoud en modeldegradatie te beheren.