Technische Samenvatting: Waarom Herhalingen Falen: Contextverontreiniging in LLM-Agentpijplijnen

1. Probleemstelling

Wanneer Large Language Model (LLM)-agenten falen bij meerstaps, tool-verrijkte taken, bestaat de standaardpraktijk uit het opnieuw proberen van de taak. De mislukte poging blijft echter als geschiedenis in het contextvenster van het model achter. Deze "contextverontreiniging" zorgt ervoor dat de agent foutieve redeneringen of onjuiste tool-uitvoer meeneemt naar volgende pogingen, waardoor de foutkans voor daaropvolgende pogingen effectief wordt verhoogd.

Hoewel dit fenomeen in de praktijk wijdverbreid wordt waargenomen (bijvoorbeeld agenten die herhaaldelijk verwijzen naar slechte eindpunten die zijn geleerd uit eerdere fouten), bestaat er geen formeel theoretisch kader dat kwantificeert hoe deze verontreiniging schaalt met taakdiepte, foutpercentages of rekenbudgetten. Bestaande literatuur richt zich op betrouwbaarheid bij één enkele run of empirische catalogi van mislukkingen, maar faalt in het modelleren van de dynamiek tussen pogingen die het retry-gedrag in de echte wereld definieert. Bijgevolg verspillen naïeve retry-strategieën aanzienlijke rekenbronnen, en overschatten standaard veronderstellingen van onafhankelijke en identiek verdeelde (IID) variabelen de succeskansen in scenario's met meerdere pogingen grof.

2. Methodologie: Het Context-Verontreinigde Herstartmodel (CCRM)

De auteurs introduceren het Context-Verontreinigde Herstartmodel (CCRM) om deze dynamiek te formaliseren. Het model definieert een pijplijn met diepte $T$ (een reeks van $T$ tool-aanroepen) waarbij de agent maximaal $K$ pogingen doet binnen een totaal budget $B = KT$.

Kernmechanismen:

• Verontreinigingstoestand ($Z_k$): Een binaire toestand $Z_k \in \{0, 1\}$ die de contextconditie van de $k$-de poging vertegenwoordigt. $Z_1 = 0$ (schoon).
• Foutpercentages:
  • $\epsilon_0$: Basisfoutpercentage per stap wanneer de context schoon is ($Z_k=0$).
  • $\epsilon_1$: Verhoogd foutpercentage per stap wanneer de context verontreinigd is ($Z_k=1$), waarbij $\epsilon_1 > \epsilon_0$.
• Overgangsdynamiek: Als een poging $k$ faalt ($S_k=0$), schakelt de toestand over naar $Z_{k+1}=1$, waardoor alle daaropvolgende pogingen verontreinigd worden. Als een poging slaagt, eindigt het proces.
• Succeskans: De kans dat een enkele poging slaagt is $p_i = (1-\epsilon_i)^T$. Dus, $p_1 < p_0$.

Het model behandelt de reeks pogingen als een Markov-keten waarbij de overgang naar een "verontreinigde" toestand absorberend is voor de huidige taak (totdat er een succes optreedt, wat het proces beëindigt, of het budget is uitgeput).

3. Belangrijkste Bijdragen en Theoretische Resultaten

Het artikel leidt vijf belangrijke theoretische resultaten af binnen het CCRM-kader:

R1: Exacte Succesformule (Stelling 1)

De auteurs leiden een gesloten formule af voor de kans op succes binnen $K$ pogingen:
$$P(\text{succes in } \le K) = p_0 + (1-p_0)[1 - (1-p_1)^{K-1}]$$
Deze formule houdt rekening met het feit dat de eerste poging een kans $p_0$ heeft en alle daaropvolgende pogingen (gegeven een mislukking) een verslechterde kans $p_1$ hebben. Deze structuur is isomorf met een gewijzigde geometrische verdeling die in betrouwbaarheidsengineering wordt aangetroffen, maar hier toegepast op verontreiniging tussen pogingen.

R2: Cascade-Overhead en Fasentransitie (Stelling 2)

Het artikel kwantificeert de "cascade-overhead" ($\Delta K$), het aantal extra pogingen dat door CCRM wordt vereist in vergelijking met een schone-herstart (IID) baseline om een doelsucceskans van $1-\delta$ te bereiken.

• Universele Ondergrens: Verontreiniging brengt altijd een positieve overhead met zich mee ($\Delta K > 0$).
• Fasentransitie: Naarmate de verontreinigingsratio $\epsilon_1/\epsilon_0$ toeneemt (of de pijplijndiepte $T$ toeneemt), ondergaat het systeem een fasentransitie. In het "superkritische" regime divergeren de vereiste pogingen $\Delta K$ naar oneindig, terwijl de IID-baseline begrensd blijft. Dit verklaart waarom diepe pijplijnen met hoge verontreinigingsratio's praktisch onoplosbaar worden met eenvoudige herhalingen.

R3: Optimale Budgettoewijzing (Stelling 3)

Voor een vast totaalbudget $B identificeert het artikel de optimale pijplijndiepte $T^*$ die de succeskans maximaliseert. De gesloten oplossing is:
$$T^* = \sqrt{B \cdot \frac{\log(1/(1-\epsilon_1))}{\log(1/(1-\epsilon_0))}}$$
Het resultaat toont aan dat sterkere verontreiniging (grotere $\epsilon_1/\epsilon_0$) een evenredig kleinere optimale diepte $T^*$ dicteert, wat effectief kortere, ondiepere pijplijnen aanbeveelt om het risico op het betreden van de verontreinigde toestand te minimaliseren.

R4: Informatietheoretische Ondergrens (Stelling 4)

Met behulp van de methode van Le Cam en een constructie met twee hypothesen (onderscheidend tussen een IID-model en het CCRM) bewijzen de auteurs dat geen enkel beleid een succeskans van $1-\delta$ kan bereiken met minder dan $K_{CCRM} - O(1)$ pogingen. Dit stelt vast dat de afgeleide formule strak is tot op een constante factor.

R5: Dominantie van Schone Herstart (Stelling 5)

Het artikel bewijst dat het leegmaken van het contextvenster voor een retry (het resetten van $Z_k=0$) de standaard "verontreinigde" retry-strategie strikt domineert. De verbeteringsratio wordt expliciet afgeleid, wat aantoont dat het wissen van de context het aantal vereiste pogingen aanzienlijk reduceert.

4. Empirische Validatie

De auteurs valideren het CCRM-model met zowel synthetische Monte Carlo-experimenten als real-world data van SWE-bench Verified.

• Synthetische Validatie: Experimenten met 30.000 proeven bevestigen dat de theoretische succesformule overeenkomt met simulatiegegevens met een fout $\le 0,003$. De fasentransitie in cascade-overhead wordt voorspeld waargenomen.
• Real-world Data (SWE-bench):
  • Met behulp van data van Verdent (SWE-bench Verified), waarbij agenten opeenvolgende pogingen doen op hetzelfde probleem, passen de auteurs het CCRM-model aan.
  • Resultaat: Het standaard IID-model overschat de pass@3-rate met 17,4 procentpunten (voorspelling van 98,6% versus de werkelijke 81,2%).
  • Aanpassing: Het CCRM-model past de data aan met een fout van minder dan 0,001.
  • Inferentie: De gefitte parameters impliceren een cascaderatio van $\epsilon_1/\epsilon_0 = 7,1$, wat aangeeft dat een mislukte poging het foutpercentage per stap met een factor 7,1 verhoogt.
  • Vergelijking: In tegenstelling hieraan tonen benchmarks met onafhankelijke herstarten met een schone start (bijv. USEagent, OpenHands) grote kloven tussen IID-voorspellingen en prestaties, maar de auteurs schrijven dit toe aan gecorreleerde taakmoeilijkheid in plaats van contextverontreiniging, een verschillend fenomeen buiten het CCRM-bereik.

5. Betekenis en Claims

Het artikel claimt het eerste formele kader te bieden voor het analyseren van contextverontreiniging tussen pogingen in LLM-pijplijnen. De betekenis ligt in:

1. Correctie van Misvattingen: Aantonen dat de IID-aanname fundamenteel gebrekkig is voor opeenvolgende herhalingen in tool-verrijkte agenten, wat leidt tot ernstige overschatting van betrouwbaarheid.
2. Hanteerbare Principes: Het bieden van gesloten oplossingen voor optimale budgettoewijzing ($T^*$) en het bewijzen dat het wissen van de context strikt superieur is aan het behouden van geschiedenis.
3. Theoretische Strenge: Het vaststellen van informatietheoretische ondergrenzen en het identificeren van fasentransities waarbij retry-strategieën inefficiënt worden.
4. Praktische Richtlijnen: Het suggereren dat het verlagen van het basisfoutpercentage $\epsilon_0$ (via fine-tuning of betere redenering) een superlineair voordeel heeft wanneer de verontreinigingsratio hoog is, aangezien dit tegelijkertijd het verhoogde foutpercentage $\epsilon_1$ verlaagt.

De auteurs handhaven een bescheiden omvang en erkennen beperkingen zoals het binaire karakter van de verontreinigingstoestand, de aanname van onafhankelijkheid per stap binnen een poging, en de uitsluiting van gecorreleerde taakmoeilijkheid (wat onafhankelijke herhalingen beïnvloedt). Ze positioneren CCRM als een fundamentele stap, met de opmerking dat het combineren van verontreiniging tussen pogingen met Markov-dynamiek binnen een poging een open probleem blijft.