Agent-Omit: Adaptive Context Omission for Efficient LLM Agents

Het Probleem: De "Over-Uitlegger" Agent

Stel je voor dat je een zeer slimme, maar iets te obsessieve onderzoeksassistent inhuurt om een specifiek feit voor je op internet te vinden.

• Het goede nieuws: Ze zijn briljant. Ze vinden het antwoord.
• Het slechte nieuws: Om daar te komen, schrijven ze een dagboekaantekening van 50 pagina's voor elke enkele stap die ze zetten. Ze schrijven op: "Ik denk eraan om op de blauwe knop te klikken", en dan klikken ze erop. Vervolgens schrijven ze: "Ik lees de tekst op het scherm", en dan lezen ze het. Zelfs wanneer ze gewoon op een knop klikken die voor de hand lag vanuit de vorige stap, schrijven ze een heel alinea over.

Dit is precies wat huidige AI-agenten doen. Ze genereren veel "gedachten" (redenering) en "observaties" (het lezen van de resultaten van hun acties). Hoewel dit hen helpt bij het oplossen van moeilijke problemen, creëert het een enorme hoeveelheid "digitaal rommel". Deze rommel:

1. Kost veel geld (omdat AI-bedrijven per woord/token rekenen).
2. Vertraagt alles.
3. Verwardt de AI omdat de conversatiegeschiedenis zo lang wordt dat ze het begin vergeet.

Het Inzicht: Niet Alle Gedachten Zijn Even Waardevol

De onderzoekers achter dit paper stelden een simpele vraag: "Moeten we echt elke pagina van dat 50-pagina's dagboek lezen?"

Ze analyseerden de reis van de AI en ontdekten dat het belang van deze gedachten en observaties verandert afhankelijk van wanneer ze plaatsvinden:

• Het Begin: De AI moet hard nadenken om haar route te plannen. (Hoge waarde).
• Het Midden: De AI klikt gewoon op knoppen of leest simpele zoekresultaten. Vaak hoeft ze hiervoor geen dagboekaantekening te schrijven; ze kan de actie gewoon uitvoeren. (Lage waarde).
• Het Einde: De AI moet de bevindingen samenvatten. Ze heeft de uiteindelijke resultaten nodig, maar hoeft de zoekresultaten van drie uur geleden niet opnieuw te lezen. (Lage waarde voor oude data).

De Analogie: Stel je voor dat je een recept volgt. Je moet de instructies zorgvuldig lezen aan het begin (planning). Maar wanneer je de 10e minuut de pot roert, hoef je geen roman te schrijven over hoe je roert. Je roert gewoon. Als je blijft schrijven over het roeren, raak je je papier op voordat je klaar bent met koken.

De Oplossing: Agent-Omit

Het team bouwde een nieuw trainingskader genaamd Agent-Omit. Denk hierbij aan het leren van een nieuwe superkracht aan de AI: De Kunst van het Weten Wat Je Mag Overslaan.

In plaats van de AI te dwingen alles op te schrijven, leert Agent-Omit haar om te zeggen: "Ik weet wat ik doe, ik hoef dit niet op te schrijven", of "Ik hoef dat oude notitie niet opnieuw te lezen."

Ze deden dit in twee stappen:

Stap 1: De "Koude Start" (Het Leren van de Basis)

Eerst creëerden ze een speciale set oefenproblemen. Ze toonden de AI handmatig voorbeelden van:

• "Hier is een moment waarop je te veel dacht. De volgende keer sla gewoon de gedachte over."
• "Hier is een moment waarop je een oude observatie las die niet hielp. De volgende keer sla het lezen ervan over."

Ze leerden de AI de specifieke "handtekens" (speciale codes) die ze moet gebruiken wanneer ze een stap wil overslaan. Het is alsof je een student leert dat soms "Ik weet het antwoord" een geldig antwoord is, en ze niet hun werk hoeven te tonen voor elk wiskundeprobleem.

Stap 2: Het "Beloningssysteem" (Versterkend Leren)

Vervolgens lieten ze de AI spelletjes spelen (zoals navigeren door een website of een wetenschappelijke puzzel oplossen) en gaven ze haar een speciaal beloningssysteem:

• Beloning voor het correct krijgen van het antwoord.
• Bonusbeloning voor het gebruik van minder woorden.

Als de AI probeerde lui te zijn en een nodige stap oversloeg, kreeg ze een slechte score. Maar als ze correct een overbodige stap identificeerde en deze oversloeg, waardoor tijd en geld werden bespaard, kreeg ze een enorme bonus. Na verloop van tijd leerde de AI een "slimme minimalist" te worden: het werk doen, maar minder erover schrijven.

De Resultaten: De "Goudlokje" Agent

De onderzoekers testten deze nieuwe AI (genaamd Agent-Omit) tegen zeven andere top-tier AI-agenten.

• Prestatie: Ze loste de problemen even goed op als de "super-slimme" reuzen (zoals DeepSeek-R1 of o3).
• Efficiëntie: Ze gebruikte aanzienlijk minder woorden (tokens) om daar te komen.
• De Ruil: Ze vond de perfecte balans. Ze was niet zo lui dat ze faalde, en ze was niet zo spraakzaam dat ze geld verspilde.

De Analogie: Stel je voor dat twee bestuurders proberen naar dezelfde bestemming te komen.

• Bestuurder A (Oude AI): Rijdt de hele weg terwijl ze elke bocht, elk stoplicht en elke wolk die ze ziet, narekent. Ze komen er wel, maar ze verbranden veel benzine en doen er lang over.
• Bestuurder B (Agent-Omit): Rijdt de hele weg, maar spreekt alleen in als ze een complexe beslissing moeten nemen of een kaart moeten controleren. Ze komen er even snel, maar ze gebruiken veel minder benzine.

Waarom Dit Belangrijk Is (Volgens Het Paper)

Het paper beweert dat we door AI te leren om onnodige context te "weglaten" (overslaan), deze agenten kunnen maken:

1. Goedkoper om te draaien.
2. Sneller.
3. Even slim.

Ze bewezen wiskundig dat dit overslaan de vermogen van de AI om correct na te denken niet schaadt, zolang ze maar de goede dingen overslaat. Ze lieten zien dat de AI van nature leerde om ongeveer 3 tot 4 rondes onnodig gepraat in het midden van een taak over te slaan, precies daar waar de "saaiere" delen van het werk meestal plaatsvinden.

Kortom, Agent-Omit is een trainingsmethode die AI-agenten leert stoppen met over-uitleggen, waardoor tijd en geld worden bespaard zonder hun intelligentie te verliezen.