🤖 AI

PEEK: Context Map as an Orientation Cache for Long-Context LLM Agents

PEEK is een systeem dat LLM-agenten met lange context verbetert door herbruikbare oriëntatiekennis over terugkerende externe contexten te cacheën in een kleine, persistente "contextkaart", wat de redeneernauwkeurigheid en -efficiëntie aanzienlijk verbetert en de rekenkosten verlaagt in vergelijking met bestaande basismodellen.

Oorspronkelijke auteurs: Zhuohan Gu, Qizheng Zhang, Omar Khattab, Samuel Madden

Gepubliceerd 2026-05-20

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Zhuohan Gu, Qizheng Zhang, Omar Khattab, Samuel Madden

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die inhuurt om een reeks verschillende zaken op te lossen, maar elke enkele zaak vereist het onderzoeken van dezelfde enorme, 50.000 pagina's tellende archiefkast in een kelder.

In het verleden hadden AI-agenten (slimme computerprogramma's) die deze problemen probeerden op te lossen, twee hoofdmanieren om met die archiefkast om te gaan:

De "Herinneringen" Aanpak: Ze hielden de volledige conversatiegeschiedenis van elke vorige zaak in hun hoofd. Maar na een paar zaken werd hun brein zo vol met oud gepraat dat ze zich niet meer konden focussen op de nieuwe aanwijzingen. Het was alsof je probeerde een specifieke naald te vinden in een hooiberg die ook vol zat met elk gesprek dat je ooit hebt gevoerd.
De "Zoekmachine" Aanpak: Elke keer als ze een nieuwe vraag kregen, renden ze naar de archiefkast, zochten ze een paar relevante pagina's op en brachten die terug. Dit was snel, maar ze bleven vergeten hoe de kast was georganiseerd. Ze moesten de indeling elke keer opnieuw leren.

Het Probleem:
Het artikel stelt dat voor herhaald werk op dezelfde grote context, de AI een cruciaal gereedschap mist: Oriëntatiekennis.

Denk eraan als een menselijke analist die al een maand in die kelder werkt. Hij hoeft niet elke keer de hele kast opnieuw te lezen. Hij heeft een mentale kaart: "Oh, de sportstatistieken staan in de rode mappen links, de financiële data in de blauwe mappen rechts, en er is een vreemde regel over hoe datums worden geschreven die ik op dag één heb geleerd."

Het artikel noemt dit ontbrekende gereedschap een Contextkaart.

Enter PEEK: Een "Peek" in de Kast

De auteurs hebben een systeem ontwikkeld genaamd PEEK (wat staat voor Context Map as an Orientation Cache).

Denk aan PEEK als een post-it die permanent op het bureau van de AI leeft (binnen zijn prompt). Deze post-it is klein en heeft een strikte groottebeperking, dus hij kan de hele archiefkast niet bevatten. In plaats daarvan bevat hij een samenvattende kaart van de kast.

Hier is hoe PEEK werkt, met behulp van een creatieve analogie van een Bibliothecair Intern:

1. De Distiller (De "Sniffer")

Nadat de AI een probleem heeft opgelost, kijkt de Distiller naar het rommelige werklog van de AI. Hij vraagt zich af: "Wat heeft de agent eigenlijk geleerd over de indeling van de bibliotheek?"

Hij negeert het specifieke antwoord op de vraag (bijvoorbeeld: "Het antwoord is 42").
Hij richt zich op de oriëntatie (bijvoorbeeld: "De sportsectie zit altijd achteraan", of "De datums worden in een vreemd formaat geschreven").
Hij filtert het ruis eruit en houdt alleen de herbruikbare "kaart"-kennis over.

2. De Cartograaf (De "Kaart Maker")

De Cartograaf neemt die notities en zet ze om in een schone, gestructureerde update voor de post-it.

Als de AI heeft geleerd dat "Sport" in de rode mappen staat, schrijft de Cartograaf dit duidelijk op.
Als de AI een specifieke regel over datums heeft ontdekt, voegt hij die toe aan een sectie "Constanten".
Hij zorgt ervoor dat de kaart niet rommelig wordt met feiten die alleen van toepassing zijn op één specifieke vraag.

3. De Evictor (De "Janitor")

De post-it heeft een beperkte grootte (een token-budget). Als de AI iets nieuws leert, moet de Evictor beslissen wat weggegooid moet worden om ruimte te maken.

Het gebruikt een prioriteitssysteem. Het houdt de belangrijkste "kaart"-informatie (zoals de indeling van het gebouw) en gooit minder belangrijke details weg (zoals een specifiek datumformaat dat alleen nuttig was voor één vraag).
Dit zorgt ervoor dat de notitie klein, snel en altijd relevant blijft.

Waarom is dit een groot ding?

Het artikel heeft PEEK getest op twee soorten moeilijke taken:

Redeneren: Het vinden van aanwijzingen verspreid over het enorme document en ze samenvoegen.
Leren: Het uitzoeken van de regels van het document en deze toepassen op nieuwe vragen.

De Resultaten:

Slimmer: PEEK loste problemen veel nauwkeuriger op dan de oude methoden (met verbeteringen van 6% tot 34%).
Sneller: Omdat de AI niet elke keer de indeling van de archiefkast opnieuw hoefde te leren, had het veel minder pogingen (iteraties) nodig om het juiste antwoord te krijgen.
Goedkoper: Minder pogingen betekende dat het systeem aanzienlijk goedkoper was om te draaien (tot 5,8 keer goedkoper dan de vorige beste methode).

De Bottom Line

Het artikel beweert dat voor AI-agenten die herhaaldelijk werken aan dezelfde grote dataset, het geheim niet alleen "meer onthouden" of "sneller zoeken" is. Het gaat erom een kleine, gecureerde kaart van de wereld recht voor hen te houden.

PEEK geeft de AI een "peek" in de context die bij hen blijft, waardoor ze de enorme externe wereld efficiënt kunnen navigeren, net als een doorgewinterde bibliothecaris die precies weet waar elk boek staat zonder elke dag de catalogus opnieuw te hoeven lezen.

Technische Samenvatting: PEEK - Contextkaart als Oriëntatiecache voor LLM-agenten met Lange Context

Probleemstelling

Large Language Model (LLM)-agenten opereren steeds vaker over lange, terugkerende externe contexten, zoals documentencorpora of code-repositories, waarbij de externe data statisch blijft terwijl de taken veranderen. Bestaande benaderingen voor het beheer van deze contexten vallen in vier categorieën:

Gedeelde Chat/Geschiedenis: Behoudt de trajecten van de agent, maar accumuleert ruisende context met een lage dichtheid.
Geschiedeniscompactering: Samenvatting van eerdere activiteiten, maar verwijdert herbruikbare kennis over de externe context zelf.
Passieve Toegang (RAG, Uitlagging, Compactering): Biedt toegang tot ruw of gecomprimeerd materiaal, maar mist een verzorgd, persistent artefact over de structuur en organisatie van de context.
Prompt Learning: Verzorgt strategieën op taalniveau, maar behoudt geen contextuele kennis over de terugkerende externe omgeving.

De auteurs betogen dat er een kritieke kloof bestaat: het ontbreken van een begrensd, beheerd artefact dat herbruikbare oriëntatiekennis (bijvoorbeeld wat de context bevat, hoe deze is georganiseerd, welke entiteiten/constants nuttig zijn) behoudt voor herhaalde werklasten op dezelfde context.

Methodologie: PEEK-systeem

De auteurs introduceren PEEK, een systeem dat een Contextkaart onderhoudt — een klein, constant-groot artefact dat in de systeemprompt van de agent woont. Deze kaart fungeert als een "oriëntatiecache", waardoor de agent een persistent "peek" heeft in de externe context. Het systeem is geïnspireerd door hardware-caches en database-indexen, maar opereert op het niveau van de agent, met focus op verzorgde betekenis in plaats van compressie van token-toestanden.

PEEK hanteert een programmeerbare cachebeleid bestaande uit drie modulaire componenten die de kaart na elke query-uitvoering updaten:

Distiller: Analyseert het uitvoeringstraject van de agent (redeneerstappen, tool-aanroepen, observaties) om overdraagbare contextuele kennis te extraheren. Het onderscheidt tussen oriëntatiewerk (het begrijpen van de structuur van de context, wat herbruikbaar is) en taalspecifiek werk (het beantwoorden van een specifieke vraag, wat niet herbruikbaar is). Het outputt een diagnose, tags voor bestaande kaartitems en kandidaten voor nieuwe cache-items.
Cartograaf: Vertaalt de output van de Distiller naar gestructureerde bewerkingsoperaties (TOEVOEGEN, VERWIJDEREN, VERVANGEN) voor de Contextkaart. Het zorgt ervoor dat updates lokaal, traceerbaar en gedupliceerd zijn, waardoor wordt voorkomen dat de kaart ruisend of duplicerend wordt.
Evictor: Handhaaft een vast tokenbudget ( $B$ ) voor de kaart. Het gebruikt een op prioriteit gebaseerde evictiestrategie, waarbij items met lagere waarde (bijvoorbeeld parsingschema's, foutpatronen) worden verwijderd voordat items met hogere waarde (bijvoorbeeld domeinconstanten, contextbegrip) worden verwijderd wanneer het budget wordt overschreden.

De Contextkaart zelf is gestructureerd in secties:

Contextrooster: Een index van inhoud en locatie.
Contextbegrip: Hoogwaardige beschrijvingen, sleutelentiteiten en relaties.
Domeinconstanten: Exacte waarden, formules en schema's.
Herbruikbare resultaten: Afgeleide berekeningen die van toepassing zijn op meerdere queries.
Parsingschema: Formaat- en scheidingstekensstructuren.

Het systeem ondersteunt een parameter "evolve steps" ( $m$ ), waardoor de kaart kan worden bijgewerkt voor de eerste $m$ queries en vervolgens wordt bevroren voor hergebruik, of volledig online kan worden bijgewerkt ( $m=n$ ).

Belangrijkste Bijdragen

Conceptueel Kader: Het artikel definieert de "Contextkaart" als een distinct kwadrant in het ontwerpruimte van contextbeheer, waardoor de kloof van actieve externe-contextstatus wordt opgevuld.
Systeemontwerp: PEEK ontkoppelt kennisextractie (Distiller) van structurele bewerking (Cartograaf), een ontwerpkies die via ablatieonderzoek als cruciaal is aangetoond om te voorkomen dat taalspecifieke feiten de cache vervuilen.
Efficiëntiemechanisme: Door een klein, constant-groot kaartje te onderhouden, vermijdt PEEK de superlineaire token-groei die geassocieerd is met gedeelde chatgeschiedenis en de hoge latentie van volledige contextcompactering.

Experimentele Resultaten

De auteurs evalueerden PEEK op twee benchmarks: OOLONG (redenering en aggregatie met lange context) en CL-bench (contextlearning). De gebruikte basisagent was Recursive Language Models (RLM) met GPT-5-mini.

Prestatiewinst:

Kwaliteit: PEEK presteerde beter dan alle baselines, inclusief het State-of-the-Art (SOTA) prompt-learning framework ACE.
- Op OOLONG verbeterde PEEK de scores met 6,3–34,0% ten opzichte van RLM en met 7,8–15,0% ten opzichte van ACE.
- Op CL-bench verbeterde PEEK de oplossingspercentages met 6,0–14,0% en de rubrieknauwkeurigheid met 7,8–12,1% ten opzichte van RLM, en met 6,0% / 9,9% ten opzichte van ACE.
Efficiëntie (Iteraties): PEEK vereiste 93–145 minder iteraties dan ACE op OOLONG terwijl het een hogere kwaliteit bereikte. Het bezette consequent het gebied van hoge kwaliteit en lage iteraties op de Pareto-grens.
Kosten: PEEK veroorzaakte 1,7–5,8× lagere kosten dan ACE op OOLONG en 1,4× lagere kosten op CL-bench. Dit werd bereikt door het aantal iteraties te verminderen en de verbaal, token-zware aanpassingslussen van ACE te vermijden.

Generalisatie:

Modelonafhankelijkheid: De winsten waren consistent bij het vervangen van de basis-LLM door GPT-5.5 en de open-source Qwen3-Coder-Next-FP8.
Agentonafhankelijkheid: PEEK verbeterde de prestaties wanneer toegepast op een andere backbone-agent, OpenAI Codex, wat aantoont dat de contextkaart een generaliseerbaar artefact is.

Ablatiestudies:

Het verwijderen van de Distiller (het gebruik van een monolithische update) verlaagde de prestaties met ongeveer 7,7%, wat de noodzaak bevestigt van het scheiden van diagnose van bewerking.
Het verwijderen van de Evictor (het bevriezen van de kaart bij het budget) leverde nog steeds winsten op ten opzichte van de basis-RLM, maar het volledige beleid voegde een extra verbetering van ongeveer 10,2% toe, wat de waarde van actief onderhoud benadrukt.
Het variëren van de cachegrootte ( $B$ ) toonde aan dat de aanwezigheid van een kaart belangrijker is dan de exacte grootte, waarbij zelfs kleine budgetten (512 tokens) aanzienlijke verbeteringen bieden.

Betekenis en Claims

Het artikel claimt dat PEEK aantoont dat een contextkaart LLM-agenten met lange context helpt om nauwkeuriger en efficiënter om te gaan met terugkerende externe contexten. De auteurs betogen dat:

Oriëntatiekennis Overdraagbaar is: In tegenstelling tot ruwe conversatiegeschiedenis, is kennis over de structuur en organisatie van een corpus herbruikbaar over verschillende taken.
Actief Beheer Superieur is: Een klein, verzorgd en actief onderhouden artefact presteert beter dan zowel passieve ophaalmethoden (RAG) als ongecontroleerde accumulatie (Gedeelde Chat).
Kosten-Kwaliteit Trade-off: PEEK bereikt een superieure kosten-kwaliteit trade-off, en ligt op de Pareto-grens waar andere methoden (zoals ACE) ofwel aanzienlijk meer kosten voor lagere kwaliteit vereisen, of meer iteraties nodig hebben voor vergelijkbare resultaten.

De auteurs concluderen dat deze aanpak een nieuw onderzoeksagenda opent voor caching aan de kant van de agent, distinct van modelniveau KV-cache-optimalisaties, specifiek gericht op het semantisch begrijpen van persistente externe omgevingen. Zij merken op dat het huidige werk een eerste stap is en roepen op tot toekomstige benchmarks die native ondersteuning bieden voor herhaalde queries over dezelfde lange context om dit paradigma verder te stress-testen.