ContextNest: Verifiable Context Governance for Autonomous AI Agent
ContextNest (verwezen naar als ContextNext in de abstractie) introduceert een open specificatie en referentie-implementatie voor verifieerbare contextgovernance die onder retrieval-systemen ligt om te waarborgen dat AI-agenten uitsluitend goedgekeurde, traceerbare en op integriteit geverifieerde kennis consumeren, waardoor het falen van herkomst en determinisme wordt aangepakt dat retrieval-kwaliteit alleen niet kan oplossen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Kernprobleem: De "Zelfverzekerde maar Onjuiste" Agent
Stel je voor dat je een zeer slimme, snelle assistent (een AI-agent) inhuurt om beslissingen te nemen voor je bedrijf. Je geeft hem een bibliotheek met documenten om te lezen.
Het probleem is niet dat de assistent dom is; het probleem is dat de bibliotheek een rommeltje is.
- De Wisselwerking: De bibliotheek bevat het huidige beleid, maar ook het oude beleid van drie jaar geleden, het conceptbeleid dat nooit is goedgekeurd, en een nepbeleid dat iemand erin heeft gesmokkeld.
- De Fout: Wanneer je de assistent vraagt: "Wat is de limiet voor reiskosten?", vindt hij misschien het oude document waarin staat "$50" in plaats van het nieuwe document waarin "$200" staat. Hij antwoordt zelfverzekerd omdat de tekst relevant lijkt, maar hij geeft je verouderde of onjuiste informatie.
- Het Mysterie: Als je vraagt: "Hoe ben je tot die beslissing gekomen?", kan de assistent geen duidelijk antwoord geven. Hij kan niet zeggen: "Ik heb het document gelezen van 12 juni, goedgekeurd door Sarah." Hij zegt alleen maar: "Ik vond wat tekst die overeenkwam."
Dit is de Context Governance Gap (het gat in de context-beheersing). De AI weet hoe hij tekst moet vinden, maar hij weet niet welke tekst veilig, actueel en goedgekeurd is om te gebruiken.
De Oplossing: ContextNest (De "Kwaliteitscontrole"-laag)
De auteurs stellen ContextNest voor. Zie dit niet als een nieuwe manier van zoeken, maar als een strikte kwaliteitscontrole-poort die voordat de AI de documenten überhaupt ziet, in werking treedt.
Zo werkt het, met behulp van eenvoudige metaforen:
1. De "Getypte" Bibliotheekkaarten
In een normale bibliotheek is een boek gewoon een boek. In ContextNest heeft elk document een specifieke ID-kaart (een "Type").
- Sommige kaarten zeggen: "Dit is een Glossarium" (alleen definities).
- Sommige zeggen: "Dit is een Beleid" (regels om te volgen).
- Sommige zeggen: "Dit is een Concept" (Nog niet gebruiken!).
De AI is geprogrammeerd om alles te negeren dat niet de juiste ID-kaart heeft. Hij zal niet per ongeluk een conceptbeleid lezen alsof het een wet is.
2. De "Alleen Goedgekeurde" Poort
Stel je een bewaker voor bij de deur van de bibliotheek.
- Concepten zitten vast in een wachtkamer. De bewaker laat de AI daar niet binnen.
- Gepubliceerde documenten krijgen een Groene Stempel.
De AI mag alleen documenten lezen met de Groene Stempel. Dit zorgt ervoor dat de AI nooit werkt met voortgangsstukken of niet-goedgekeurde ideeën.
3. De "Tamper-Proof" Keten (Onveranderlijke Keten)
Elke keer dat een document wordt gewijzigd, krijgt het een nieuwe digitale vingerafdruk (een hash).
- Als iemand probeert de tekst van een document stiekem aan te passen nadat het is goedgekeurd, breekt de vingerafdruk.
- Het is als een zegel van was op een brief. Als het zegel gebroken is, weet je dat iemand de brief heeft geopend.
- ContextNest koppelt deze vingerafdrukken samen in een keten. Als één schakel gebroken is, is de hele keten ongeldig. Dit bewijst dat het document niet is aangepast sinds de goedkeuring.
4. De "Tijdsmachine" (Checkpoints)
Stel je voor dat je moet bewijzen wat de regels op een specifieke dag in het verleden waren (miss misschien voor een audit).
- Normale bibliotheken kunnen dit niet gemakkelijk; ze laten je alleen het huidige boek zien.
- ContextNest maakt elke keer dat een document verandert een snapshot (checkpoint).
- Als je vraagt: "Wat wist de AI op 1 maart?", kan het systeem de tijd terugdraaien en de exacte versie van het document tonen die op 1 maart bestond, tot op de laatste letter nauwkeurig. Dit maakt het onmogelijk om de geschiedenis te vervalsen.
5. Het "Bonnetje" (Audit Trail)
Elke keer dat de AI een document leest, print hij automatisch een bon.
- De bon zegt: "Ik heb Document X, Versie 3, goedgekeurd door Sarah, gelezen om 14:00 uur."
- Als de AI later een fout maakt, kun je naar de bon kijken en precies zien welk stuk informatie de fout heeft veroorzaakt. Je kunt de AI niet de schuld geven van "hallucinaties"; je kunt zien dat er een verkeerd (of oud) document aan hem is gevoerd.
Hoe het werkt met bestaande AI (RAG)
Het paper is heel duidelijk: ContextNest is geen vervanging voor de zoekmachine van de AI.
- RAG (Retrieval-Augmented Generation) is als een magneet. Het vindt documenten die lijken op je vraag. Het is erg goed in het vinden van relevante tekst, maar het is een rommeltje.
- ContextNest is als een filter. Het zit vóór de magneet.
- Het Filter zegt: "Laat alleen de goedgekeurde, actuele en geverifieerde documenten door."
- De Magneet (RAG) zoekt vervolgens alleen binnen die veilige, gefilterde stapel.
Het Resultaat: De AI krijgt het beste van twee werelden. Hij vindt relevante tekst (dankzij de magneet), maar krijgt de garantie dat hij de juiste versie van die tekst gebruikt (dankzij het filter).
Wat de experimenten lieten zien
De auteurs hebben dit getest met twee belangrijke experimenten:
De "Verouderde Versie" Aanval: Ze creëerden een scenario waarin de "oude" regels gemengd waren met de "nieuwe" regels.
- Zonder ContextNest: De AI koos vaak de oude, onjuiste regels en gaf zelfverzekerde maar onjuiste antwoorden.
- Met ContextNest: De AI koos nooit de oude regels. Hij kreeg bijna altijd het juiste antwoord en gebruikte minder computerkracht (tokens) om het te doen, omdat hij niet door de troep hoefde te spitten.
De "Consistentie" Test: Ze stelden dezelfde vraag 20 keer.
- Standaard Zoeken: Somsal gaf het je Document A, soms Document B, ook al was de vraag identiek. Het was onvoorspelbaar.
- Met ContextNest: Het gaf je elke keer exact hetzelfde document. Het is perfect voorspelbaar.
De Kernboodschap
Het paper betoogt dat naarmate AI-agenten echte beslissingen gaan nemen in de echte wereld (zoals het goedkeuren van onkosten of het schrijven van code), we niet alleen kunnen vertrouwen op het feit dat ze "slim" zijn. We hebben een governance-laag nodig die garandeert dat de informatie die ze gebruiken:
- Goedgekeurd is (door een mens).
- Actueel is (geen oud concept).
- Onveranderlijk is (veilig).
- Traceerbaar is (we weten precies wat ze hebben gelezen).
ContextNest biedt de "verkeersregels" voor AI-kennis, en zorgt ervoor dat wanneer een AI handelt, hij handelt op basis van een fundament van waarheid, en niet slechts op een stapel willekeurige tekst.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.