🤖 AI

The Library Theorem: How External Organization Governs Agentic Reasoning Capacity

Dit artikel toont aan dat agents met een geïndexeerd extern geheugen een exponentieel lagere ophaalkost bereiken dan die met sequentiële scanning, maar waarschuwt dat bij vertrouwd materiaal parametrisch geheugen de zoekprotocollen kan omzeilen, wat pleit voor een scheiding tussen semantische indexbouw door taalmodellen en deterministische indextraversie.

Oorspronkelijke auteurs: Zachary F. Mainen

Gepubliceerd 2026-03-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Zachary F. Mainen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De Bibliotheek-stelling: Waarom slimme zoekers beter zijn dan slimme hersenen

Stel je voor dat een kunstmatige intelligentie (een AI) als een superintelligent bibliothecaris is. Deze bibliothecaris heeft een enorm brein, maar een heel klein bureau. Op dat bureau past maar één boek tegelijk.

Het artikel van Zachary Mainen stelt een fundamentele vraag: Hoe snel kan deze bibliothecaris een antwoord vinden als hij duizenden boeken moet doorzoeken?

Het antwoord is verrassend: het hangt niet alleen af van hoe slim de bibliothecaris is, maar vooral van hoe de boeken op de plank staan.

1. De twee manieren van zoeken

De auteurs vergelijken twee manieren om informatie op te slaan:

De Stapel (Lineair zoeken):
Stel je voor dat alle boeken in een grote, ongeordende stapel op de vloer liggen. Als de bibliothecaris een specifiek boek zoekt, moet hij ze één voor één oppakken, lezen en weer neerleggen.
- Het probleem: Als er 100 boeken zijn, moet hij er gemiddeld 50 oppakken. Als er 1.000 zijn, moet hij er 500 oppakken.
- De kosten: Dit kost enorm veel tijd en energie. Hoe groter de stapel, hoe langzamer het gaat. Dit is wat huidige AI's vaak doen: ze lezen hun hele chatgeschiedenis van begin tot eind om iets te vinden.
De Bibliotheek met een Kaart (Geïndexeerd zoeken):
Nu stel je je voor dat dezelfde boeken in een echte bibliotheek staan, met een zoekkaart (een index) bij de ingang. In die kaart staat: "Boek X staat in gang 3, plank 2."
- De oplossing: De bibliothecaris kijkt niet naar de boeken zelf, maar eerst naar de kaart. Hij loopt direct naar de juiste plank.
- Het voordeel: Of er nu 100 of 10.000 boeken zijn, hij maakt altijd maar een paar stappen. Hij hoeft niet alles te lezen.

De stelling: De auteurs bewijzen wiskundig dat het gebruik van een "index" (zoals een inhoudsopgave of bestandsnaam) de zoektijd exponentieel verlaagt. Het is het verschil tussen het zoeken in een berg papier en het zoeken in een georganiseerde bibliotheek.

2. Het experiment: Drie soorten "boeken"

Om dit te testen, lieten ze de AI zoeken in drie verschillende soorten lijsten:

Willekeurige codes (De "Onbekende" taal):
De AI moest zoeken naar willekeurige cijferreeksen die ze nog nooit eerder had gezien.
- Resultaat: De AI met de index was ongelooflijk snel. Ze keek altijd naar de index en vond het boek in één keer. De AI zonder index moest alles doorzoeken en werd steeds trager naarmate de lijst groeide.
Getallen (De "Voorspelbare" taal):
De lijst bevatte getallen: "1, 2, 3, 4..."
- Resultaat: Zelfs als de AI wist dat de lijst gesorteerd was (dus ze kon theoretisch halveren en halveren, zoals een binair zoeken), faalde de zwakkere AI. Ze raakte de draad kwijt en begon weer van voren af aan te zoeken. De index werkte echter nog steeds perfect.
Encyclopedie (De "Bekende" taal):
Dit was de verrassing. De AI moest zoeken naar feiten over bekende woorden (zoals "acetylene" of "abattoir").
- Resultaat: De index faalde. Waarom? Omdat de AI de woorden kende uit haar eigen "hersenen" (haar trainingsdata). In plaats van naar de index te kijken en het boek te lezen, dacht ze: "Oh, ik weet dit al!" en gaf ze direct een antwoord.
- De valkuil: Soms gaf ze een fout antwoord (hallucineerde) omdat ze niet naar de bron keek. Ze probeerde de index te omzeilen omdat ze dacht dat ze het al wist. Dit kostte enorm veel tijd en energie (token-budget) omdat ze in een cirkel van zelfvertrouwen bleef hangen.

3. De grote les: Splits de taken

Het belangrijkste advies uit het artikel is een splitsing van taken:

Gebruik de AI voor het maken van de index:
De AI is geweldig in begrijpen. Als je duizenden documenten hebt, kan de AI perfect beslissen: "Dit document gaat onder 'Klimaat', en dat onder 'Energie'." Ze kan de inhoud begrijpen en de juiste mappen maken.
Gebruik een simpele computer voor het zoeken in de index:
Zodra de index er is, moet de AI niet meer zoeken. Laat een simpele, domme computer het doen. Die kijkt naar de naam van het bestand, opent het en leest het. Geen denken, geen "ik denk dat ik het weet", gewoon: Open bestand -> Lezen -> Antwoord.

Waarom? Omdat als de AI probeert te zoeken terwijl ze de inhoud kent, ze de regels negeert en fouten maakt. Ze moet "discipline" hebben en de index volgen, maar dat is iets waar AI's slecht in zijn als ze iets herkennen.

Samenvatting in één zin

Om AI's echt slim en efficiënt te maken, moeten we ze niet laten zoeken in een grote stapel papier, maar ze een perfecte bibliotheek geven; en we moeten zorgen dat ze de index gebruiken om te zoeken, in plaats van te proberen het antwoord uit hun hoofd te halen.

Het is het verschil tussen een student die alles uit het hoofd probeert te leren (en faalt bij grote hoeveelheden) en een student die een goede zoekmachine en een goed georganiseerd archief heeft. De laatste wint altijd.

Titel: Het Bibliotheek-Theorema: Hoe Externe Organisatie de Capaciteit voor Agentisch Redeneren Beheerst

Auteur: Zachary F. Mainen (Champalimaud Foundation, Lissabon)
Datum: Maart 2026

1. Het Probleem

Transformer-gebaseerde agenten (zoals LLM's) breiden hun redeneercapaciteit uit door tools te gebruiken voor het lezen van bestanden, het uitvoeren van code en het opslaan van tussenresultaten. Echter, de organisatie van deze externe toestand (het "geheugen" van de agent) is vaak ongestructureerd.

Huidige situatie: De conversatiegeschiedenis fungeert als een lineair tape (sequentieel geheugen). Om informatie te vinden, moet de agent de geschiedenis sequentieel scannen.
De kernvraag: Hoe beïnvloedt de organisatie van de externe toestand de kosten van redeneren?
Het probleem: Zonder indexering groeien de kosten voor het ophalen van informatie lineair met de grootte van het geheugen, wat leidt tot kwadratische kosten over meerdere redeneerstappen. Dit beperkt de schaalbaarheid van complexe agenten.

2. Methodologie en Formele Basis

De auteur formaliseert het contextvenster van een transformer als een I/O-pagina (een buffer van maximaal $C$ tokens). Het externe geheugen wordt gemodelleerd als een opslag met $N$ pagina's.

De twee toegangsmodes:

Sequentiële toegang (Flat): De agent moet pagina's één voor één lezen om een item te vinden.
- Kosten: $\Omega(N)$ pagina-lezen in het ergste geval.
- Cumulatieve kosten over $T$ stappen: $\Theta(T^2)$ .
Geïndexeerde toegang (B-Boom): De opslag is georganiseerd als een B-Boom met een vertakkingsfactor $b$ $b$ . De agent gebruikt een index (zoals een inhoudsopgave) om direct naar het juiste pad te navigeren.
- Kosten: $O(\log_b N)$ pagina-lezen.
- Cumulatieve kosten over $T$ stappen: $O(T \log_b T)$ .

Het Theorema:
Het artikel bewijst dat er een exponentiële scheiding bestaat tussen deze twee benaderingen. Het "Bibliotheek-Theorema" stelt dat het gebruik van een geïndexeerd bestandssysteem de redeneringskosten drastisch verlaagt vergeleken met het scannen van een platte lijst.

3. Experimenteel Ontwerp

Om de theorie te testen, werd een gecontroleerde benchmark ontwikkeld met drie verschillende inhoudstypen om het effect van "inhoudsvertrouwdheid" te isoleren:

Hash (Abstract): Willekeurige sleutel-waarde paren (geen voorkennis mogelijk).
Numeriek (Voorspelbaar maar abstract): Gesorteerde lijsten van gehele getallen (waarbij de waarde gelijk is aan de sleutel).
Encyclopedie (Vertrouwd): Feiten over bekende Engelse woorden (waar de LLM parametrische kennis heeft).

Vergelijking van condities:

FLAT: Ongeordende pagina's, geen index.
INDEXED: Gesorteerde pagina's met een expliciete index (inhoudsopgave).
FLAT-SORTED: Gesorteerde pagina's zonder index (test of de agent zelf binaire zoekopdrachten kan uitvoeren).
DEEP-INDEXED: Twee-laagse indexering (hoofdtabel -> sectie -> pagina) om recursieve zoekproblemen op te lossen.

Modellen: GPT-4o-mini (primair) en GPT-5.4 (replicatie).

4. Belangrijkste Resultaten

A. Bevestiging van de Exponentiële Scheiding

Hash-content: De geïndexeerde agent behaalde een mediaan van 1 pagina-lezen, ongeacht de grootte van de opslag (tot 5.000 items). Dit bevestigt de $O(1)$ voorspelling voor het vinden van een item in een geïndexeerde lijst.
Sequentiële kosten: De FLAT-agent vertoonde een lineaire toename in pagina-lezen ( $\approx M/20$ ), wat leidde tot een kwadratische toename in token-kosten. Bij 2.000 items verbruikte de FLAT-agent 154x meer tokens dan de INDEXED-agent.

B. Sortering vs. Expliciete Index

FLAT-SORTED: Zelfs met gesorteerde data kon de zwakkere model (GPT-4o-mini) geen effectieve binaire zoekopdracht uitvoeren bij grotere schalen; de prestaties degradeerden naar lineair scannen.
Sterker model (GPT-5.4): Dit model kon wel een binaire zoekopdracht uitvoeren op gesorteerde data (bijv. 5 leesacties bij 500 items), maar verloor nog steeds van de expliciete index (die slechts 1 leesactie vereiste).
Conclusie: Een expliciete index is superieur omdat de agent een pointer hoeft te volgen in plaats van een zoekstrategie te berekenen.

C. Parametrische Geheugen Concurrentie (De "Valstrik")

Dit is een cruciale ontdekking bij het gebruik van Encyclopedie-content:

Wanneer de inhoud vertrouwd is (de LLM "weet" het antwoord al uit zijn training), negeert de agent de zoekprotocol.
In plaats van de pagina te lezen, genereert de agent het antwoord direct vanuit zijn parametrische geheugen.
Gevolg: Dit leidt tot catastrofale token-uitputting (hallucinaties en eindeloze loops) en een instorting van de nauwkeurigheid (van 90% naar 27%), ondanks dat de indexstructuur perfect was.
Mechanisme: Er is een concurrentie tussen het zoek-pad (tool calls volgen) en het parametrische pad (direct genereren). Bij vertrouwde inhoud wint het parametrische pad, wat het systeem faalt.

5. Kernbijdragen

Formele Modellering: Het identificeren van het contextvenster als een I/O-pagina en het bewijzen van de exponentiële scheiding tussen sequentiële en geïndexeerde ophaalmethoden.
Empirische Validatie: Experimentele bevestiging dat geïndexeerde agenten exponentiële voordelen bieden in token-efficiëntie en schaalbaarheid.
Ontdekking van een Nieuwe Foutmodus: Het identificeren van "parametrische geheugen concurrentie", waarbij semantische vertrouwdheid de agent ertoe aanzet om het zoekprotocol te omzeilen, wat leidt tot falen.
Architectonisch Ontwerpprincipe: Een fundamentele scheiding van verantwoordelijkheden voor agenten-architecturen.

6. Betekenis en Architecturale Implicaties

Het artikel concludeert dat taalmodellen niet geschikt zijn om zowel de index te bouwen als te navigeren.

Scheiding van Belangen (Separation of Concerns):
- Index Bouwen: Gebruik taalmodellen (LLM's). Hun semantisch begrip is essentieel om te beslissen hoe informatie te noemen, te groeperen en te indexeren.
- Index Navigeren: Gebruik deterministische algoritmen. Het doorlopen van de index moet een strikt protocol zijn (naam spellen -> pagina ophalen) zonder semantische interpretatie of generatie. Dit voorkomt dat de LLM probeert het antwoord te "raden" in plaats van te zoeken.

Conclusie:
Een agent die zijn eigen redeneergeschiedenis opslaat als een geïndexeerd bestandssysteem (en niet als een platte chatgeschiedenis), transformeert zijn redeneerkosten van kwadratisch naar log-lineair. Echter, voor dit systeem te laten werken, moet de navigatie door de index worden overgelaten aan deterministische logica, terwijl de LLM zich beperkt tot het semantisch organiseren van de data. Dit biedt een formele onderbouwing voor de noodzaak van "Extended Cognition" waarbij de externe structuur een integraal onderdeel is van de rekenkracht van het systeem.