🤖 AI

Grokers: Bottom-Up Inductive Comprehension and Write-Time Intelligence over Typed Knowledge Graphs

Dit artikel introduceert Grokers, een architectuur die intelligentie verplaatst van querytijd naar schrijftijd door autonome agenten te gebruiken om getypeerde kennisgrafen inductief te analyseren en te verrijken, waardoor persistente gestructureerde begripsvorming, bijna perfecte KV-cache-efficiëntie en nul extra taalmodelkosten voor toekomstige queries worden bereikt.

Oorspronkelijke auteurs: Gregory Magarshak

Gepubliceerd 2026-06-02

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Gregory Magarshak

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorme, drukke bibliotheek runt.

De Oude Manier: De "Retrieval" Bibliotheek (RAG)

Momenteel werken de meeste AI-systemen als een bibliothecaris die nog nooit een boek heeft gelezen. Elke keer als een klant een vraag stelt, rent de bibliothecaris koortsachtig naar de planken, pakt een paar willekeurige pagina's die op de vraag lijken, leest ze snel door en probeert dan een antwoord te geven.

Het probleem? De bibliothecaris moet dit elke keer opnieuw doen, zelfs als 1.000 mensen gisteren exact dezelfde vraag stelden. Het is traag, duur (omdat lezen tijd en geld kost) en de bibliothecaris kan het perfecte antwoord missen omdat hij slechts vluchtig scant.

De Nieuwe Manier: De "Grok" Bibliotheek (GROKERS)

Het paper introduceert GROKERS, een systeem dat dit proces omdraait. In plaats van het zware werk te doen wanneer iemand een vraag stelt, doet GROKERS het zware werk wanneer de informatie voor het eerst wordt opgeschreven.

Denk aan een team van superintelligente, autonome redacteuren (genaamd Grokers) die in de bibliotheek wonen.

1. De "Write-Time" Redacteurs

Wanneer een nieuw boek (of document) de bibliotheek binnenkomt, lezen de Grokers het onmiddellijk. Ze slaan het niet alleen op; ze analyseren het diepgaand. Ze extraheren de hoofdideeën, voorzien het van trefwoorden, beoordelen de kwaliteit en schrijven deze "verrijkte aantekeningen" direct op de rug van het boek.

Het Voordeel: Later, wanneer een klant een vraag stelt, hoeft de bibliothecaris niet het hele boek opnieuw te lezen. Hij kijkt gewoon naar de rug, leest de vooraf geschreven aantekeningen en geeft direct antwoord. De "begripskosten" zijn één keer betaald, aan het begin, niet elke keer wanneer iemand iets vraagt.

2. De "Bottom-Up" Assemblagelijn

De bibliotheek is niet zomaar een stapel boeken; het is een web van verbindingen. Sommige boeken zijn afhankelijk van andere (zoals een tekstboek dat steunt op een woordenboek).

GROKERS werkt bottom-up. Stel je een bouwploeg voor die een wolkenkrabber bouwt:

Eerst voltooien zij de fundering en de onderste verdiepingen (de "leaf" nodes).
Zodra de onderste verdiepingen voltooid en "getagd" zijn met hun status, verplaatst de ploeg zich naar de volgende verdieping.
Ze kunnen de bovenste verdieping niet afmaken totdat de verdiepingen eronder klaar en begrepen zijn.

Dit zorgt ervoor dat tegen de tijd dat het systeem een complexe vraag over de top van het gebouw moet beantwoorden, de gehele structuur eronder al geanalyseerd en gelabeld is.

3. De "Byte-Identieke" Magie (De KV-Cache)

Dit is de meest technische maar ook de coolste claim van het paper. Omdat de Grokers de aantekeningen in een zeer strikt, voorspelbaar formaat schrijven, is de "context" (de aantekeningen op de rug) elke keer byte-voor-byte identiek, zolang het boek niet is veranderd.

De Analogie: Stel je een computersysteem voor dat werkt als een supersnelle verkoopautomaat. Als je precies dezelfde snack bestelt (dezelfde context-block) als gisteren, hoeft de machine niet naar het magazijn te gaan om er een nieuwe te halen. De machine weet dat het item exact hetzelfde is, dus schuift hij direct het oude item naar buiten.
Het Resultaat: Het systeem kan zijn "geheugen" bijna 100% van de tijd hergebruiken, wat het ongelooflijk snel en goedkoop maakt. Traditionele systemen kunnen dit niet, omdat zij de context elke keer anders samenstellen op basis van de specifieke vraag.

4. De "Wisdom Library" (Slimmer worden over tijd)

Het systeem heeft een speciale bibliotheek van kleine, vooraf geschreven computerprogramma's (een "Wisdom Library") die veelvoorkomende taken afhandelen.

De Groei: Wanneer het systeem een nieuw type vraag tegenkomt dat het niet met zijn huidige programma's kan beantwoorden, raadt het niet zomaar iets. Het gebruikt een AI om een nieuw programma te schrijven om dat specifieke patroon af te handelen.
Het Resultaat: In de loop van de tijd groeit de bibliotheek met programma's. Hoe vaker het systeem wordt gebruikt, hoe meer vragen het kan beantwoorden zonder dat het de dure AI-"hersenen" überhaupt hoeft aan te roepen. De kosten per vraag dalen naarmate het systeem slimmer wordt.

5. De "Tweerichtingsweg" van Lezen en Schrijven

Het paper bewijst een wiskundige regel over hoe je door deze bibliotheek beweegt:

Om te Begrijpen (Comprehension): Je moet Bottom-Up gaan (van de kleine details naar het grote plaatje). Je kunt het dak niet begrijpen voordat je de muren begrijpt.
Om te Creëren (Generation): Je moet Top-Down gaan (van het grote plan naar de details). Je kunt de muren niet bouwen voordat je het dakplan hebt.

GROKERS gebruikt de Bottom-Up fase om de perfecte "aantekeningen" (context) te bouwen, wat vervolgens de Top-Down fase mogelijk maakt om later direct en perfect antwoorden te genereren.

Samenvatting

GROKERS is een architectuur die stopt met het "opnieuw lezen" van het internet elke keer dat je een vraag stelt. In plaats daarvan zet het een team van agenten in om alles vooraf te lezen en samen te vatten, en het te organiseren in een gestructureerde, verbonden kaart.

Oude Manier: Vraag $\rightarrow$ Zoeken $\rightarrow$ Lezen $\rightarrow$ Antwoorden (Traag, duur, repetitief).
GROKERS Manier: Schrijven $\rightarrow$ Analyseren & Taggen $\rightarrow$ Opslaan $\rightarrow$ (Later) Vragen $\rightarrow$ Aantekeningen Lezen $\rightarrow$ Antwoorden (Snel, goedkoop, efficiënt).

Het paper beweert dat dit een systeem creëert dat goedkoper en sneller wordt naarmate je het meer gebruikt, omdat het een permanente, gestructureerde verstandhouding van de kennis opbouwt in plaats van er alleen maar op het moment zelf naar te zoeken.

Technische Samenvatting: Grokers: Bottom-Up Inductieve Begrip en Write-Time Intelligentie over Getypeerde Kennisgrafen

1. Probleemstelling

Het dominante paradigma voor het funderen van Large Language Model (LM) responsen in gestructureerde kennis is Retrieval-Augmented Generation (RAG). In dit model wordt een query geëmbed, worden nabijgelegen documentfragmenten opgehaald via vector-gelijkenis, en worden deze fragmenten in de prompt-context geïnjecteerd.

Het artikel identificeert een structurele tekortkoming in RAG: het brengt bij elke query de volledige kosten van begrip met zich mee, ongeacht of de query nieuw is of structureel gelijkwaardig aan duizenden eerdere interacties. Voor kennisdomeinen met terugkerende interactiepatronen (bijv. enterprise software, documentbeheer) is deze aanpak architecturaal verspillend. Bovendien varieert de door RAG samengestelde context met de query, wat de stabiliteit verhindert die vereist is voor efficiënt KV-cachegebruik.

2. Methodologie: De GROKERS Architectuur

GROKERS keert de standaard ontwerpkeuze om door intelligentie te verschuiven van query-tijd naar write-tijd. De architectuur steunt op een Typed Stream Graph, een gerichte graaf van getypeerde knopen met gestructureerde velden, getypeerde attributen en gewogen getypeerde randen, gerealiseerd op de Magarshak Machine SPACER-substraat.

Kernmechanismen

Bottom-Up Inductief Begrip: Autonome "Groker" agenten traverseren de afhankelijkheids-subgraaf van het kennis-substraat van bladknopen naar wortels. Zij extraheren gestructureerde attributen via gereguleerde LM-oproepen en componeren inductief begrip omhoog door afhankelijkheidsrelaties.
Write-Time Verrijking: In plaats van context op te halen tijdens de query-tijd, schrijft het systeem verrijkte getypeerde attributen direct naar de graafknopen. Deze attributen dienen alle toekomstige queries tegen nul additionele LM-kosten.
Transactionele Denormalisatie: Een STREAMS CATEGORY tabel onderhoudt een denormalisatie-index. Voor elke knoop slaat deze de volledige pre-ranked relatie-nabijheid op, die atomair wordt bijgewerkt bij elke relatiemodificatie. Dit biedt volledige context in ongeveer 1 ms zonder achtergrondprocessen of eventual consistency.
Deterministische Context Assemblage: Een deterministische functie, buildCachedContext, rendert knoopattributen en nabijheidsdata naar gestructureerde tekst. De ordening van relatietypes is vast (unieke types eerst, daarna op maximale gewicht), waardoor de output byte-identiek is voor identieke inputs.

De Wisdom Library

Om de LM-afhankelijkheid verder te verminderen, maakt GROKERS gebruik van een Wisdom Library ( $W$ ), een eindige set gesandboxed imperatieve programma's. Deze programma's hanteren specifieke interactiepatronen. De bibliotheek groeit via drie mechanismen:

Initiële Autorisatie: LM-gegenereerde programma's die worden beoordeeld voordat ze worden geactiveerd.
Patroonpromotie: Groker-analyse identificeert ongedekte patronen en stelt nieuwe programma's voor.
Evolutionaire Selectie: Programma's met een lage fitness worden vervangen door programma's met een hogere fitness-fork.

3. Belangrijkste Bijdragen en Formele Eigenschappen

Het artikel presenteert drie formeel bewezen stellingen die de efficiëntie en correctheid van de GROKERS-architectuur vaststellen:

A. De Byte-Identiteit Stelling

Claim: Contextblokken samengesteld uit de transactioneel onderhouden denormalisatie-index zijn byte-identiek over LM-beurten heen tussen semantische wijzigingen.
Implicatie: Dit maakt KV-cache hit rates mogelijk die de 100% naderen voor synchrone interacties. In tegen tegenstelling tot RAG, waar opgehaalde fragmenten variëren met de query, is de GROKERS-context deterministisch.
Kostenanalyse: Met stabiele prefix caching (bijv. Anthropic's 10% prijsstelling voor cache hits), bereikt GROKERS tot wel een 10x reductie in stabiele prefix token kosten vergeleken met RAG in steady-state scenario's.

B. De Accumulatie Monotoniciteit Stelling

Claim: Het deel van de interacties dat zonder LM-oproepen wordt afgehandeld (de LM-Call Elimination Rate) is niet-dalend over de tijd naarmate de Wisdom Library groeit onder een gereguleerd protocol.
Implicatie: De marginale LM-kosten per interactie zijn niet-stijgend. Dit contrasteert met RAG, ReAct en LangChain, die constante marginale LM-kosten vertonen.
Conditie: Dit houdt stand onder de aanname dat nieuwe programma's schema-validatie en fitness-checks passeren voordat ze de bibliotheek toetreden, en dat fitness een betrouwbare proxy is voor dekking.

C. De Dual-Traversal Ordening Stelling

Claim: Voor een afhankelijkheids-DAG zijn er unieke correcte traversatie-orderingen voor verschillende taken:
- Bottom-Up (Blad-eerst): De enige geldige ordening voor correct begrip (verrijking).
- Top-Down (Wortel-eerst): De enige geldige ordening voor coherente artefact-generatie.
Implicatie: Deze ordeningen zijn de omgekeerden van elkaar. De output van de bottom-up begripfase (verrijkte attributen) wordt de byte-identieke, KV-gecachede context voor de daaropvolgende top-down generatie, waarmee een volledige generatie-begripscyclus wordt gesloten.

D. Deterministische Semantische Zoekopdracht

Het artikel stelt een deterministisch alternatief voor embedding-gebaseerde semantische zoekopdrachten voor middels een Synonym Caching Protocol.

Mechanisme: Keyword extractie wordt behandeld als een first-class observatie. Queries worden uitgebreid via stemming, ontologie-traversatie en gecachte LM-expansies.
Convergentie: Voor domeinen met een eindige vocabulaire convergeert de LM-fallback rate naar nul naarmate de synonym cache de dekking accumuleert, wat de accumulatie-eigenschap van de Wisdom Library weerspiegelt.

4. Resultaten en Implementatie

Referentie Implementatie: De architectuur is geïmplementeerd in de open-source Qbix / Safebox / Safebots stack.
- Qbix: Biedt het stream graph-substraat en de transactionele denormalisatie.
- Safebox: Biedt de gesandboxed executie-omgeving voor de Wisdom Library en de gereguleerde write-pipelines.
- Safebots: Implementeert de Groker-verrijkingslaag, goal stream architectuur en multi-level summary trees.
Prestaties: Het systeem bereikt context-assemblage in ~1 ms. Voor synchrone interacties (waarbij de intervallen tussen semantische wijzigingen $T_c$ uren/dagen zijn en turn-intervallen $T_t$ seconden zijn), nadert de theoretische KV-cache hit rate de 100%.

5. Betekenis en Claims

De auteurs claimen dat GROKERS een formeel fundament vormt voor write-time intelligentie als een strikt efficiënter alternatief voor query-time retrieval voor gestructureerde kennisdomeinen met terugkerende interactiepatronen.

Efficiëntie: Het verbreekt fundamenteel het constant-kostenmodel van LLM-interacties door de kosten van begrip te amorteren tijdens de write-tijd en door deterministische context te benutten voor bijna perfect KV-cachegebruik.
Correctheid: Het biedt formele garanties op traversatie-ordening en de correctheid van verrijking, die afwezig zijn in reactieve LM-tools (zoals Copilot, Devin) en standaard RAG-systemen.
Schaalbaarheid: Door gebruik te maken van de "Embarrassing Parallelism" van het onderliggende substraat, schaalt attribuut-verrijking lineair met het aantal publishers zonder coördinatie-overhead.

De auteurs positioneren dit werk niet als een vervanging voor álle LLM-applicaties, maar als een gespecialiseerde, hoog-efficiënte architectuur voor domeinen waar kennis gestructureerd is, afhankelijkheden acyclisch zijn en interactiepatronen terugkeren. Het artikel erkent beperkingen, waaronder de vereiste van eindige vocabulaire voor de convergentie van de synonym cache en de aanname van acyclische afhankelijkheidsgrafen.