🤖 AI

Grokers: Bottom-Up Inductive Comprehension and Write-Time Intelligence over Typed Knowledge Graphs

Dieses Paper stellt Grokers vor, eine Architektur, die Intelligenz von der Abfragezeit auf die Schreibzeit verlagert, indem sie autonome Agenten nutzt, um typisierte Wissensgraphen induktiv zu analysieren und anzureichern, wodurch eine persistente strukturierte Komprehension, eine nahezu perfekte KV-Cache-Effizienz und null zusätzliche Sprachmodellkosten für zukünftige Abfragen erreicht werden.

Ursprüngliche Autoren: Gregory Magarshak

Veröffentlicht 2026-06-02

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Gregory Magarshak

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie leiten eine riesige, geschäftige Bibliothek.

Der alte Weg: Die „Abruf“-Bibliothek (RAG)

Derzeit arbeiten die meisten KI-Systeme wie ein Bibliothekar, der noch nie ein Buch gelesen hat. Jedes Mal, wenn ein Kunde eine Frage stellt, rennt der Bibliothekar hektisch zu den Regalen, schnappt sich ein paar zufällige Seiten, die der Frage ähnlich sehen, liest sie schnell durch und versucht dann, die Frage zu beantworten.

Das Problem? Der Bibliothekar muss das jedes Mal machen, selbst wenn gestern 1.000 Leute exakt dieselbe Frage gestellt haben. Es ist langsam, teuer (weil Lesen Zeit und Geld kostet) und der Bibliothekar übersieht vielleicht die perfekte Antwort, weil er nur oberflächlich überfliegt.

Der neue Weg: Die „Grok“-Bibliothek (GROKERS)

Das Paper stellt GROKERS vor, ein System, das diesen Prozess auf den Kopf stellt. Anstatt die harte Arbeit erst zu leisten, wenn jemand eine Frage stellt, erledigt GROKERS die schwere Arbeit bereits, wenn die Information zum ersten Mal aufgeschrieben wird.

Stellen Sie sich das wie ein Team von superintelligenten, autonomen Redakteuren (genannt Grokers) vor, die in der Bibliothek leben.

1. Die „Schreibzeit“-Redakteure

Wenn ein neues Buch (oder Dokument) in der Bibliothek eintrifft, lesen die Grokers es sofort. Sie archivieren es nicht einfach nur; sie analysieren es tiefgreifend. Sie extrahieren die Kernideen, versehen es mit Schlagworten, bewerten die Qualität und schreiben diese „angereicherten Notizen“ direkt auf den Buchrücken.

Der Vorteil: Wenn später ein Kunde eine Frage stellt, muss der Bibliothekar nicht das ganze Buch erneut lesen. Er schaut einfach auf den Buchrücken, liest die vorab geschriebenen Notizen und antwortet sofort. Die Kosten für das „Verständnis“ wurden einmalig zu Beginn bezahlt, nicht jedes Mal, wenn jemand eine Frage stellt.

2. Die „Bottom-Up“-Montagelinie

Die Bibliothek ist nicht nur ein Haufen Bücher; sie ist ein Geflecht aus Verbindungen. Einige Bücher hängen von anderen ab (wie ein Lehrbuch, das auf ein Wörterbuch angewiesen ist).

GROKERS arbeitet Bottom-Up (von unten nach oben). Stellen Sie sich eine Baustelle vor, auf der ein Wolkenkratzer errichtet wird:

Zuerst fertigstellen sie das Fundament und die untersten Stockwerke (die „Leaf“-Knoten).
Sobald die unteren Etagen fertiggestellt und „getaggt“ sind, rückt das Team in die nächste Etage vor.
Sie können das oberste Stockwerk erst fertigstellen, wenn die darunter liegenden Etagen abgeschlossen und verstanden wurden.

Dies stellt sicher, dass das System, wenn es eine komplezere Frage zum oberen Teil des Gebäudes beantworten muss, die gesamte Struktur darunter bereits analysiert und beschriftet hat.

3. Die „Byte-Identische“ Magie (Der KV-Cache)

Dies ist der technischste, aber auch coolste Anspruch des Papers. Da die Grokers die Notizen in einem sehr strengen, vorhersehbaren Format schreiben, ist der „Kontext“ (die Notizen auf dem Buchrücken) byte-genau identisch, solange sich das Buch nicht geändert hat.

Die Analogie: Stellen Sie sich ein Computerspeichersystem vor, das wie ein superschneller Verkaufsautomat funktioniert. Wenn Sie heute genau denselben Snack (denselben Kontext-Block) bestellen wie gestern, muss die Maschine nicht erst ins Lager gehen, um einen neuen zu holen. Sie weiß, dass der Artikel exakt derselbe ist, und schiebt ihn einfach sofort heraus.
Das Ergebnis: Das System kann seinen „Speicher“ fast zu 100 % wiederverwenden, was es unglaublich schnell und günstig macht. Traditionelle Systeme können dies nicht, da sie den Kontext jedes Mal basierend auf der spezifischen Frage neu zusammensetzen.

4. Die „Weisheits-Bibliothek“ (Mit der Zeit klüger werden)

Das System besitzt eine spezielle Bibliothek kleiner, vorab geschriebener Computerprogramme (eine „Wisdom Library“), die gängige Aufgaben bewältigen.

Das Wachstum: Wenn das System auf eine neue Art von Frage stößt, die es mit seinen aktuellen Programmen nicht beantworten kann, rät es nicht einfach. Es nutzt eine KI, um ein neues Programm zu schreiben, das genau dieses spezifische Muster handhabt.
Das Ergebnis: Im Laufe der Zeit wächst die Bibliothek der Programme. Je öfter das System genutzt wird, desto mehr Fragen kann es beantworten, ohne überhaupt das teure KI-„Gehirn“ aufrufen zu müssen. Die Kosten pro Frage sinken, während das System klüger wird.

5. Die „Zwei-Wege-Straße“ des Lesens und Schreibens

Das Paper beweist eine mathematische Regel darüber, wie man sich durch diese Bibliothek bewegt:

Um zu verstehen (Comprehension): Man muss Bottom-Up gehen (vom Detail zum Gesamtbild). Man kann das Dach nicht verstehen, bevor man die Wände verstanden hat.
Um zu erschaffen (Generation): Man muss Top-Down gehen (vom großen Plan zu den Details). Man kann die Wände nicht bauen, bevor man den Plan für das Dach hat.

GROKERS nutzt die Bottom-Up-Phase, um die perfekten „Notizen“ (Kontext) zu erstellen, was wiederum die Top-Down-Phase ermöglicht, um später sofort und perfekt Antworten zu generieren.

Zusammenfassung

GROKERS ist eine Architektur, die verhindert, dass die KI das Internet jedes Mal neu „liest“, wenn Sie eine Frage stellen. Stattdessen setzt sie ein Team von Agenten ein, die alles, was eintrifft, vorlesen und vor-zusammenfassen, und es in einer strukturierten, vernetzten Karte organisieren.

Alter Weg: Frage $\rightarrow$ Suche $\rightarrow$ Lesen $\rightarrow$ Antwort (Langsam, teuer, repetitiv).
GROKERS-Weg: Schreiben $\rightarrow$ Analysieren & Taggen $\rightarrow$ Speichern $\rightarrow$ (Später) Frage $\rightarrow$ Tags lesen $\rightarrow$ Antwort (Schnell, günstig, effizient).

Das Paper behauptet, dass dies ein System schafft, das immer billiger und schneller wird, je mehr man es nutzt, da es ein dauerhaftes, strukturiertes Verständnis des Wissens aufbaut, anstatt es nur bei Bedarf auf der Suche nach Antworten zu durchsuchen.

Technisches Resümee: Grokers: Bottom-Up Induktive Komprehension und Write-Time Intelligence über typisierten Wissensgraphen

1. Problemstellung

Das dominante Paradigma für die Erdung von Large Language Model (LM)-Antworten in strukturiertem Wissen ist Retrieval-Augmented Generation (RAG). In diesem Modell wird eine Abfrage eingebettet, benachbarte Dokumenten-Chunks werden via Vektorsimilarität abgerufen und diese Chunks werden in den Prompt-Kontext injiziert.

Das Paper identifiziert einen strukturellen Mangel in RAG: Es verursacht die vollen Kosten der Komprehension bei jeder Abfrage, unabhängig davon, ob die Abfrage neu oder strukturell äquivalent zu tausenden vorangegangenen Interaktionen ist. Für Wissensdomänen mit wiederkehrenden Interaktionsmustern (z. B. Unternehmenssoftware, Dokumentenmanagement) ist dieser Ansatz architektonisch verschwenderisch. Zudem variiert der durch RAG zusammengestellte Kontext mit der Abfrage, was die für eine effiziente KV-Cache-Nutzung erforderliche Stabilität verhindert.

2. Methodik: Die GROKERS-Architektur

GROKERS kehrt die Standard-Designentscheidung um, indem es Intelligenz von der Abfragezeit (Query Time) zur Schreibzeit (Write Time) verschiebt. Die Architektur basiert auf einem Typed Stream Graph, einem gerichteten Graphen aus typisierten Knoten mit strukturierten Feldern, typisierten Attributen und gewichteten typisierten Kanten, realisiert auf dem Magarshak Machine SPACER Substrat.

Kernmechanismen

Bottom-Up Inductive Comprehension: Autonome „Groker“-Agenten traversieren den Abhängigkeits-Subgraphen des Wissenssubstrats von den Blattknoten hin zu den Wurzelknoten. Sie extrahieren strukturierte Attribute über gesteuerte LM-Aufrufe und setzen Verständnis induktiv nach oben durch Abhängigkeitsrelationen zusammen.
Write-Time Enrichment: Anstatt zur Abfragezeit Kontext abzurufen, schreibt das System angereicherte typisierte Attribute direkt auf die Graphknoten. Diese Attribute dienen allen zukünftigen Abfragen ohne zusätzliche LM-Kosten.
Transaktionale Denormalisierung: Eine STREAMS CATEGORY-Tabelle pflegt einen Denormalisierungs-Index. Für jeden Knoten speichert sie die vollständige vor-gerankte Relationsnachbarschaft, die bei jeder Relationsänderung atomar aktualisiert wird. Dies bietet vollständigen Kontext in etwa 1 ms ohne Hintergrund-Jobs oder Eventual Consistency.
Deterministische Kontext-Assemblierung: Eine deterministische Funktion, buildCachedContext, rendert Knotenattribute und Nachbarschaftsdaten in strukturierten Text. Die Ordnung der Relationstypen ist fixiert (einzigartige Typen zuerst, dann nach maximalem Gewicht), wodurch der Output bei identischen Inputs byte-identisch ist.

Die Wisdom Library

Um die LM-Abhängigkeit weiter zu reduzieren, setzt GROKERS eine Wisdom Library ( $W$ ) ein, eine endliche Menge von sandboxed imperativen Programmen. Diese Programme handhaben spezifische Interaktionsmuster. Die Library wächst über drei Mechanismen:

Initiales Autorenschaft: LM-generierte Programme, die vor der Aktivierung überprüft werden.
Pattern Promotion: Groker-Analysen identifizieren ungedeckte Muster und schlagen neue Programme vor.
Evolutionäre Selektion: Programme mit geringer Fitness werden durch höherwertige Forks ersetzt.

3. Zentrale Beiträge und formale Eigenschaften

Das Paper präsentiert drei formal bewiesene Theoreme, welche die Effizienz und Korrektheit der GROKERS-Architektur etablieren:

A. Das Byte-Identitäts-Theorem

Behauptung: Aus dem transaktional gepflegten Denalisierungs-Index zusammengestellte Kontextblöcke sind zwischen semantischen Änderungen über LM-Turns hinweg byte-identisch.
Implikation: Dies ermöglicht KV-Cache-Hit-Raten, die sich 100 % nähern. Im Gegensatz zu RAG, wo die abgerufenen Chunks mit der Abfrage variieren, ist der GROKERS-Kontext deterministisch.
Kostenanalyse: Mit stabilem Prefix-Caching (z. B. Anthropics 10 % Preisgestaltung für Cache-Hits) erreicht GROKERS im Steady-State-Szenario eine bis zu 10-fache Reduktion der stabilen Prefix-Token-Kosten im Vergleich zu RAG.

B. Das Akkumulations-Monotonie-Theorem

Behauptung: Der Anteil der Interaktionen, die ohne LM-Aufrufe gelöst werden (die LM-Call Elimination Rate), ist über die Zeit nicht-sinkend, während die Wisdom Library unter einem gesteuerten Protokoll wächst.
Implikation: Die marginalen LM-Kosten pro Interaktion sind nicht steigend. Dies kontrastiert mit RAG, ReAct und LangChain, die konstante marginale LM-Kosten aufweisen.
Bedingung: Dies gilt unter der Annahme, dass neue Programme die Schema-Validierung und Fitness-Checks bestehen, bevor sie der Library beitreten, und dass Fitness ein zuverlässiger Proxy für Coverage ist.

C. Das Dual-Traversal-Ordering-Theorem

Behauptung: Für einen Abhängigkeits-DAG gibt es eindeutige korrekte Traversierungs-Orderings für distinkte Aufgaben:
- Bottom-Up (Blätter zuerst): Die einzige gültige Ordnung für korrekte Komprehension (Enrichment).
- Top-Down (Wurzeln zuerst): Die einzige gültige Ordnung für die kohärente Artefakt-Generierung.
Implikation: Diese Orderings sind die Umkehrungen voneinander. Der Output der Bottom-Up-Komprehensionsphase (angereicherte Attribute) wird zum byte-identischen, KV-gecashten Kontext für die nachfolgende Top-Down-Generierung, wodurch ein vollständiger Generierungs-Komprehensions-Zyklus geschlossen wird.

D. Deterministische Semantische Suche

Das Paper schlägt eine deterministische Alternative zur Embedding-basierten semantischen Suche mittels eines Synonym Caching Protocols vor.

Mechanismus: Keyword-Extraktion wird als First-Class-Observation behandelt. Abfragen werden via Stemming, Ontologie-Traversal und gecashten LM-Expansions erweitert.
Konvergenz: Für Finite-Vocabulary-Domänen konvergiert die LM-Fallback-Rate gegen Null, während der Synonym-Cache die Coverage akkumuliert, was die Akkumulations-Eigenschaft der Wisdom Library widerspiegelt.

4. Ergebnisse und Implementierung

Referenzimplementierung: Die Architektur ist im Open-Source Qbix / Safebox / Safebots Stack implementiert.
- Qbix: Liefert das Stream-Graph-Substrat und die transaktionale Denormalisierung.
- Safebox: Bietet die sandboxed Execution-Umgebung für die Wisdom Library und die gesteuerten Write-Pipelines.
- Safebots: Implementiert die Groker-Enrichment-Schicht, die Goal-Stream-Architektur und die Multi-Level-Summary-Trees.
Performance: Das System erreicht eine Kontext-Assemblierung in ~1 ms. Bei synchronen Interaktionen (wo die Intervalle zwischen semantischen Änderungen $T_c$ Stunden/Tage und die Turn-Intervalle $T_t$ Sekunden betragen), nähert sich die theoretische KV-Cache-Hit-Rate 100 %.

5. Bedeutung und Ansprüche

Das Paper behauptet, dass GROKERS eine formale Basis für Write-Time Intelligence darstellt, die eine strikt effizientere Alternative zur Query-Time Retrieval für strukturierte Wissensdomänen mit wiederkehrenden Interaktionsmustern ist.

Effizienz: Es bricht fundamental das Modell der konstanten Kosten bei LLM-Interaktionen, indem es die Komprehensionskosten zur Schreibzeit amortisiert und durch deterministischen Kontext eine nahezu perfekte KV-Cache-Nutzung ermöglicht.
Korrektheit: Es liefert formale Garantien auf Traversierungs-Ordering und Enrichment-Korrektheit, die in reaktiven LM-Tools (z. B. Copilot, Devin) und Standard-RAG-Systemen fehlen.
Skalierbarkeit: Durch die Nutzung der „Embarrassing Parallelism“ des zugrunde liegenden Substrats skaliert die Attribut-Anreicherung linear mit der Anzahl der Publisher, ohne Koordinations-Overhead.

Die Autoren positionieren diese Arbeit nicht als Ersatz für alle LLM-Anwendungen, sondern als spezialisierte, hocheffiziente Architektur für Domänen, in denen Wissen strukturiert ist, Abhängigkeiten azyklisch sind und Interaktionsmuster wiederkehren. Das Paper räumt Einschränkungen ein, einschließlich der Notwendigkeit endlicher Vokabulare für die Konvergenz des Synonym-Caches und der Annahme azyklischer Abhängigkeitsgraphen.