ContextNest: Verifiable Context Governance for Autonomous AI Agent
ContextNest (im Abstract als ContextNext bezeichnet) führt eine offene Spezifikation und eine Referenzimplementierung für verifizierbare Kontext-Governance ein, die unterhalb von Retrieval-Systemen angesiedelt ist, um sicherzustellen, dass KI-Agenten nur genehmigte, rückverfolgbare und auf Integrität geprüfte Informationen konsumieren, wodurch Provenienz- und Determinisierungsfehler adressiert werden, die durch die Qualität des Retrievals allein nicht gelöst werden können.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das Kernproblem: Der „selbstbewusste, aber falsche“ Agent
Stellen Sie sich vor, Sie stellen einen sehr klugen, schnellen Assistenten (einen KI-Agenten) ein, um Entscheidungen für Ihr Unternehmen zu treffen. Sie geben ihm eine Bibliothek von Dokumenten zum Lesen.
Das Problem ist nicht, dass der Assistent dumm ist; das Problem ist, dass die Bibliothek unordentlich ist.
- Die Verwechslung: Die Bibliothek enthält die aktuelle Richtlinie, aber sie enthält auch die alte Richtlinie von vor drei Jahren, die Entwurfs-Richtlinie, die nie genehmigt wurde, und eine gefälschte Richtlinie, die jemand eingeschleust hat.
- Der Fehler: Wenn Sie den Assistenten fragen: „Wie hoch ist die Reisekostenpauschale?“, findet er vielleicht das alte Dokument, in dem „50 $“ steht, anstatt des neuen Dokuments, in dem „200 $“ steht. Er antwortet selbstbewusst, weil der Text relevant aussieht, aber er gibt Ihnen veraltete oder falsche Informationen.
- Das Rätsel: Wenn Sie fragen: „Wie haben Sie das entschieden?“, kann der Assistent keine klare Antwort geben. Er kann nicht sagen: „Ich habe das Dokument vom 12. Juni gelesen, genehmigt von Sarah.“ Er sagt nur: „Ich habe einen Text gefunden, der übereinstimmte.“
Dies ist die Context Governance Gap (Lücke in der Kontext-Governance). Die KI weiß, wie man Text findet, aber sie weiß nicht, welcher Text sicher, aktuell und zur Verwendung zugelassen ist.
Die Lösung: ContextNest (Die „Qualitätskontroll“-Schicht)
Die Autoren schlagen ContextNest vor. Betrachten Sie dies nicht als eine neue Art der Suche, sondern als ein strenges Qualitätskontrolltor, das vor der KI platziert wird, bevor diese die Dokumente überhaupt sieht.
So funktioniert es, unter Verwendung einfacher Metaphern:
1. Die „typisierten“ Bibliothekskarten
In einer normalen Bibliothek ist ein Buch einfach ein Buch. In ContextNest hat jedes Dokument eine spezifische ID-Karte (einen „Typ“).
- Einige Karten sagen: „Dies ist ein Glossar“ (nur Definitionen).
- Einige sagen: „Dies ist eine Richtlinie“ (Regeln zu befolgen).
- Einige sagen: „Dies ist ein Entwurf“ (Noch nicht verwenden!).
Die KI ist so programmiert, dass sie alles ignoriert, was nicht die richtige ID-Karte besitzt. Sie wird nicht versehentlich eine Entwurfsrichtlinie lesen, als wäre sie ein Gesetz.
2. Das Tor für „Nur Genehmigte“
Stellen Sie sich einen Sicherheitsmann am Eingang der Bibliothek vor.
- Entwürfe werden in einem Wartezimmer festgehalten. Der Wachmann lässt die KI dort nicht hinein.
- Veröffentlichte Dokumente erhalten einen Grünen Stempel.
Die KI darf nur Dokumente mit dem Grünen Stempel lesen. Dies stellt sicher, dass die KI niemals Arbeiten in Bearbeitung oder ungenehmigte Ideen verwendet.
3. Die „Manipulationssichere“ Kette
Jedes Mal, wenn ein Dokument geändert wird, erhält es einen neuen digitalen Fingerabdruck (einen Hash).
- Wenn jemand versucht, den Text eines Dokuments nach der Genehmigung heimlich zu ändern, bricht der Fingerabdruck.
- Es ist wie ein Wachssiegel auf einem Brief. Wenn das Siegel gebrochen ist, wissen Sie, dass jemand ihn geöffnet hat.
- ContextNest verknüpft diese Fingerabdrücke in einer Kette. Wenn ein Glied der Kette bricht, ist die gesamte Kette ungültig. Dies beweist, dass das Dokument seit seiner Genehmigung nicht manipuliert wurde.
4. Die „Zeitreise“ (Checkpoints)
Stellen Sie sich vor, Sie müssen beweisen, welche Regeln an einem bestimmten Tag in der Vergangenheit galten (vielleicht für eine Prüfung).
- Normale Bibliotheken können das nicht einfach machen; sie zeigen nur das aktuelle Buch.
- ContextNest macht bei jeder Änderung eines Dokuments eine Momentaufnahme (einen Checkpoint).
- Wenn Sie fragen: „Was wusste die KI am 1. März?“, kann das System die Zeit zurückdrehen und Ihnen die exakte Version des Dokuments zeigen, die am 1. März existierte, bis auf das letzte Zeichen. Dies macht es unmöglich, die Historie zu fälschen.
5. Der „Beleg“ (Audit Trail)
Jedes Mal, wenn die KI ein Dokument liest, druckt sie automatisch einen Beleg.
- Der Beleg besagt: „Ich habe Dokument X, Version 3, genehmigt von Sarah, um 14:00 Uhr gelesen.“
- Wenn die KI später einen Fehler macht, können Sie den Beleg prüfen und genau sehen, welches Stück Information den Fehler verursacht hat. Sie können der KI nicht die Schuld für „Halluzinationen“ geben; Sie können sehen, dass ihr das falsche (oder alte) Dokument zugeführt wurde.
Wie es mit bestehender KI (RAG) zusammenarbeitet
Das Paper stellt klar: ContextNest ist kein Ersatz für die Suchmaschine der KI.
- RAG (Retrieval-Augmented Generation) ist wie ein Magnet. Er findet Dokumente, die Ihrem Suchbegriff ähnlich sehen. Er ist großartig darin, relevanten Text zu finden, aber er ist unordentlich.
- ContextNest ist wie ein Filter. Er sitzt vor dem Magneten.
- Der Filter sagt: „Lasse nur die genehmigten, aktuellen und verifizierten Dokumente passieren.“
- Der Magnet (RAG) sucht dann nur innerhalb dieses sicheren, gefilterten Stapels.
Das Ergebnis: Die KI erhält das Beste aus beiden Welten. Sie findet relevanten Text (dank des Magneten), ist aber garantiert sicher, dass sie die richtige Version dieses Textes verwendet (dank des Filters).
Was die Experimente zeigten
Die Autoren testeten dies mit zwei Hauptexperimenten:
Der „Veraltete Version“-Angriff: Sie erstellten ein Szenario, in dem die „alten“ Regeln mit den „neuen“ Regeln vermischt wurden.
- Ohne ContextNest: Die KI wählte oft die alten, falschen Regeln und gab selbstbewusste, aber falsche Antworten.
- Mit ContextNest: Die KI wählte die alten Regeln nie. Sie lieferte fast jedes Mal die richtige Antwort und verbrauchte weniger Rechenleistung (Tokens), da sie keinen Unrat durchsieben musste.
Der „Konsistenz“-Test: Sie stellten dieselbe Frage 20 Mal.
- Standard-Suche: Manchmal lieferte sie Dokument A, manchmal Dokument B, obwohl die Frage identisch war. Sie war unvorhersehbar.
- ContextNest: Sie lieferte jedes einzelne Mal exakt dasselbe Dokument. Sie ist vollkommen vorhersagbar.
Das Fazit
Das Paper argumentt, dass wir, wenn KI-Agenten beginnen, echte Entscheidungen zu treffen (wie die Genehmigung von Ausgaben oder das Schreiben von Code), uns nicht einfach darauf verlassen können, dass sie „schlau“ sind. Wir brauchen eine Governance-Schicht, die garantiert, dass die Informationen, die sie nutzen, sind:
- Genehmigt (durch einen Menschen).
- Aktuell (kein alter Entwurf).
- Manipulationssicher (geschützt).
- Rückverfolgbar (wir wissen genau, was sie gelesen haben).
ContextNest bietet die „Verkehrsregeln“ für das Wissen der KI und stellt sicher, dass eine KI, wenn sie handelt, auf einem Fundament der Wahrheit agiert und nicht nur auf einem Haufen zufälliger Texte.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.