💻 computer science

Cryptographic certificates of validity for trustworthy AI

Dieses Paper schlägt ein Framework für vertrauenswürdige agentische KI vor, indem es prägnante kryptografische Zertifikate generiert, die mathematisch beweisen, dass die Handlungen eines Agenten formal spezifizierte Richtlinien erfüllen, was eine unabhängige Verifizierung ohne erneute Ausführung oder Vertrauen in den Agenten ermöglicht.

Ursprüngliche Autoren: Murdoch J. Gabbay

Veröffentlicht 2026-06-24

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Murdoch J. Gabbay

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die Kernidee: Vertraue dem Beweis, nicht der Person

Stellen Sie sich vor, Sie engagieren einen Roboter, um für Sie einen Flug zu buchen. In der Vergangenheit haben wir Robotern (oder KI-Agenten) vertraut, weil wir wussten, wer sie gebaut hat, oder weil sie eine digitale Signatur hatten, die besagte: „Ich bin von Firma X“.

Aber was ist, wenn der Roboter fehlerhaft ist oder ein „Byzantinischer“ Roboter (ein schicker Begriff für einen Roboter, der sich seltsam oder bösartig verhalten könnte)? Eine Signatur beweist nur, wer die Nachricht gesendet hat, nicht ob die Nachricht korrekt oder sicher ist.

Murdoch Gabbays Arbeit schlägt einen neuen Weg vor, KI zu vertrauen: Anstatt der Identität des Roboters zu vertrauen, vertrauen wir einem kryptografischen Zertifikat, das beweist, dass die Handlung des Roboters den Regeln folgt.

Denken Sie an Folgendes:

Der alte Weg: Sie vertrauen einem Koch, weil er einen bestimmten Hut trägt und eine Lizenz hat. Sie hoffen, dass er die Suppe nicht vergiftet hat.
Der neue Weg: Der Koch überreicht Ihnen eine versiegelte, unzerbrechliche Quittung. Diese Quittung beweist mathematisch, dass die Suppe mit der richtigen Temperatur, den richtigen Zutaten gekocht wurde und kein Gift hinzugefügt wurde. Sie müssen nicht den Namen des Kochs kennen oder ihm beim Kochen zusehen; Sie prüfen einfach die Quittung.

Wie es funktioniert: Der „magische Übersetzer“

Die Arbeit beschreibt einen dreistufigen Prozess zur Erstellung dieser Quittungen.

1. Die Regeln schreiben (Das „Gesetz“)

Zuerst nehmen wir die Regeln, denen die KI folgen soll (z. B. „Gib niemals mehr als 500 $ aus“ oder „Fliege nur in Länder mit einer Reisewarnung“) und schreiben sie in einer strengen mathematischen Sprache namens Logik auf.

Analogie: Stellen Sie sich vor, Sie schreiben die Regeln eines Brettspiels in einer Sprache, die ein Computer perfekt verstehen kann, sodass kein Raum für „vielleicht“ oder „ich denke“ bleibt.

2. Die Übersetzung (Der „Compiler“)

Als Nächstes verwenden wir ein spezielles Werkzeug (einen Compiler), um diese logischen Regeln in ein Mathematik-Rätsel zu übersetzen.

Der Zauber: Die Arbeit erklärt einen cleveren Trick, bei dem „Wahr“ zur Zahl 0 wird und „Falsch“ zu einer positiven Zahl wird.
Analogie: Stellen Sie sich eine Waage vor. Wenn die KI die Regeln befolgt hat, balanciert die Waage perfekt bei Null. Wenn die KI eine Regel gebrochen hat, kippt die Waage und zeigt eine schwere, positive Zahl an. Das Ziel ist es, zu beweisen, dass die Waage bei Null steht.

3. Das Zertifikat (Die „Quittung“)

Die KI (oder ein Helfer) löst das Mathematik-Rätsel und generiert einen winzigen, kryptografischen Beweis. Dieser Beweis besagt: „Ich habe eine geheime Lösung, die die Waage bei Null ausbalanciert.“

Der coole Teil: Ein Verifizierer (die Person, die die KI prüft) kann sich diesen winzigen Beweis ansehen und sofort wissen, dass die Regeln befolgt wurden. Er muss nicht die privaten Gedanken der KI sehen, er muss nicht die gesamte Berechnung erneut durchführen und er muss der KI nicht vertrauen. Er prüft einfach die Mathematik.

Ein konkretes Beispiel: Die Macht von Zwei

Die Arbeit verwendet ein einfaches Beispiel der Berechnung von $2^2$ (2 hoch 2), um zu zeigen, wie dies funktioniert.

Stellen Sie sich vor, die KI behauptet: „Ich habe $2^2 = 4$ berechnet.“
Um zu beweisen, dass dies keine Lüge ist, sagt die KI nicht einfach „4“. Sie liefert einen Ableitungsbaum (eine Schritt-für-Schritt-Historie):

Schritt 1: $2^0 = 1$ (Der Ausgangspunkt).
Schritt 2: $2^1 = 2$ (Basierend auf Schritt 1).
Schritt 3: $2^2 = 4$ (Basierend auf Schritt 2).

Das kryptografische Zertifikat beweist, dass diese Schritte korrekt miteinander verknüpft sind. Wenn die KI versuchen würde, einen Schritt zu überspringen oder eine Zahl zu ändern, würde das Mathematik-Rätsel fehlschlagen und das Zertifikat wäre ungültig.

Warum dies für KI-Agenten wichtig ist

Die Arbeit argumentiert, dass wir, wenn KI-Agenten beginnen, reale Dinge zu tun (Flüge buchen, Rechnungen genehmigen, Code bereitstellen), einen Weg benötigen, um ihre Handlungen zu verifizieren, bevor sie geschehen, und nicht erst im Nachhinein Protokolle (Logs) prüfen.

Kein erneutes Ausführen: Das Überprüfen des Zertifikats geht schnell. Sie müssen die Arbeit der KI nicht noch einmal nachholen.
Privatsphäre: Durch die Nutzung von „Zero-Knowledge“-Funktionen kann die KI beweisen, dass sie die Regeln befolgt hat, ohne ihre privaten Daten (wie Ihre Kreditkartennummer oder geheime Strategien) preiszugeben.
Kein blindes Vertrauen: Sie müssen nicht dem Entwickler der KI vertrauen. Sie vertrauen nur der Mathematik.

Was dieses Papier NICHT tut (Wichtige Grenzen)

Der Autor ist sehr sorgfältig darin, festzustellen, was diese Technologie nicht kann:

Sie schreibt die Regeln nicht für Sie. Das Zertifikat beweist, dass die KI die Regeln befolgt hat, die Sie ihr gegeben haben. Wenn Sie eine schlechte Regel geschrieben haben (z. B. „Gib alles Geld aus“), wird das Zertifikat beweisen, dass die KI dieser schlechten Regel perfekt gefolgt ist.
Es garantiert keine Sicherheit. Es garantiert lediglich, dass die spezifische mathematische Bedingung erfüllt wurde. Es beweist nicht, dass die Bedingung selbst klug, ethisch oder sicher war.
Es ersetzt keine menschliche Aufsicht. Menschen müssen immer noch entscheiden, wie die Regeln lauten sollten, und das System auditieren.

Zusammenfassung

Dieses Papier schlägt ein System der „Proof-Carrying Action“ (beweisgestützte Handlung) für KI vor. Genau wie ein Autofahrer einen Führerschein bei sich tragen kann, um zu beweisen, dass er fahren darf, würde ein KI-Agent ein kryptografisches Zertifikat bei sich tragen, um zu beweisen, dass seine Handlung korrekt ist.

Es schlägt die Brücke zwischen formaler Logik (den Regeln) und Kryptografie (dem Beweis) und ermöglicht es uns, zu verifizieren, dass sich eine KI korrekt verhält, ohne der KI vertrauen oder ihre privaten Daten sehen zu müssen. Es ist eine Art zu sagen: „Ich vertraue dir nicht, aber ich vertraue der Mathematik, die du mir gerade übergeben hast.“

Basierend auf dem bereitgestellten Text folgt hier eine detaillierte technische Zusammenfassung der Arbeit „Cryptographic certificates of validity for trustworthy AI“ von Murdoch J. Gabbay.

Problemstellung

Da KI-Systeme von der Erstellung von Empfehlungen zum Ausführen autonomer Aktionen übergehen (z. B. Flugbuchungen, Genehmigung von Rechnungen, Deployment von Code), werden traditionelle Sicherungsmechanismen unzureichend. Kryptografische Signaturen authentifizieren den Ursprung einer Nachricht, können aber nicht im Voraus beweisen, dass eine Aktion bestimmte Korrektheits-, Sicherheits- oder Compliance-Bedingungen erfüllt. Ebenso kann eine retrospektive Protokollierung (Logging) Richtlinienverstöße nicht verhindern, bevor sie auftreten. Die Arbeit adressiert die Notwendigkeit eines Mechanismuss, der unabhängig überprüfbare Evidenz liefert, dass die Aktion eines Agenten eine vereinbarte formale Richtlinie erfüllt, bevor die Aktion akzeptiert wird, ohne dass der Verifizierer die interne Implementierung des Agenten vertrauen oder dessen Berechnung erneut ausführen muss.

Methodik

Die Arbeit schlägt ein Framework für die Generierung von kryptografischen Gültigkeitszertifikaten vor, indem sie formale Logik und prägnante kryptografische Beweise miteinander verbindet. Die Methodik folgt einer dreistufigen Pipeline:

Formale Spezifikation: Die relevante Richtlinie oder Korrektheitsbedingung wird als logisches Prädikat in einer spezifischen Prädikatenlogik erster Stufe ausgedrückt.
Arithmetisierung: Dieses Prädikat wird in ein Witness-Prüfungsproblem über polynomielle Constraints kompiliert. Der zentrale mathematische Beitrag ist eine Übersetzung der Gültigkeit der Logik erster Stufe in Beurteilungen von polynomiellem Constraints, wobei:
- Wahrheit (Gültigkeit) durch den Wert 0 repräsentiert wird.
- Falschheit (Ungültigkeit) durch einen strikt positiven Wert repräsentiert wird.
- Logische Junktoren auf algebraische Operationen abgebildet werden:
  - Gleichheit ( $t=t'$ ) bildet auf $(t-t')^2$ ab.
  - Konjunktion ( $\phi \land \psi$ ) bildet auf die Summe $[\phi] + [\psi]$ ab.
  - Disjunktion ( $\phi \lor \psi$ ) bildet auf das Produkt $[\phi] \times [\psi]$ ab.
  - Universelle Quantifizierung über einen Bereich wird auf eine Summation über diesen Bereich abgebildet.
- Rekursion und induktive Definitionen (z. B. Exponentiation) werden kodiert, indem die Struktur der Witness-Daten als Matrizen aufgebaut werden, deren Spalten die Ableitungsschritte repräsentieren, wobei Pointer in einer dedizierten Zeile sicherstellen, dass die rekursive Struktur wohldefiniert ist.
Kryptografische Zertifizierung: Der Agent (oder ein assoziierter Prover) generiert einen prägnanten kryptografischen Beweis (potenziell Zero-Knowledge), der demonstriert, dass die aus der Richtlinie abgeleiteten polynomiellem Constraints durch die spezifischen Aktionsdaten erfüllt sind.

Der Verifizierungsprozess besteht darin, dass der Verifizierer den Beweis gegen einen öffentlichen Schlüssel und Parameter prüft. Wenn der Beweis verifiziert wird, akzeptiert das System, dass die Aktion das formale Prädikat erfüllt, ohne die privaten Witness-Daten des Agenten inspizieren oder die Berechnung erneut durchlaufen zu müssen.

Zentrale Beiträge

Mathematische Übersetzung: Die Arbeit liefert eine kompakte, anwendungsagnostische Arithmetisierung der Gültigkeit der Logik erster Stufe in polynomielle Constraints (Definitionen 2.3–2.7, Theorem 2.9). Sie zeigt auf, wie komplexe logische Strukturen, einschließlich Rekursion und induktiver Ableitungen, in algebraische Relationen kodiert werden können, die für kryptografische Backends geeignet sind.
Proof-Carrying Agent Actions: Sie konzeptualisiert Agentenaktionen als „beweistragend“ (proof-carrying) in einem spezifischen kryptografischen Sinne. Im Gegensatz zu Proof-Carrying Code (PCC), der oft die Inspektion des Quellcodes erfordert, ermöglicht dieser Ansatz nicht vertrauenswürdigen, potenziell Black-Box-basierten Agenten die Bereitstellung von prägnanter Evidenz für die Compliance.
Integration mit bestehender Technologie: Das Framework ist darauf ausgelegt, mit bestehenden Systemen für prägnante Argumente (z. B. SNARKs, zkVMs wie Cairo oder RISC0) und Polynomial Commitment Schemes (z. B. Halo2, Zinc) zu interagieren. Es positioniert die vorgeschlagene Logik als eine High-Level-Spezifikationsebene, die auf diese kryptografischen Primitiven herunterkompiliert wird.
Abgrenzung zur Laufzeitverifikation: Der Ansatz unterscheidet sich von der Laufzeitverifikation dadurch, dass er ein präventives, prägnantes Zertifikat statt eines retrospektiven Traces liefert, und er unterscheidet sich von Standard-PCC dadurch, dass er nicht verlangt, dass das interne Design des Agenten offen oder vertrauenswürdig ist, sondern nur, dass er das Zertifikat erzeugen kann.

Ergebnisse und Beispiele

Die Arbeit validiert den Ansatz durch theoretische Beispiele statt durch empirische Benchmarks:

Basislogik: Sie demonstriert, wie Wahrheitswerte, Gleichheit, Konjunktion, Disjunktion und Bereichsprüfungen als Polynome kodiert werden, die genau dann die Null auswerten, wenn die Bedingung erfüllt ist.
Rekursive Berechnung: Ein detailliertes Beispiel kodiert die induktive Definition der Exponentiation ( $a^b$ ). Die Arbeit zeigt, wie eine Matrix von Witness-Daten einen Ableitungsbaum kodieren kann, bei dem die Zeilen 1–3 Eingabe-/Ausgabewerte speichern und Zeile 4 Pointer auf vorherige Schritte enthält. Das Gültigkeitsprädikat stellt sicher, dass diese Pointer eine wohldefinierte rekursive Struktur bilden.
Robustheit: Die Arbeit stellt fest, dass eine Matrix zwar korrekte Eingabe-/Ausgabewerte enthalten kann, aber das Gültigkeitsprädikat scheitern könnte, wenn die „beweistragende“ Struktur (die Pointer) fehlt oder fehlerhaft ist. Dies illustriert, dass das Zertifikat die Ableitung des Ergebnisses validiert, nicht nur das Ergebnis selbst.

Bedeutung und Umfang

Die Arbeit positioniert diese Arbeit als einen „Mittelweg“ zwischen der formalen Verifikation von Quellcode und kryptografischer Authentifizierung. Ihre primäre Bedeutung liegt in der Bereitstellung eines kryptografischen Analogons zu Proof-Carrying Code für agentische KI-Systeme.

Der Autor weist explizit auf die Einschränkungen und den Umfang des Vorschlags hin:

Umfang: Die mathematische Architektur ist allgemein und auf jeden Bereich anwendbar, in dem nicht vertrauenswürdige Parteien nachweisbare Evidenz der Korrektheit liefern müssen. Die spezifische Anwendung auf KI-Agenten wurde gewählt, da autonome Aktionen einen dringenden Bedarf an präventiver Absicherung schaffen.
Einschränkungen: Ein Zertifikat der Gültigkeit beweist, dass eine formale Spezifikation erfüllt wurde. Es beweist nicht, dass die formale Spezifikation selbst die „richtige“ ist (d. h. dass sie Sicherheit, Rechtmäßigkeit oder ethische Anforderungen korrekt erfasst). Die Arbeit betont, dass die Schließung der Lücke zwischen formalen Prädikaten und realer Sicherheit Governance, Audits und Risikomanagementprozesse erfordert (unter Bezugnahme auf NIST-Frameworks), welche nicht allein durch Mathematik oder Kryptografie gelöst werden können.
Zukünftige Arbeit: Die Arbeit identifiziert den Bedarf an praktischen Implementierungsdetails, einschließlich Compilerdesign, Benchmarking der Beweiskosten und der Etablierung von Governance für die Autorenschaft und Prüfung von Richtlinien.

Zusammenfassend lässt sich sagen, dass die Arbeit ein theoretisches und mathematisches Fundament für die Anbindung von prägnanten, kryptografisch verifizierbaren Beweisen der Richtlinienkonformität an KI-Agentenaktionen vorschlägt und damit das Vertrauensmodell von „Vertrauen in den Ursprung“ zu „Vertrauen in die Evidenz“ verschiebt.