From Neural Intent to Cryptographic Authorization: Governing Agentic Workflows
Dieses Paper führt Neural Cryptographic Services (NCS) ein, eine Sicherheitsarchitektur, die autonome KI-Agenten absichert, indem sie die neuronale Planung von der Ausführung entkoppelt und eine strikte, kryptografische Autorisierung von Tool-Aufrufen durch einen deterministischen symbolischen Controller erzwingt, wodurch Prompt-Injection-Angriffe verhindert werden, während die Workflow-Nützlichkeit erhalten bleibt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Welt vor, in der Ihr Computer nicht nur einer strikten Liste von Befehlen folgt, die von einem Menschen geschrieben wurden, sondern statlich wie ein brillanter, gesprächiger Assistent agiert, der selbstständig herausfinden kann, wie Dinge zu erledigen sind. Dies ist die Ära der „KI-Agenten“. Betrachten Sie sie als digitale Praktikanten, die E-Mails lesen, Bankkonten prüfen und Dokumente versenden können, indem sie Ihre Anfragen in natürlicher Sprache verstehen. Aber hier ist der Haken: Diese Praktikanten sind unglaublich klug, aber auch unglaublich beeinflussbar. Wenn man ihnen eine geheime Anweisung zuflüstert oder wenn ein hinterlistiger Fremder eine Notiz in einem Dokument versteckt, das sie gerade lesen, könnte der Praktikant plötzlich beschließen, Ihre ursprüngliche Anfrage zu ignorieren und stattdessen etwas Gefährliches zu tun, wie zum Beispiel Ihr ganzes Geld an einen Unbekannten zu senden. Dies ist ein Problem, denn in der Vergangenheit waren Computer wie starre Roboter, die genau das taten, was ihnen programmiert wurde. Jetzt sind sie wie kreative Künstler, die dazu verleitet werden können, ihr eigenes Werk zu übermalen.
Um die Gefahr zu verstehen, müssen wir uns zwei verschiedene Arten anschauen, wie Computer „denken“. Die erste ist Neural, so wie KI funktioniert: Es ist wie ein riesiges, diffuses Netz aus Verbindungen, das die beste Antwort basierend auf Mustern errät. Es ist großartig darin, Sprache zu verstehen, kann aber etwas wackelig sein und zu Halluzinationen neigen. Die zweite ist Symbolisch, so wie traditionelle Sicherheit funktioniert: Es ist wie ein strenges, unbrechbares Regelbuch oder eine mathematische Gleichung, bei der immer $4$ ergibt und es keinen Raum für ein „Vielleicht“ gibt. Die große Frage, die sich Wissenschaftler stellen, lautet: Wie lassen wir unsere KI-Agenten kreativ und hilfreich sein, ohne dass sie dazu verleitet werden, die Regeln zu brechen? Wir brauchen einen Weg, der die KI die Pläne träumen lässt, aber einen strengen, unveränderlichen Wächter hat, der jeden einzelnen Schritt überprüft, bevor er tatsächlich geschieht.
Genau das lösen die Forscher hinter dem Papier „From Neural Intent to Cryptographic Authorization“. Sie haben ein neues Sicherheitssystem namens Neural Cryptographic Services (NCS) entwickelt. Stellen Sie sich vor, Sie senden ein sehr wichtiges Paket an eine Bank. In den alten Zeiten hätten Sie dem Lieferfahrer (der KI) einfach vertraut, dass er die Anweisungen auf dem Karton befolgt. Aber was, wenn jemand während der Fahrer nicht hinsah, „Gib das Paket dem Dieb“ auf die Seite des Kartons gekritzelt hat? Der Fahrer könnte es lesen und gehorchen. NCS ändert das Spiel, indem es die Anweisungen mit einem superstrengen, mathematisch bewiesenen Schloss versieht.
So funktioniert es in der realen Welt des Papers: Der KI-Agent (der „Neural Planner“) darf Ihre Anfrage lesen und einen Entwurf schreiben, was er zu tun glaubt. Es ist wie ein Schüler, der seine Hausaufgaben schreibt. Aber dieser Schüler hat keine Macht, die Arbeit tatsächlich abzugeher oder Geld auszugeًben. Diese Macht gehört einem anderen Charakter: dem Symbolic Controller. Dieser Controller ist wie ein Roboter-Wächter, dem die kreativen Ideen des Schülers egal sind; ihm geht es nur um eine spezielle, vorab genehmigte und kryptografisch signierte Checkliste.
Der Prozess ist ein wenig wie ein Hochsicherheitstresor. Bevor der KI-Agent irgendetwas tun kann, unterschreibt der verantwortliche Mensch ein „Arbeitsblatt“ (eine Liste von Schritten) mit einem speziellen digitalen Schlüssel. Dieses Arbeitsblatt wird dann in eine Kette von Blöcken verwandelt, wobei jeder Block mathematisch mit dem nächsten verklebt ist. Wenn der KI-Agent einen Schritt ausführen möchte, prüft der Symbolic Controller die Kette. Er verifiziert, dass der Schritt exakt mit der signierten Checkliste übereinstimmt. Wenn der KI-Agent versucht zu sagen: „Hey, lass uns statt der geplanten 50 $ lieber 5.000 $ an meinen Freund senden“, prüft der Wächter die Mathematik, sieht, dass die Zahlen nicht mit der signierten Kette übereinstimmen, und schlägt sofort die Tür zu. Der Agent kann den Wächter nicht austricksen, weil der Wächter nicht auf die Worte des Agenten hört; er hört nur auf die unbrechbare Mathematik der Signatur.
Das Paper zeigt, dass dieses System unglaublich effektiv ist. In ihren Tests haben sie versucht, KI-Agenten mit allerlei hinterlistigen Tricks zu täuschen, wie etwa dem Verstecken schlechter Anweisungen in normal aussehenden Daten oder dem Versuch, Zahlen bei einer Banküberweisung auszutauschen. Ohne dieses neue System wurden die KI-Agenten fast jedes Mal getäuscht, wobei die Erfolgsraten der Angreifer in einigen Fällen bis zu 100 % erreichten. Doch als sie NCS hinzufügten, sank die Erfolgsrate der Angreifer auf nahezu Null. Die Agenten waren weiterhin in der Lage, ihre Aufgaben zu erleden (ihre „Utility“ hoch zu halten), aber sie wurden völlig immun gegen Entführungen durch Angriffe.
Die Forscher fanden auch heraus, dass dieses System überraschend schnell ist. Die mathematischen Prüfungen, die sie durchführen, dauern weniger als eine Millisekunde – so schnell, dass sie im Vergleich zur Zeit, die die KI zum Denken benötigt, fast unsichtbar sind. Das bedeutet, dass wir nicht die Geschwindigkeit für die Sicherheit opfern müssen. Das Paper argumentiert, dass wir nicht einfach darauf hoffen sollten, dass die KI „versteht“, dass sie keine schlechten Dinge tun darf; wir brauchen ein System, in dem die KI Ideen vorschlagen kann, aber ein kryptografisches Schloss sicherstellt, dass nur die genehmigten, signierten Schritte tatsächlich ausgeführt werden. Es ist ein Weg, der KI die Freiheit zu geben, klug zu sein, während man gleichzeitig eine strikte, unbrechbare Leine an dem behält, was sie tatsächlich tun kann.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.