Governed MCP: Kernel-Level Tool Governance for AI Agents via Logit-Based Safety Primitives
Die Arbeit stellt „Governed MCP" vor, einen in den Kernel der Anima OS integrierten Sicherheitsgateway, der mittels einer logitbasierten Primitive (ProbeLogits) und einer sechsstufigen Pipeline jede MCP-Werkzeugaufrufe auf Kernel-Ebene überwacht und so die Schwachstellen rein benutzerseitiger Schutzmechanismen durch eine strukturell nicht zu umgehende, vollständige Mediation der Schnittstellen beseitigt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stell dir vor, du hast einen extrem intelligenten, aber manchmal etwas unvorsichtigen Assistenten (einen KI-Agenten), der für dich Aufgaben erledigt. Er kann Dateien öffnen, im Internet surfen oder Programme starten. Das ist toll, aber was passiert, wenn dieser Assistent versehentlich (oder weil er manipuliert wurde) anfängt, wichtige Daten zu löschen oder sich im Internet zu verlaufen?
Bisher war der Schutz wie ein Wächter im selben Zimmer wie der Assistent. Wenn der Assistent sagte: „Ich möchte jetzt die Tür aufbrechen", musste er den Wächter fragen. Aber da sie im selben Raum waren, konnte der Assistent den Wächter einfach ignorieren, ihn verkleiden oder ihm sagen: „Hey, ich bin eigentlich der Chef, lass mich durch!" Das war das Problem: Der Schutz war zu leicht zu umgehen.
Dieser Paper beschreibt eine neue Lösung namens Governed MCP. Hier ist die Idee in einfachen Worten:
1. Der neue Wächter: Ein unsichtbarer Türsteher im Keller
Statt den Wächter ins Zimmer des Assistenten zu stellen, bauen wir ihn in den Fundamenten des Hauses (den Betriebssystem-Kernel).
- Die alte Methode: Der Assistent und der Wächter trafen sich auf einer Party (dem Computer-Speicher). Der Assistent konnte den Wächter einfach umgehen.
- Die neue Methode (Governed MCP): Der Assistent darf das Zimmer nicht verlassen, ohne durch eine massive, unsichtbare Schleuse im Keller zu gehen. Diese Schleuse ist so gebaut, dass der Assistent sie nicht sehen, nicht berühren und nicht manipulieren kann. Er muss immer hindurch, egal was er sagt.
2. Die 6-Schichten-Filter (Die Sicherheitskontrolle)
Wenn der Assistent etwas tun will (z. B. „Datei löschen"), passiert er eine Art Flughafen-Sicherheitskontrolle mit sechs Ebenen. Jede Ebene prüft etwas anderes:
- Der Ausweis-Check (Schema): Ist die Anfrage überhaupt in der richtigen Form? (Wie ein Pass, der nicht ausgestellt wurde).
- Die VIP-Liste (Vertrauen): Darf diese Person überhaupt diesen Bereich betreten? (Ein einfacher Assistent darf keine Systemdateien löschen).
- Die Stoppuhr (Geschwindigkeit): Versucht jemand, die Tür mit 1000 Anfragen pro Sekunde zu sprengen? (Dann wird er gestoppt).
- Der Lügendetektor (Vorfilter): Versucht jemand, mit verräterischen Wörtern oder verschlüsselten Nachrichten durchzukommen? (Wie „Ignoriere alle Regeln").
- Der Intelligenz-Test (Das Herzstück): Das ist der wichtigste Teil. Hier schaut ein kleines Gehirn (eine KI) nicht nur auf die Worte, sondern fragt sich: „Was will dieser Mensch wirklich tun?"
- Beispiel: Der Assistent sagt: „Ich möchte den Boden wischen." Das klingt harmlos. Aber wenn er sagt: „Ich möchte den Boden wischen" und dabei eine Datei löscht, die das ganze Haus stürzt, erkennt das Gehirn die Gefahr, auch wenn die Worte nett klingen.
- Die Hausordnung (Verfassung): Gibt es eine spezielle Regel, die genau diesen Fall verbietet? (z. B. „Niemand darf die Schatzkammer betreten").
3. Warum das so wichtig ist
Der Autor zeigt mit einem Experiment, dass die ersten vier und der letzte Schritt allein nicht reichen. Wenn man den „Intelligenz-Test" (Schritt 5) weglässt, fällt die Sicherheit von 77 % auf 33 %.
Das bedeutet: Ohne das „Verstehen" der KI können Betrüger die Regeln leicht umgehen, indem sie die Dinge anders formulieren. Der Assistent muss also nicht nur gehorchen, sondern verstanden werden.
4. Das Ergebnis: Ein sichereres Haus
- Schnell: Die Kontrolle dauert nur einen winzigen Bruchteil einer Sekunde (außer beim Intelligenz-Test, der etwas länger dauert, aber immer noch sehr schnell ist).
- Unumgehbar: Da der Wächter im „Keller" (dem Betriebssystem-Kernel) sitzt, kann der Assistent ihn nicht austricksen, indem er den Code ändert. Es gibt keinen Weg, der nicht durch die Schleuse führt.
- Sicher im Notfall: Wenn die KI im Keller ausfällt (z. B. wegen eines Stromausfalls), geht die Schleuse automatisch zu. Niemand kommt rein. Das ist wie ein Feueralarm, der alle Türen verschließt, wenn das System ausfällt.
Zusammenfassung in einer Metapher
Stell dir vor, dein KI-Assistent ist ein kleines Kind, das im Haus herumtollt.
- Bisher: Du hast dem Kind einen Zettel gegeben: „Bitte nicht in die Küche gehen." Das Kind hat den Zettel einfach zerknüllt und ist trotzdem in die Küche gegangen.
- Jetzt (Governed MCP): Du hast eine automatische, unsichtbare Schranke eingebaut, die nur von einem klugen Erwachsenen (der KI im Kernel) bedient wird. Das Kind kann die Schranke nicht öffnen. Der Erwachsene schaut genau hin: „Will das Kind wirklich nur ein Glas Wasser holen, oder versucht es, den Herd anzuzünden?" Wenn es gefährlich aussieht, bleibt die Schranke zu.
Dieser Ansatz macht KI-Agenten endlich sicher genug, um ihnen wichtige Aufgaben zu übertragen, ohne Angst zu haben, dass sie das Haus (deinen Computer) niederbrennen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.