Runtime Compliance Verification for AI Agents
Dieses Paper stellt C-Trace vor, ein Runtime-Verification-Framework, das die Einhaltung der DSGVO für KI-Agenten durch das Ausdrücken regulatorischer Anforderungen als formale Prädikate erzwingt, Ausführungstraces überwacht, um nicht konforme Aktionen zu blockieren, und eine hohe Effektivität bei der Abwehr von angriffsbedingten Verstößen in mehreren Fallstudien demonstriert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie stellen einen hochintelligenten, gesprächigen persönlichen Assistenten ein, der Ihnen hilft, Ihr Leben zu managen. Dieser Assistent kann Telefonate führen, E-Mails versenden, Ihre Bankdaten abrufen und sogar Ihre Datensätze löschen. Da dieser Assistent jedoch von einer KI betrieben wird, „kennt“ er nicht immer die Regeln des Datenschutzes. Er könnte versehentlich einem Fremden Ihre Adresse verraten oder Ihnen Marketing-E-Mails senden, obwohl Sie nie „Ja“ gesagt haben.
Dieses Paper stellt ein System namens C-Trace (Compliance Trace-based Runtime Agent Conformance Enforcement) vor. Betrachten Sie C-Trace nicht als einen neuen Assistenten, sondern als einen strengen, extrem wachsamen Sicherheitswachmann, der direkt neben dem KI-Assistenten steht, jedes einzelne Wort beobachtet, das er sagt, und jede Aktion überwacht, die er ausführt.
So funktioniert das System, aufgeschlüsselt in einfache Konzepte:
1. Das Problem: Der „vergessliche“ Assistent
Aktuelle Methoden, um diese KI-Assistenten zu testen, sind wie eine Pop-Quiz-Prüfung bevor sie mit der Arbeit beginnen. Man fragt sie: „Wirst du dich an die Regeln halten?“ und sie sagen „Ja“. Aber sobald sie tatsächlich arbeiten und mit echten Menschen sprechen, können sie diese Regeln vergessen.
- Das Problem: Eine KI kann in einem Gespräch regelkonform sein, aber im nächsten gegen die Regeln verstoßen, je nachdem, was der Nutzer sie fragt.
- Die Lücke: Bestehende Sicherheitstools sind wie Türsteher, die nur beim Einlass den Ausweis kontrollieren (statische Prüfungen). Sie wissen nicht, ob die Person bereits versprochen hat, die Party früher am Abend zu verlassen. Sie übersehen den Kontext des gesamten Gesprächs.
2. Die Lösung: Der „Sicherheitswachmann“ (C-Trace)
C-Trace sitzt zwischen der KI und der Außenwelt. Es beobachtet den gesamten Gesprächsverlauf (den „Trace“), während er stattfindet. Es betrachtet nicht nur einen einzelnen Satz; es erinnert sich an die ganze Geschichte.
Es erzwingt vier Haupt-„Datenschutzgesetze“ (basierend auf der DSGVO), indem es als Filter fungiert:
- Die „Einwilligungs“-Prüfung (P1): Bevor die KI etwas tun darf, wie zum Beispiel eine Marketing-E-Mail zu versenden, prüft der Wachmann: „Hat der Nutzer zuvor explizit ‚Ja‘ zu diesem Thema gesagt?“ Wenn der Nutzer nur sagte: „Ich störe mich wohl nicht daran“, aber nie ein formelles „Ja“ angeklickt hat, stoppt der Wachmann die Aktion.
- Die „Zweckbindungs“-Prüfung (P2): Die KI wurde für eine bestimmte Aufgabe eingestellt, zum Beispiel um eine fehlerhafte Bestellung zu korrigieren. Wenn der Nutzer die KI bittet, die Daten dieser Bestellung zu verwenden, um ein Profil für ein anderes Unternehmen zu erstellen, sagt der Wachmann: „Nein, das ist ein anderer Job. Dafür wurdest du nicht eingestellt.“
- Die „Datenminimierungs“-Prüfung (P3): Wenn die KI eine Bestellung prüfen muss, benötigt sie nur die Bestellnummer und die E-Mail-Adresse. Wenn die KI versucht, das Geburtsdatum oder die staatliche ID des Nutzers abzurufen, nur um eine Bestellung zu prüfen, sagt der Wachmann: „Das sind zu viele Informationen. Du benötigst nur die Grundlagen.“
- Die „Löschungs“-Prüfung (P4): Wenn ein Nutzer sagt: „Lösche meine Daten“, markiert der Wachmann diesen Nutzer als „gelöscht“. Wenn die KI später versucht, wieder über diesen Nutzer zu sprechen, schlägt der Wachmann die Tür zu: „Diese Person existiert in unserem System nicht mehr. Du darfst sie nicht erwähnen.“
3. Wie sie es getestet haben: Das „Cat and Mouse“-Spiel
Um zu sehen, ob dieser Sicherheitswachmann tatsächlich funktioniert, spielten die Forscher ein „Katze-und-Maus“-Spiel.
- Die Angreifer: Sie verwendeten ein spezielles Programm (DSPy), um hunderte von kniffligen, verwirrenden oder aggressiven Gesprächen zu generieren, die darauf ausgelegt waren, die KI dazu zu bringen, die Regeln zu brechen. Sie nutzten auch reale „Jailbreak“-Prompts aus anderen Sicherheitstests.
- Der Test: Sie ließen die KI versuchen, diese schwierigen Gespräche mit und ohne den Sicherheitswachmann zu bewältigen.
- Das Ergebnis: Ohne den Wachmann verstieß die KI ständig gegen die Regeln (manchmal 100 % der Zeit). Mit dem C-Trace-Wächter wurde die KI fast jedes Mal gestoppt. Selbst wenn der Wachmann die Daten in einem Satz „erraten“ musste (da es schwierig ist, menschliche Sprache perfekt zu lesen), fing er die überwiegende Mehrheit der Verstöße ab.
4. Die „Drei-Köpfe-Verifizierung“
Um sicherzustellen, dass der Wachmann nicht einfach etwas erfindet, bauten die Forscher dasselbe Regelwerk in drei verschiedenen Sprachen nach (Python-Code, eine Policiesprache namens Rego und eine Logiksprache namens MFOTL).
- Die Analogie: Stellen Sie sich drei verschiedene Richter vor, die dasselbe Skript lesen. Wenn alle drei darüber entscheiden, wer schuldig ist, wissen Sie, dass das Urteil fundiert ist. In diesem Paper stimmten alle drei „Richter“ bei jedem einzelnen Testfall perfekt überein.
5. Das Fazit
Das Paper behauptet, dass C-Trace funktioniert.
- Es verhindert, dass die KI in Echtzeit gegen Datenschutzregeln verstößt.
- Es verlangsamt die KI nicht signifikant (es fügt nur einen winzigen Bruchteil einer Sekunde hinzu).
- Es erstellt ein dauerhaftes „Audit-Log“ (ein schriftliches Protokoll) jeder Entscheidung, die der Wachmann getroffen hat, damit Menschen sie später überprüfen können.
Kurz gesagt: Wenn Sie einen KI-Assistenten haben, der mit sensiblen Daten arbeitet, ist C-Trace das System, das sicherstellt, dass er nicht versehentlich Ihre Geheimnisse verrät, Ihre Daten an die falschen Leute verkauft oder Ihre Bitte, vergessen zu werden, ignoriert, indem es jede Bewegung beobachtet und ihn in dem Moment stoppt, in dem er versucht, gegen die Regeln zu verstoßen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.