BodhiPromptShield: Pre-Inference Prompt Mediation for Suppressing Privacy Propagation in LLM/VLM Agents
Der Artikel stellt BodhiPromptShield vor, ein rahmengebundenes System zur prä-inferenzbasierten Prompt-Mediation, das die Weitergabe sensibler Daten in LLM/VLM-Agenten durch eine bewusste Politiksteuerung, die Verwendung von Platzhaltern und eine verzögerte Wiederherstellung wirksam unterdrückt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das Problem: Der laute Briefträger
Stellen Sie sich vor, Sie schicken einen Brief an einen sehr intelligenten, aber etwas neugierigen Bot (einen KI-Agenten). In diesem Brief steht nicht nur Ihre Frage, sondern auch Ihr Geheimnis: Ihre Kreditkartennummer, Ihre Adresse oder ein medizinisches Problem.
Das Problem ist nicht, dass der Bot die Antwort vergisst. Das Problem ist, was auf dem Weg passiert.
In modernen KI-Systemen wird Ihre Nachricht nicht einfach nur gelesen und beantwortet. Sie wird wie ein Paket durch eine ganze Fabrik geschleust:
- Die Bibliothek: Der Bot sucht in tausenden Dokumenten nach Informationen (Recherche).
- ️Das Notizbuch: Er schreibt wichtige Dinge in sein Gedächtnis (Speicher).
- Die Werkzeuge: Er ruft externe Programme auf, um Rechnungen zu schreiben oder Daten zu prüfen.
Das Risiko: Wenn Sie Ihren Brief ungeschickt versenden, landet Ihre Kreditkartennummer nicht nur im Briefkasten, sondern wird auch in die Bibliothekskarteikarten kopiert, in das Notizbuch geschrieben und als Datenpaket an externe Werkzeuge geschickt. Selbst wenn der Bot am Ende die Antwort gibt, ist Ihre Nummer bereits an vielen unsicheren Orten gelandet.
Bisherige Sicherheitsmaßnahmen waren wie ein roter Filzstift, der nur den Anfang des Briefes schwarz macht. Aber wenn der Bot den Text dann in seine Werkzeuge kopiert, wird die schwarze Stelle oft wieder sichtbar oder ignoriert.
Die Lösung: BodhiPromptShield (Der intelligente Türsteher)
Die Forscher haben BodhiPromptShield entwickelt. Man kann sich das wie einen super-klugen Türsteher vorstellen, der bevor Ihr Brief die Fabrik betritt, alles prüft und umschreibt.
Wie funktioniert es? (Die drei Tricks)
Der Türsteher nutzt drei verschiedene Strategien, je nachdem, wie wichtig das Geheimnis ist:
Der Platzhalter-Trick (Die Puppe):
- Szenario: Sie schreiben: „Mein Name ist Max Mustermann."
- Schutz: Der Türsteher streicht „Max Mustermann" durch und schreibt stattdessen: „
". - Warum: Der Bot weiß immer noch, dass es sich um einen Namen handelt (er kann logisch weiterdenken), aber er sieht den echten Namen nicht. Es ist, als würde man eine Puppe in den Brief legen, die aussieht wie ein Mensch, aber keine Identität hat.
Der Zusammenfassungs-Trick (Die Skizze):
- Szenario: Sie schreiben eine genaue Adresse: „Musterstraße 12, 10115 Berlin".
- Schutz: Der Türsteher schreibt: „Eine Adresse in Berlin".
- Warum: Für die KI reicht es oft zu wissen, dass es eine Adresse ist, um den Kontext zu verstehen. Die genaue Nummer wird weggelassen, damit sie nicht in den Werkzeugen landet.
Der Geheimschlüssel-Trick (Das versiegelte Fach):
- Szenario: Sie brauchen eine genaue Zahl, damit der Bot eine Rechnung stellen kann.
- Schutz: Der Türsteher ersetzt die Zahl durch einen kryptischen Code (z. B. „TOKEN_XYZ") und legt den echten Schlüssel in ein sicheres Tresor-Fach außerhalb der Fabrik.
- Der Clou: Der Bot darf den Code erst öffnen, wenn er genau am richtigen Ort ist (z. B. beim finalen Ausdrucken der Rechnung). Auf dem Weg dorthin (in der Bibliothek oder im Notizbuch) sieht er nur den Code, nicht die echte Zahl.
Das Besondere: Warum ist das neu?
Früher dachte man: „Wenn ich den Namen im Brief schwarz mache, ist alles gut."
Die Forscher sagen: Nein!
Stellen Sie sich vor, Sie haben einen lauten Raum (den KI-Agenten). Wenn Sie jemanden mit einer roten Kappe (dem Geheimnis) hineinschicken, läuft er durch den Raum, ruft laut „Ich bin hier!" und hinterlässt Fußabdrücke.
- Alte Methode: Man klebt ihm einen schwarzen Streifen auf die Kappe. Aber wenn er schreit, hören ihn alle.
- BodhiPromptShield: Man gibt ihm eine unsichtbare Kappe und ein Mikrofon, das nur dann schaltet, wenn er die Tür zum Tresor erreicht.
Das System überwacht also nicht nur den Brief, sondern den gesamten Weg. Es stellt sicher, dass das Geheimnis nicht in die Bibliothekskarten oder das Notizbuch gerät, bevor es wirklich gebraucht wird.
Die Ergebnisse: Besserer Schutz, ohne den Bot dumm zu machen
Die Forscher haben das System getestet (in einer kontrollierten Umgebung namens „CPPB").
- Der Schutz: Ohne Schutz landeten 10,7 % der sensiblen Daten auf dem Weg in den Werkzeugen. Mit BodhiPromptShield sanken diese auf nur noch 7,1 %. Das klingt nach wenig, aber in der Welt der KI-Sicherheit ist das ein riesiger Unterschied, weil es verhindert, dass Daten in die falschen Hände (oder Logs) geraten.
- Die Intelligenz: Der Bot wurde nicht dumm. Er konnte immer noch die richtigen Aufgaben erledigen (z. B. Rechnungen schreiben oder Fragen beantworten). Die „Nützlichkeit" blieb fast vollständig erhalten (94 %).
Zusammenfassend:
BodhiPromptShield ist wie ein diplomatischer Dolmetscher, der Ihre sensiblen Informationen so umformuliert, dass der KI-Agent versteht, was zu tun ist, aber niemals die eigentlichen Geheimnisse sieht – es sei denn, es ist absolut notwendig und sicher. Es schützt Ihre Privatsphäre nicht nur am Anfang, sondern auf dem gesamten Weg durch das KI-System.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.