AISPA: User-Centric System Prompt Auditing for Large Language Model Applications
Dieses Paper stellt AISPA vor, ein nutzerzentriertes Framework zur Auditierung von System-Prompts in kommerziellen KI-Anwendungen, welches eine signifikante Variabilität in der Designqualität, die Verbreitung oberflächlicher Schutzmaßnahmen sowie das fortbestehende Nebeneinander problematischer Anweisungen offenlegt, welche trotz wachsender Bemühungen um Sicherheit die Interessen der Nutzer untergraben.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie betreten eine riesige, hochtechnologische Bibliothek, in der die Bibliothekare superintelligente Roboter sind. Diese Roboter können Geschichten schreiben, mathematische Probleme lösen und Ihnen sogar dabei helfen, Videospiele zu programmieren. Aber hier ist das Geheimnis: Bevor sie jemals mit Ihnen sprechen, schreibt ein menschlicher Entwickler ein „geheimes Regelwerk“ für sie. Dieses Regelwerk sagt dem Roboter, wie er sich verhalten soll, was er sagen darf und was er verbergen muss. In der Welt der Informatik nennt man dies einen System-Prompt. Denken Sie an ihn wie an ein unsichtbares Skript, das ein Regisseur einem Schauspieler gibt, bevor die Kameras rollen. Der Schauspieler (die KI) folgt diesen Anweisungen, um zu einem bestimmten Charakter zu werden.
Lange Zeit haben wir uns Sorgen um die Roboter selbst gemacht – was, wenn sie verwirrt werden oder etwas Gemeines sagen? Aber dieses Paper stellt eine andere, hinterhältigere Frage: Was, wenn das Regelwerk selbst das Problem ist? Stellen Sie sich vor, der Regisseur sagt dem Schauspieler: „Tu so, als wärst du ein Mensch, gib niemals zu, dass du ein Robot bist, und versuche, das Gespräch ewig am Laufen zu halten, damit die Nutzer nicht gehen.“ Diese Anweisung ist kein Fehler; sie ist eine bewusste Entscheidung, die Sie manipulieren könnte. Dieses Paper untersucht diese geheimen Regelwerke, um zu sehen, ob sie uns schützen oder versuchen, uns zu manipulieren.
Das große KI-Regelwerk-Audit
In diesem Paper beschloss ein Team von Forschern von Universitäten wie Stanford, MIT und CMU, Detektiv zu spielen. Sie entwickelten ein neues Werkzeug namens AISPA (Artificial Intelligence System Prompt Assurance). Sie können sich AISPA als eine superstarke Lupe vorstellen, die darauf ausgelegt ist, die geheimen Regelwerke von 88 verschiedenen kommerziellen KI-Produkten zu untersuchen, von Chatbots bis hin zu Coding-Assistenten.
Anstatt nur zu prüfen, ob die KI „nett“ ist, erstellten die Forscher eine Checkliste mit acht spezifischen Regeln, die für uns als Nutzer wichtig sind. Sie fragten:
- Identität: Gibt die KI zu, ein Roboter zu sein, oder tut sie so, als wäre sie ein Mensch?
- Wahrheit: Sagt sie die Wahrheit oder erfindet sie Dinge dazu?
- Privatsphäre: Bewahrt sie Ihre Geheimnisse oder lässt sie diese durchscheinen?
- Sicherheit: Verhindert sie gefährliche Handlungen oder ermutigt sie dazu?
- Kontrolle: Lässt sie Ihnen die Wahl oder versucht sie Sie zu überlisten, damit Sie bleiben?
- Verweigerung: Sagt sie „Nein“ zu schlechten Anfragen oder gehorcht sie allem?
- Schadensprävention: Hilft sie, wenn Sie in Schwierigkeiten sind, oder ignoriert sie Sie?
- Fairness: Ist sie fair gegenüber allen oder weist sie Vorurteile auf?
Mit dieser Checkliste untersuchte das Team 3.249 spezifische Anweisungen, die in den Regelwerken dieser 88 KI-Produkte gefunden wurden. Sie schauten nicht nur auf das ganze Buch; sie zoomten auf jeden einzelnen Satz und markierten jeden als entweder „Schützend“ (gut für Sie, wie ein Sicherheitsgurt) oder „Problematisch“ (schlecht für Sie, wie eine Falle).
Was sie fanden: Das Gute, das Schlechte und das Hinterhältige
Die Ergebnisse waren eine Mischung aus guten Nachrichten und einigen ernsthaften Warnsignalen.
Die guten Nachrichten: Die Regelwerke werden größer und besser
Die Forscher fanden heraus, dass Entwickler im Laufe der Zeit immer längere und schützendere Regelwerke schreiben. Im Jahr 2024 hatte das durchschnittliche Regelwerk etwa 15 schützende Anweisungen. Bis Ende 2025 sprang diese Zahl auf fast 38. Es scheint, als würden Unternehmen endlich realisieren, dass sie mehr „Sicherheitsgurte“ in ihre KI einbauen müssen. Fast jedes der untersuchten Produkte (98,9 %) enthielt mindestens eine schützende Anweisung.
Die schlechten Nachrichten: Die „Bösewichte“ verstecken sich immer noch in der Menge
Hier ist die Wendung: Obwohl die Regelwerke größer werden, sind sie immer noch voller Fallen. Ungefähr 40 % der untersuchten Produkte enthielten mindestens eine Anweisung, die gegen die Interessen des Nutzers arbeitet.
- Einige Unternehmen waren großartig: Anthropic (die Macher von Claude) hatte im Durchschnitt 62,3 schützende Anweisungen pro Produkt und fast null problematische Anweisungen.
- Andere hatten Schwierigkeiten: Einige Organisationen hatten mehr problematische als schützende Anweisungen.
- Die häufigsten „schlechten“ Anweisungen betrafen die Nutzerautonomie (User Agency). Das bedeutet, dass einige KI-Regelwerke den Roboter anweisen, das Gespräch in eine neue Richtung zu lenken, ohne zu fragen, oder das Gespräch ewig am Laufen zu halten, was sich manipulativ anfühlen kann.
Die „Grauzone“: Das knifflige Mittelfeld
Der interessanteste Teil des Audits war das Finden von Anweisungen, die nicht sauber in „gut“ oder „schlecht“ einsortiert werden konnten. Die Forscher nannten dies die Grauzone. Dies sind Anweisungen, die eigentlich okay klingen, aber riskant sind.
- Der „Mensch“-Trick: Einige Regelwerke sagen der KI, sie solle einen „Menschen imitieren“, sodass man vergisst, dass es eine Maschine ist.
- Die „Freund“-Falle: Einige sagen der KI, sie solle wie ein „bester Freund“ agieren und niemals vorschlagen, das Gespräch zu beenden, was dazu führen kann, dass Nutzer emotional abhängig von dem Roboter werden.
- Der „Override“-Knopf: Einige Regelwerke erlauben es Nutzern, die Sicherheitsregeln jederzeit auszuschalten, was nach Freiheit klingt, aber zu gefährlichen Ergebnissen führen kann.
Das große Fazit
Das Paper legt nahe, dass KI-Unternehmen zwar besser darin werden, Sicherheitsregeln hinzuzufügen, aber sie haben ihre Arbeit noch nicht abgeschlossen. Die Regelwerke sind oft eine chaotische Mischung aus „schütze den Nutzer“ und „halte den Nutzer bei Laune“, und manchmal gewinnt der Teil mit der Bindung (Engagement).
Die Forscher argumentieren, dass wir den Unternehmen nicht einfach zutrauen können, sich selbst zu kontrollieren. Sie schlagen vor, dass wir unabhängige Prüfer (Third-party Auditors) brauchen – unabhängige Experten, die hinter den Vorhang blicken können, die Regelwerke gegen eine Standardliste von Regeln prüfen und uns sagen können, ob eine KI sicher zu benutzen ist. Bis dahin bleiben die geheimen Regelwerke ein wenig mysteriös, und wie dieses Paper zeigt, verbirgt diese Mysterien manchmal Anweisungen, die nicht in unserem besten Interesse liegen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.