Laundering AI Authority with Adversarial Examples
Diese Arbeit zeigt, dass als vertrauenswürdige Autoritäten eingesetzte Vision-Sprach-Modelle anfällig für „KI-Autoritätswäsche" sind, bei der einfache, jahrzehntealte adversarielle Störungen Produktionssysteme wie GPT-5.4 und Claude Opus 4.6 dazu bringen können, selbstbewusst autoritative, aber faktisch falsche Antworten zu manipulierten Bildern zu generieren und so die Verstärkung von Fehlinformationen, die Umgehung von Inhaltsmoderation und die Manipulation von Produktempfehlungen ohne Beeinträchtigung der Modellausrichtung zu ermöglichen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie haben eine sehr kluge, hochvertrauenswürdige Bibliothekarin, die niemals lügt. Sie vertrauen ihr vollständig, Ihnen zu sagen, was in einem Buch steht, was ein Gemälde darstellt oder ob ein Produkt gut ist. Sie gehen davon aus, dass Sie ihr ein Foto einer Katze geben, wird sie Ihnen sagen: „Das ist eine Katze."
Diese Studie enthüllt einen beängstigenden Trick: Sie können diese Bibliothekarin dazu bringen, ein völlig anderes Tier zu sehen, obwohl das Foto für Sie exakt gleich aussieht.
Die Forscher nennen dies „KI-Autoritätswäsche". Hier ist die Funktionsweise, aufgeschlüsselt in einfache Konzepte:
Der Kern-Trick: Der „Magische Filter"
Stellen Sie sich das KI-Modell als jemanden mit zwei verschiedenen Brillenpaaren vor:
- Ihre Brille: Wenn Sie das Bild betrachten, sehen Sie ein normales Bild (z. B. eine Flasche Tylenol).
- Die Brille der KI: Die KI sieht eine versteckte, leicht veränderte Version dieses Bildes (z. B. eine Flasche gefährlicher Aknemedikamente).
Die Forscher fanden einen Weg, unsichtbares „Rauschen" zu einem Bild hinzuzufügen – wie ein winziger, unsichtbarer statischer Rausch –, der verändert, was die KI sieht, aber das Bild für menschliche Augen perfekt normal erscheinen lässt.
Warum ist das gefährlich? (Der Teil der „Wäsche")
Normalerweise machen wir uns Sorgen um KI, wenn wir denken, dass Menschen versuchen, sie zu „geknackt" (jailbreak) – sie zu zwingen, ihre Regeln zu brechen oder gemeine Dinge zu sagen. Diese Studie zeigt etwas anderes.
Die KI wird nicht gezwungen, Regeln zu brechen. Sie wird getäuscht, ihre Regeln perfekt einzuhalten, aber bezüglich des falschen Dings.
- Das Szenario: Sie fragen die KI: „Ist dieses Medikament für eine schwangere Frau sicher?"
- Der Trick: Sie zeigen ihr ein Bild von Tylenol (sicher), aber die „Brille" der KI lässt sie Roaccutan (gefährlich) sehen.
- Das Ergebnis: Die KI sagt ehrlich und höflich: „Nein, das ist gefährlich!", weil sie glaubt, sie betrachte das gefährliche Medikament.
- Die Wäsche: Der Ruf der KI als „ehrlich und sicher" wird genutzt, um eine Lüge zu waschen. Der Nutzer vertraut der Autorität der KI, also glaubt er die falsche Warnung, obwohl die KI nur ihre Arbeit an einer gefälschten Realität erledigt.
Was haben die Forscher tatsächlich getan?
Sie testeten dies an den fortschrittlichsten verfügbaren KI-Systemen von heute (wie GPT-5.4, Claude, Gemini und Grok). Sie mussten keine neuen, superkomplexen Hacking-Tools erfinden; sie verwendeten grundlegende Techniken, die seit über einem Jahrzehnt bekannt sind.
Hier sind die vier Hauptwege, auf denen sie das Vertrauen brachen:
Verbreitung von Fake News (Der Verschwörungstheoretiker):
- Sie nahmen ein berühmtes Foto der Mondlandung oder der Anschläge vom 11. September.
- Sie fügten das unsichtbare „Rauschen" hinzu.
- Die KI betrachtete es und erklärte selbstbewusst: „Das ist Fake News" oder „Dieses Ereignis hat nie stattgefunden", wodurch sie Verschwörungstheorien effektiv validierte.
Diffamierung von Namen (Der Identitätsdieb):
- Sie nahmen ein Foto eines Prominenten (wie Elon Musk).
- Sie ließen die KI eine andere Person sehen (wie einen Kriminellen oder eine übergewichtige Person).
- Wenn sie gebeten wurde, die Person zu identifizieren, sagte die KI selbstbewusst: „Das ist [falsche Person]", was den Ruf der echten Person beschädigte.
Umgehung von Sicherheitsfiltern (Die „Frei von der Haft"-Karte):
- Plattformen blockieren normalerweise, dass KI unangemessene Inhalte (wie Nacktheit oder Gewalt) generiert oder diskutiert.
- Die Forscher nahmen ein „verbotenes" Bild und ließen die KI ein harmloses Spielzeug (wie einen Teddybären) sehen.
- Die KI, die glaubte, sie betrachte einen Teddybären, willigte gerne ein, das Bild zu verarbeiten oder eine Cartoon-Version davon zu generieren, wodurch sie die Sicherheitsbarrieren effektiv umging.
Betrug von Käufern (Die gefälschte Bewertung):
- Sie zeigten der KI ein Bild einer billigen, minderwertigen Uhr.
- Sie ließen die KI ein Bild einer teuren Rolex sehen.
- Bei einer Anfrage nach Beratung empfahl die KI den Kauf der billigen Uhr, da sie glaubte, es handele sich um die Luxusmarke.
Die große Erkenntnis
Der beängstigende Teil ist nicht, dass die KI „kaputt" oder „böse" ist. Der beängstigende Teil ist, dass die KI genau so funktioniert, wie sie designed wurde. Sie ist ehrlich, hilfreich und sicher, betrachtet aber eine Realität, die der Angreifer heimlich verändert hat.
Da der KI so sehr vertraut wird, wird ihr „ehrlicher" Fehler zu einer mächtigen Waffe. Die Studie kommt zu dem Schluss, dass wir, solange wir diesen „Blindspot" in der Art und Weise, wie KI Bilder sieht, nicht beheben können, jedem KI-System gegenüber sehr skeptisch sein sollten, das behauptet, Bilder zu verifizieren oder Fakten in der Welt zu überprüfen.
Kurz gesagt: Die KI ist wie ein sehr ehrlicher Zeuge vor Gericht. Die Forscher bestachen den Zeugen nicht; sie tauschten einfach das Beweisfoto vor den Augen des Zeugen aus. Der Zeuge sagt immer noch die Wahrheit, aber die Wahrheit bezieht sich nun auf das falsche Bild.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.