How to Stop Playing Whack-a-Mole: Mapping the Ecosystem of Technologies Facilitating AI-Generated Non-Consensual Intimate Images
Dieser Beitrag befasst sich mit der fragmentierten und reaktiven Natur der aktuellen Bemühungen zur Bekämpfung von KI-generierten nicht einvernehmlichen intimen Bildern (AIG-NCII), indem er die erste umfassende technologische Ökosystem-Taxonomie einführt, die 11 Kategorien fördernder Technologien abbildet und dadurch einen gemeinsamen Rahmen zur Bewertung von Interventionen, zur Analyse politischer Landschaften und zur Lenkung zukünftiger Forschung mit größerer Klarheit und Voraussicht bietet.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das Problem der KI-generierten nicht-einvernehmlichen intimen Bilder (AIG-NCII) als Spiel „Mauern" vor.
In diesem Spiel sehen Sie, wie ein Maulwurf auftaucht, Sie schlagen mit einem Hammer zu, und er verschwindet. Doch dann taucht ein anderer Maulwurf irgendwo anders auf, und Sie müssen auch diesen treffen. Derzeit ist der Kampf gegen diese schädlichen Bilder genau so: Wir verbieten eine App, aber eine neue erscheint. Wir nehmen eine Website herunter, aber die Bilder wandern zu einer anderen. Wir verklagen ein Unternehmen, aber das Problem verlagert sich auf einen anderen Teil des Systems.
Die Autoren dieses Papers argumentieren, dass wir dieses Spiel verlieren, weil wir nur auf die „Maulwürfe" (die spezifischen Apps oder Bilder) schauen und nicht auf den gesamten Spielplatz, auf dem sie leben. Sie schlagen einen neuen Weg vor, das Problem zu betrachten: die Kartierung des gesamten Ökosystems an Technologien, die diesen Missbrauch ermöglichen.
Hier ist eine einfache Aufschlüsselung ihrer Erkenntnisse:
1. Das Problem: Ein fragmentierter Kampf
Derzeit versuchen verschiedene Gruppen, das Problem isoliert zu lösen.
- Gesetzgeber erlassen Gesetze, um bestimmte Apps zu verbieten.
- Technologieunternehmen versuchen, schädliche Bilder zu filtern.
- Aktivisten fordern, dass Zahlungsabwickler die Finanzierung dieser Seiten einstellen.
Das Problem ist, dass diese Bemühungen nicht miteinander kommunizieren. Sie verwenden unterschiedliche Begriffe, um dieselben Dinge zu beschreiben, und sie übersehen oft das große Ganze. Da sie in „Silos" (getrennten Räumen) arbeiten, können sie nicht erkennen, wie die Reparatur eines Teils versehentlich einen anderen kaputt machen könnte oder wie sich anderswo eine neue Lücke auftun könnte.
2. Die Lösung: Die „Ökosystem-Karte"
Die Autoren erstellten eine umfassende Karte von 11 verschiedenen Technologiearten, die zusammenarbeiten, um diese schädlichen Bilder zu erstellen, zu verbreiten und damit Gewinn zu erzielen. Sie unterteilten diese Technologien in fünf Hauptbereiche, ähnlich wie eine Stadt verschiedene Bezirke hat:
Bereich A: Die Fabrik (Erstellung)
- Hier werden die Bilder erstellt. Dazu gehören die Datensätze (die Haufen von Fotos, aus denen die KI lernt), die KI-Modelle (die „Motoren", die die Generierung durchführen) und die Schnittstellen (die Apps oder Websites, auf denen normale Benutzer Befehle eingeben, um die Bilder zu erstellen).
- Analogie: Dies ist die Küche, in der das schlechte Essen gekocht wird.
Bereich B: Die Lieferwagen (Verteilung)
- Sobald das Bild erstellt ist, muss es zu den Menschen gelangen. Dieser Bereich umfasst Social-Media-Plattformen, private Nachrichten und spezielle Websites, auf denen diese Bilder veröffentlicht werden.
- Analogie: Dies ist der Lieferdienst, der das schlechte Essen zu den Kunden bringt.
Bereich C: Die Wegweiser und Zeitschriften (Verbreitung und Entdeckung)
- Wie finden Menschen diese Tools? Dieser Bereich umfasst Suchmaschinen (wie Google), Werbeplattformen (wo Werbung für „Nudifier"-Apps erscheint), App-Stores (wo man die Apps herunterlädt) und Online-Communities (wie Telegram-Gruppen oder Foren, in denen Menschen Tipps zum „Jailbreaken" von KI austauschen).
- Analogie: Dies sind die Werbetafeln, die Zeitschriften und das Mundpropaganda, die den Menschen sagen, wo sie das schlechte Essen finden können.
Bereich D: Das Stromnetz (Infrastrukturelle Unterstützung)
- Nichts davon funktioniert ohne das Fundament. Dieser Bereich umfasst Entwicklerplattformen (wo Code gespeichert wird, wie GitHub) und kritische Dienstleister (wie Cloud-Server, Domainnamen und Anmelde-Dienste). Wenn diese Unternehmen den Stecker ziehen, stoppt das gesamte System.
- Analogie: Dies ist die Strom- und Wasserversorgung, die die Fabrik und die Lieferwagen am Laufen hält.
Bereich E: Die Kasse (Verwertung)
- Jemand muss dafür bezahlen. Dieser Bereich umfasst Zahlungsabwickler (wie Visa, PayPal oder Krypto), die es den Erstellern ermöglichen, Geld zu verdienen, indem sie diese Bilder oder die Tools zu deren Erstellung verkaufen.
- Analogie: Dies ist die Bank, in der die Gewinne eingezahlt werden.
3. Wie die Karte hilft: Zwei reale Tests
Die Autoren testeten ihre Karte, um zu zeigen, dass sie funktioniert.
Test 1: Verständnis einer neuen Krise (Der Fall „Grok")
Als ein neuer KI-Chatbot namens „Grok" begann, Tausende von sexualisierten Bildern zu generieren, war die Nachrichtenlage chaotisch. Die Schlagzeilen waren verwirrend.
- Ohne die Karte: Die Menschen sahen nur „Grok ist schlecht".
- Mit der Karte: Die Autoren konnten es aufschlüsseln. Sie sahen, dass „Grok" nicht nur eine Sache war; es war eine Generative KI-Schnittstelle (der Chatbot), die auf einem Generativen KI-Modell lief, gehostet auf einem Vertriebskanal (X/Twitter), beworben durch App-Stores und von einer Deepfake-Erstellungs-Community auf Telegram „gejailbreakt".
- Ergebnis: Anstatt nur zu sagen „Grok verbieten", konnten die Interessengruppen genau sehen, welche Teile des Systems angegangen werden mussten (z. B. der App-Store, der Zahlungsabwickler oder der Community-Chat).
Test 2: Verbesserung der Gesetze
Die Autoren untersuchten 63 verschiedene Gesetze in den USA.
- Ohne die Karte: Es sah aus wie ein chaotischer Haufen von Regeln ohne klares Muster. Einige Gesetze verboten das „Erstellen" von Bildern, andere das „Teilen", und die Definitionen waren völlig durcheinander.
- Mit der Karte: Sie konnten die Gesetze farbcodieren. Sie stellten fest, dass die meisten Gesetze nur die Lieferwagen (Verteilung) oder die Kasse (Verwertung) angriffen. Sehr wenige Gesetze griffen tatsächlich die Fabrik (Erstellung) oder das Stromnetz (Infrastruktur) an.
- Ergebnis: Dies zeigte den politischen Entscheidungsträgern genau, wo die Lücken waren. Sie konnten sehen, dass sie, um das Problem zu stoppen, die „Fabrik" und das „Stromnetz" regulieren müssen, nicht nur die Lieferwagen.
4. Das Ziel: Das Spiel „Mauern" beenden
Das Paper kommt zu dem Schluss, dass wir nicht gewinnen können, indem wir nur einen Maulwurf nach dem anderen treffen. Wir müssen das gesamte Ökosystem verstehen.
Durch die Verwendung dieser Karte können Forscher, Anwälte und Technologieunternehmen:
- Die gleiche Sprache sprechen (konsistente Begriffe für die verschiedenen Teile des Systems verwenden).
- Die Verbindungen erkennen (verstehen, wie eine Änderung im „Stromnetz" die „Fabrik" beeinflusst).
- Die Zukunft vorhersagen (erkennen, wie ein neues Gesetz dazu führen könnte, dass sich das Problem auf einen anderen Teil der Karte verlagert).
Das ultimative Ziel ist es, von einem reaktiven Spiel „Mauern" zu einer proaktiven Strategie überzugehen, die den gesamten Spielplatz repariert und es viel schwieriger macht, dass diese Art von Missbrauch überhaupt erst entsteht.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.