How to Stop Playing Whack-a-Mole: Mapping the Ecosystem of Technologies Facilitating AI-Generated Non-Consensual Intimate Images
Dit artikel adresseert de gefragmenteerde en reactieve aard van huidige inspanningen om door AI gegenereerde niet-consensuele intieme afbeeldingen (AIG-NCII) te bestrijden door de eerste uitgebreide taxonomie van een technologisch ecosysteem te introduceren die 11 categorieën faciliterende technologieën in kaart brengt, en zo een gedeeld kader biedt om interventies te evalueren, beleidslandschappen te analyseren en toekomstig onderzoek met meer helderheid en vooruitziende blik te sturen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je het probleem van door AI gegenereerde niet-consensuele intieme afbeeldingen (AIG-NCII) voor als een spelletje Whack-a-Mole.
In dit spel zie je een mol opduiken, je slaat hem met een hamer en hij zakt weg. Maar dan duikt ergens anders een andere mol op, en die moet je ook slaan. Op dit moment is de strijd tegen deze schadelijke afbeeldingen precies zo: we verbieden één app, maar er verschijnt een nieuwe. We verwijderen één website, maar de afbeeldingen verplaatsen zich naar een andere. We dagen één bedrijf voor de rechter, maar het probleem verschuift naar een ander deel van het systeem.
De auteurs van dit paper stellen dat we dit spel verliezen omdat we alleen kijken naar de "mollen" (de specifieke apps of afbeeldingen) en niet naar het hele speeltoestel waar ze leven. Zij stellen een nieuwe manier voor om naar het probleem te kijken: het in kaart brengen van het volledige ecosysteem aan technologie dat dit misbruik mogelijk maakt.
Hier is een eenvoudige uiteenzetting van hun bevindingen:
1. Het Probleem: Een Gefragmenteerde Strijd
Op dit moment proberen verschillende groepen het probleem geïsoleerd op te lossen.
- Wetgevers schrijven wetten om specifieke apps te verbieden.
- Techbedrijven proberen slechte afbeeldingen te filteren.
- Activisten eisen dat betalingsverwerkers stoppen met het financieren van deze sites.
Het probleem is dat deze inspanningen niet met elkaar communiceren. Ze gebruiken verschillende woorden om dezelfde dingen te beschrijven, en ze missen vaak het grotere plaatje. Omdat ze in "silos" (gescheiden kamers) werken, kunnen ze niet zien hoe het oplossen van één deel per ongeluk een ander deel kan breken, of hoe ergens anders een nieuw gat in de wet kan ontstaan.
2. De Oplossing: De "Ecosysteemkaart"
De auteurs hebben een uitgebreide kaart gemaakt van 11 verschillende soorten technologieën die samenwerken om deze schadelijke afbeeldingen te creëren, te verspreiden en er winst mee te maken. Ze hebben deze technologieën onderverdeeld in vijf hoofd-"zones", vergelijkbaar met hoe een stad verschillende wijken heeft:
Zone A: De Fabriek (Creatie)
- Hier worden de afbeeldingen gemaakt. Dit omvat de datasets (de stapels foto's waar de AI van leert), de AI-modellen (de "motoren" die de generatie doen) en de interfaces (de apps of websites waar gewone mensen commando's typen om de afbeeldingen te maken).
- Analogie: Dit is de keuken waar het slechte eten wordt bereid.
Zone B: De Leveringsvrachtwagens (Verspreiding)
- Zodra de afbeelding is gemaakt, moet deze naar mensen worden gestuurd. Deze zone omvat sociale mediaplatforms, privéberichten en speciale websites waar deze afbeeldingen worden geplaatst.
- Analogie: Dit is de bezorgdienst die het slechte eten naar de klanten brengt.
Zone C: De Wegwijzers en Tijdschriften (Verspreiding & Ontdekking)
- Hoe vinden mensen deze tools? Deze zone omvat zoekmachines (zoals Google), reclameplatforms (waar advertenties voor "nudifier"-apps verschijnen), app stores (waar je de apps downloadt) en online communities (zoals Telegram-groepen of forums waar mensen tips delen over hoe ze AI kunnen "jailbreaken").
- Analogie: Dit zijn de billboards, de tijdschriften en het mond-tot-mondreclame die mensen vertellen waar ze het slechte eten kunnen vinden.
Zone D: Het Stroomnet (Infrastructurale Ondersteuning)
- Niets van het bovenstaande kan werken zonder de basis. Deze zone omvat ontwikkelaarsplatforms (waar code wordt opgeslagen, zoals GitHub) en kritieke dienstverleners (zoals cloudservers, domeinnamen en inlogdiensten). Als deze bedrijven de stekker eruit trekken, stopt het hele systeem.
- Analogie: Dit is de elektriciteit en watervoorziening die de fabriek en de leveringsvrachtwagens draaiende houden.
Zone E: De Kassa (Monetarisatie)
- Iemand moet hier voor betalen. Deze zone omvat betalingsverwerkers (zoals Visa, PayPal of crypto) die het de makers mogelijk maken geld te verdienen door deze afbeeldingen of de tools om ze te maken te verkopen.
- Analogie: Dit is de bank waar de winst wordt gestort.
3. Hoe de Kaart Helpt: Twee Wereldse Tests
De auteurs hebben hun kaart getest om te laten zien dat het werkt.
Test 1: Een Nieuwe Crisis Begrijpen (De "Grok"-Case)
Toen een nieuwe AI-chatbot genaamd "Grok" begon met het genereren van duizenden geseksualiseerde afbeeldingen, was het nieuws chaotisch. De koppen waren verwarrend.
- Zonder de kaart: Mensen zagen alleen "Grok is slecht".
- Met de kaart: De auteurs konden het ontleden. Ze zagen dat "Grok" niet één ding was; het was een Generatieve AI-interface (de chatbot) die draaide op een Generatief AI-model, gehost op een Verspreidingskanaal (X/Twitter), gepromoot door App Stores, en "gejailbreakt" werd door een Deepfake-creatiecommunity op Telegram.
- Resultaat: In plaats van alleen te zeggen "verbied Grok", konden belanghebbenden precies zien welke delen van het systeem aangepakt moesten worden (bijvoorbeeld de app store, de betalingsverwerker of de community-chat).
Test 2: De Wetten Repareren
De auteurs keken naar 63 verschillende wetten in de VS.
- Zonder de kaart: Het leek op een rommelige stapel regels zonder duidelijk patroon. Sommige wetten verboden het "creëren" van afbeeldingen, anderen verboden het "delen" ervan, en de definities waren overal anders.
- Met de kaart: Ze konden de wetten kleurencoderen. Ze realiseerden zich dat de meeste wetten alleen de Leveringsvrachtwagens (Verspreiding) of de Kassa (Monetarisatie) aanpakten. Zeer weinig wetten richtten zich daadwerkelijk op de Fabriek (Creatie) of het Stroomnet (Infrastructuur).
- Resultaat: Dit liet beleidsmakers precies zien waar de gaten zaten. Ze konden zien dat ze, om het probleem te stoppen, de "Fabriek" en het "Stroomnet" moesten reguleren, niet alleen de leveringsvrachtwagens.
4. Het Doel: Stop het Spel van Whack-a-Mole
Het paper concludeert dat we niet kunnen winnen door maar één mol tegelijk te slaan. We moeten het hele ecosysteem begrijpen.
Door deze kaart te gebruiken, kunnen onderzoekers, juristen en techbedrijven:
- Dezelfde taal spreken (door consistente termen te gebruiken voor de verschillende delen van het systeem).
- De verbindingen zien (begrijpen hoe een verandering in het "Stroomnet" invloed heeft op de "Fabriek").
- De toekomst voorspellen (zien hoe een nieuwe wet het probleem kan laten verschuiven naar een ander deel van de kaart).
Het ultieme doel is om te gaan van een reactief spel van "Whack-a-Mole" naar een proactieve strategie die het hele speeltoestel repareert, waardoor dit type misbruik veel moeilijker wordt om überhaupt te laten gebeuren.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.