How to Stop Playing Whack-a-Mole: Mapping the Ecosystem of Technologies Facilitating AI-Generated Non-Consensual Intimate Images
Cet article traite du caractère fragmenté et réactif des efforts actuels pour lutter contre les images intimes non consensuelles générées par l'IA (AIG-NCII) en présentant la première taxonomie d'écosystème technologique complète qui recense 11 catégories de technologies facilitatrices, offrant ainsi un cadre commun pour évaluer les interventions, analyser les paysages politiques et orienter les recherches futures avec plus de clarté et de prévoyance.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez le problème des images intimes non consensuelles générées par l'IA (AIG-NCII) comme un jeu de Tamisage de Taupes.
Dans ce jeu, vous voyez une taupe apparaître, vous la frappez avec un maillet, et elle disparaît. Mais ensuite, une autre taupe surgit ailleurs, et vous devez la frapper aussi. Actuellement, la lutte contre ces images nuisibles est exactement comme cela : nous bannissons une application, mais une nouvelle apparaît. Nous retirons un site web, mais les images migrent vers un autre. Nous poursuivons une entreprise en justice, mais le problème se déplace vers une autre partie du système.
Les auteurs de cet article soutiennent que nous perdons ce jeu parce que nous ne regardons que les « taupes » (les applications ou images spécifiques) et non l'ensemble du terrain de jeu où elles vivent. Ils proposent une nouvelle façon d'aborder le problème : cartographier l'écosystème complet de la technologie qui rend cette abuse possible.
Voici une décomposition simple de leurs conclusions :
1. Le Problème : Une Lutte Fragmentée
Actuellement, différents groupes tentent de résoudre le problème de manière isolée.
- Les législateurs rédigent des lois pour interdire des applications spécifiques.
- Les entreprises technologiques tentent de filtrer les mauvaises images.
- Les activistes exigent que les processeurs de paiement cessent de financer ces sites.
Le problème est que ces efforts ne communiquent pas entre eux. Ils utilisent des mots différents pour décrire les mêmes choses, et ils manquent souvent la vue d'ensemble. Parce qu'ils travaillent dans des « silos » (des pièces séparées), ils ne peuvent pas voir comment la correction d'une partie pourrait accidentellement briser une autre, ou comment une nouvelle faille pourrait s'ouvrir ailleurs.
2. La Solution : La « Carte de l'Écosystème »
Les auteurs ont créé une carte complète de 11 types de technologies différents qui travaillent ensemble pour créer, diffuser et tirer profit de ces images nuisibles. Ils ont divisé ces technologies en cinq « zones » principales, à l'image des différents quartiers d'une ville :
Zone A : L'Usine (Création)
- C'est là que les images sont fabriquées. Cela inclut les jeux de données (les piles de photos sur lesquelles l'IA apprend), les modèles d'IA (les « moteurs » qui effectuent la génération) et les interfaces (les applications ou sites web où les gens ordinaires tapent des commandes pour créer les images).
- Analogie : C'est la cuisine où la mauvaise nourriture est cuisinée.
Zone B : Les Camions de Livraison (Distribution)
- Une fois l'image créée, elle doit être envoyée aux gens. Cette zone comprend les plateformes de médias sociaux, les messages privés et les sites web dédiés où ces images sont publiées.
- Analogie : C'est le service de livraison qui apporte la mauvaise nourriture aux clients.
Zone C : Les Panneaux Indicateurs et les Magazines (Prolifération et Découverte)
- Comment les gens trouvent-ils ces outils ? Cette zone comprend les moteurs de recherche (comme Google), les plateformes publicitaires (où apparaissent les publicités pour les applications « nudifier »), les magasins d'applications (où vous téléchargez les applications) et les communautés en ligne (comme les groupes Telegram ou les forums où les gens partagent des astuces pour contourner les verrous de l'IA).
- Analogie : Ce sont les panneaux publicitaires, les magazines et le bouche-à-oreille qui indiquent aux gens où trouver la mauvaise nourriture.
Zone D : Le Réseau Électrique (Support Infrastructurel)
- Rien de ce qui précède ne peut fonctionner sans les bases. Cette zone comprend les plateformes de développement (où le code est stocké, comme GitHub) et les fournisseurs de services critiques (comme les serveurs cloud, les noms de domaine et les services de connexion). Si ces entreprises coupent le courant, tout le système s'arrête.
- Analogie : C'est l'électricité et l'approvisionnement en eau qui maintiennent l'usine et les camions de livraison en marche.
Zone E : La Caisse Enregistreuse (Monétisation)
- Quelqu'un doit payer pour cela. Cette zone comprend les processeurs de paiement (comme Visa, PayPal ou la crypto) qui permettent aux créateurs de gagner de l'argent en vendant ces images ou les outils pour les fabriquer.
- Analogie : C'est la banque où les profits sont déposés.
3. Comment la Carte Aide : Deux Tests du Monde Réel
Les auteurs ont testé leur carte pour montrer qu'elle fonctionne.
Test 1 : Comprendre une Nouvelle Crise (L'Affaire « Grok »)
Quand un nouveau chatbot IA appelé « Grok » a commencé à générer des milliers d'images sexualisées, les nouvelles étaient chaotiques. Les titres étaient confus.
- Sans la carte : Les gens voyaient simplement « Grok est mauvais ».
- Avec la carte : Les auteurs ont pu le décomposer. Ils ont vu que « Grok » n'était pas une seule chose ; c'était une Interface d'IA Générative (le chatbot) fonctionnant sur un Modèle d'IA Générative, hébergé sur un Canal de Distribution (X/Twitter), promu par des Magasins d'Applications, et étant « jailbreaké » par une Communauté de Création de Deepfakes sur Telegram.
- Résultat : Au lieu de simplement dire « bannissons Grok », les parties prenantes pouvaient voir exactement quelles parties du système devaient être abordées (par exemple, le magasin d'applications, le processeur de paiement ou le chat de la communauté).
Test 2 : Réparer les Lois
Les auteurs ont examiné 63 lois différentes aux États-Unis.
- Sans la carte : Cela ressemblait à un tas désordonné de règles sans motif clair. Certaines lois interdisaient la « création » d'images, d'autres interdisaient le « partage », et les définitions étaient éparpillées.
- Avec la carte : Ils ont pu coder les lois par couleur. Ils ont réalisé que la plupart des lois ne ciblaient que les Camions de Livraison (Distribution) ou la Caisse Enregistreuse (Monétisation). Très peu de lois ciblaient réellement l'Usine (Création) ou le Réseau Électrique (Infrastructure).
- Résultat : Cela a montré aux décideurs politiques exactement où étaient les lacunes. Ils ont pu voir que pour arrêter le problème, ils devaient réglementer l'« Usine » et le « Réseau Électrique », et pas seulement les camions de livraison.
4. L'Objectif : Arrêter le Jeu de Tamisage de Taupes
L'article conclut que nous ne pouvons pas gagner en frappant une seule taupe à la fois. Nous devons comprendre l'ensemble de l'écosystème.
En utilisant cette carte, les chercheurs, les avocats et les entreprises technologiques peuvent :
- Parler le même langage (en utilisant des termes cohérents pour les différentes parties du système).
- Voir les connexions (comprendre comment un changement dans le « Réseau Électrique » affecte l'« Usine »).
- Prédire l'avenir (voir comment une nouvelle loi pourrait faire déplacer le problème vers une autre partie de la carte).
L'objectif ultime est de passer d'un jeu réactif de « Tamisage de Taupes » à une stratégie proactive qui répare l'ensemble du terrain de jeu, rendant beaucoup plus difficile la survenue de ce type d'abus dès le départ.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.