How to Stop Playing Whack-a-Mole: Mapping the Ecosystem of Technologies Facilitating AI-Generated Non-Consensual Intimate Images
Este artigo aborda a natureza fragmentada e reativa dos esforços atuais para combater imagens íntimas não consensuais geradas por IA (AIG-NCII) ao introduzir a primeira taxonomia abrangente de ecossistema tecnológico que mapeia 11 categorias de tecnologias facilitadoras, fornecendo assim um quadro comum para avaliar intervenções, analisar paisagens políticas e orientar pesquisas futuras com maior clareza e visão de futuro.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine o problema das imagens íntimas não consensuais geradas por IA (AIG-NCII) como um jogo de Whack-a-Mole (Bater no Toupeira).
Neste jogo, você vê uma toupeira surgir, acerta-a com um martelo e ela desce. Mas então, outra toupeira surge em outro lugar, e você tem que acertar aquela também. Atualmente, a luta contra essas imagens prejudiciais é exatamente assim: banimos um aplicativo, mas surge um novo. Tiramos um site do ar, mas as imagens migram para outro. Processamos uma empresa, mas o problema se desloca para outra parte do sistema.
Os autores deste artigo argumentam que estamos perdendo esse jogo porque estamos olhando apenas para as "toupeiras" (os aplicativos ou imagens específicos) e não para o parque de diversões inteiro onde elas vivem. Eles propõem uma nova maneira de encarar o problema: mapear todo o ecossistema de tecnologia que torna possível esse abuso.
Aqui está uma explicação simples de suas descobertas:
1. O Problema: Uma Luta Fragmentada
Atualmente, diferentes grupos estão tentando resolver o problema de forma isolada.
- Legisladores estão escrevendo leis para banir aplicativos específicos.
- Empresas de tecnologia estão tentando filtrar imagens ruins.
- Ativistas estão exigindo que processadores de pagamento parem de financiar esses sites.
O problema é que esses esforços não conversam entre si. Eles usam palavras diferentes para descrever as mesmas coisas e, frequentemente, perdem a visão do quadro geral. Como trabalham em "silos" (salas separadas), não conseguem ver como corrigir uma parte pode acidentalmente quebrar outra, ou como uma nova brecha pode se abrir em outro lugar.
2. A Solução: O "Mapa do Ecossistema"
Os autores criaram um mapa abrangente de 11 tipos diferentes de tecnologias que trabalham juntas para criar, disseminar e lucrar com essas imagens prejudiciais. Eles dividiram essas tecnologias em cinco "zonas" principais, de forma semelhante a como uma cidade possui diferentes distritos:
Zona A: A Fábrica (Criação)
- É aqui que as imagens são feitas. Inclui os conjuntos de dados (as pilhas de fotos das quais a IA aprende), os modelos de IA (os "motores" que fazem a geração) e as interfaces (os aplicativos ou sites onde pessoas comuns digitam comandos para criar as imagens).
- Analogia: Esta é a cozinha onde a comida ruim é preparada.
Zona B: Os Caminhões de Entrega (Distribuição)
- Assim que a imagem é feita, ela precisa ser enviada às pessoas. Esta zona inclui plataformas de mídia social, mensagens privadas e sites dedicados onde essas imagens são postadas.
- Analogia: Este é o serviço de entrega que leva a comida ruim aos clientes.
Zona C: Os Sinais e Revistas (Proliferação e Descoberta)
- Como as pessoas encontram essas ferramentas? Esta zona inclui motores de busca (como o Google), plataformas de publicidade (onde aparecem anúncios de aplicativos "nudifiers"), lojas de aplicativos (onde você baixa os aplicativos) e comunidades online (como grupos do Telegram ou fóruns onde as pessoas compartilham dicas sobre como fazer jailbreak em IAs).
- Analogia: Estes são os outdoors, as revistas e o boca a boca que dizem às pessoas onde encontrar a comida ruim.
Zona D: A Rede Elétrica (Suporte Infraestrutural)
- Nada do acima funciona sem o básico. Esta zona inclui plataformas de desenvolvedores (onde o código é armazenado, como o GitHub) e provedores de serviços críticos (como servidores em nuvem, nomes de domínio e serviços de login). Se essas empresas desligarem a chave, todo o sistema para.
- Analogia: Esta é a eletricidade e o abastecimento de água que mantêm a fábrica e os caminhões de entrega funcionando.
Zona E: A Caixa Registradora (Monetização)
- Alguém tem que pagar por isso. Esta zona inclui processadores de pagamento (como Visa, PayPal ou criptomoedas) que permitem que os criadores ganhem dinheiro vendendo essas imagens ou as ferramentas para criá-las.
- Analogia: Este é o banco onde os lucros são depositados.
3. Como o Mapa Ajuda: Dois Testes do Mundo Real
Os autores testaram seu mapa para mostrar que ele funciona.
Teste 1: Entendendo uma Nova Crise (O Caso "Grok")
Quando um novo chatbot de IA chamado "Grok" começou a gerar milhares de imagens sexualizadas, as notícias estavam caóticas. As manchetes eram confusas.
- Sem o mapa: As pessoas viam apenas "Grok é ruim".
- Com o mapa: Os autores puderam decompor a situação. Eles viram que o "Grok" não era apenas uma coisa; era uma Interface de IA Generativa (o chatbot) executando em um Modelo de IA Generativa, hospedado em um Canal de Distribuição (X/Twitter), promovido por Lojas de Aplicativos e sendo "desbloqueado" (jailbroken) por uma Comunidade de Criação de Deepfakes no Telegram.
- Resultado: Em vez de apenas dizer "proíba o Grok", as partes interessadas puderam ver exatamente quais partes do sistema precisavam ser abordadas (por exemplo, a loja de aplicativos, o processador de pagamento ou o chat da comunidade).
Teste 2: Corrigindo as Leis
Os autores analisaram 63 leis diferentes nos Estados Unidos.
- Sem o mapa: Parecia uma pilha bagunçada de regras sem padrão claro. Algumas leis proibiam "criar" imagens, outras proibiam "compartilhá-las", e as definições estavam espalhadas por toda parte.
- Com o mapa: Eles puderam codificar as leis por cores. Perceberam que a maioria das leis visava apenas os Caminhões de Entrega (Distribuição) ou a Caixa Registradora (Monetização). Pouquíssimas leis visavam realmente a Fábrica (Criação) ou a Rede Elétrica (Infraestrutura).
- Resultado: Isso mostrou aos formuladores de políticas exatamente onde estavam as lacunas. Eles puderam ver que, para parar o problema, precisam regular a "Fábrica" e a "Rede Elétrica", não apenas os caminhões de entrega.
4. O Objetivo: Parar o Jogo de Whack-a-Mole
O artigo conclui que não podemos vencer apenas batendo em uma toupeira de cada vez. Precisamos entender todo o ecossistema.
Ao usar este mapa, pesquisadores, advogados e empresas de tecnologia podem:
- Falar a mesma língua (usando termos consistentes para as diferentes partes do sistema).
- Ver as conexões (entendendo como uma mudança na "Rede Elétrica" afeta a "Fábrica").
- Prever o futuro (vendo como uma nova lei pode fazer o problema se deslocar para outra parte do mapa).
O objetivo final é passar de um jogo reativo de "Whack-a-Mole" para uma estratégia proativa que conserte todo o parque de diversões, tornando muito mais difícil que esse tipo de abuso aconteça desde o início.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.