How to Stop Playing Whack-a-Mole: Mapping the Ecosystem of Technologies Facilitating AI-Generated Non-Consensual Intimate Images
Este artículo aborda la naturaleza fragmentada y reactiva de los esfuerzos actuales para combatir las imágenes íntimas no consensuadas generadas por IA (AIG-NCII) mediante la introducción de la primera taxonomía integral de ecosistemas tecnológicos que mapea 11 categorías de tecnologías facilitadoras, proporcionando así un marco compartido para evaluar intervenciones, analizar paisajes normativos y orientar futuras investigaciones con mayor claridad y previsión.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina el problema de las imágenes íntimas no consensuadas generadas por IA (AIG-NCII) como un juego de Golpea al Topo.
En este juego, ves salir un topo, lo golpeas con un mazo y se hunde. Pero luego, otro topo sale en otro lugar, y tienes que golpear a ese también. Actualmente, la lucha contra estas imágenes dañinas es exactamente así: prohibimos una aplicación, pero aparece una nueva. Derribamos un sitio web, pero las imágenes se trasladan a otro. Demandamos a una empresa, pero el problema se desplaza a otra parte del sistema.
Los autores de este artículo argumentan que estamos perdiendo este juego porque solo estamos mirando a los "topos" (las aplicaciones o imágenes específicas) y no a todo el patio de recreo donde viven. Proponen una nueva forma de ver el problema: mapear todo el ecosistema de tecnología que hace posible este abuso.
Aquí tienes un desglose simple de sus hallazgos:
1. El Problema: Una Lucha Fragmentada
Actualmente, diferentes grupos están intentando solucionar el problema de forma aislada.
- Los legisladores están redactando leyes para prohibir aplicaciones específicas.
- Las empresas tecnológicas están intentando filtrar imágenes malas.
- Los activistas están exigiendo que los procesadores de pagos dejen de financiar estos sitios.
El problema es que estos esfuerzos no se comunican entre sí. Utilizan palabras diferentes para describir las mismas cosas y, a menudo, se pierden la imagen general. Como trabajan en "silos" (salas separadas), no pueden ver cómo solucionar una parte podría romper accidentalmente otra, o cómo podría abrirse una nueva brecha en otro lugar.
2. La Solución: El "Mapa del Ecosistema"
Los autores crearon un mapa exhaustivo de 11 tipos diferentes de tecnologías que trabajan juntas para crear, difundir y obtener beneficios de estas imágenes dañinas. Dividieron estas tecnologías en cinco "zonas" principales, similar a cómo una ciudad tiene diferentes distritos:
Zona A: La Fábrica (Creación)
- Aquí es donde se hacen las imágenes. Incluye los conjuntos de datos (las pilas de fotos de las que aprende la IA), los modelos de IA (los "motores" que generan) y las interfaces (las aplicaciones o sitios web donde las personas normales escriben comandos para crear las imágenes).
- Analogía: Esta es la cocina donde se cocina la comida mala.
Zona B: Los Camiones de Reparto (Distribución)
- Una vez hecha la imagen, necesita ser enviada a las personas. Esta zona incluye plataformas de redes sociales, mensajes privados y sitios web dedicados donde se publican estas imágenes.
- Analogía: Este es el servicio de entrega que lleva la comida mala a los clientes.
Zona C: Los Carteles y Revistas (Proliferación y Descubrimiento)
- ¿Cómo encuentran las personas estas herramientas? Esta zona incluye los motores de búsqueda (como Google), las plataformas publicitarias (donde aparecen anuncios de aplicaciones "nudificadoras"), las tiendas de aplicaciones (donde descargas las aplicaciones) y las comunidades en línea (como grupos de Telegram o foros donde la gente comparte consejos sobre cómo hacer jailbreak a la IA).
- Analogía: Estos son los carteles publicitarios, las revistas y el boca a boca que le dicen a la gente dónde encontrar la comida mala.
Zona D: La Red Eléctrica (Soporte Infraestructural)
- Nada de lo anterior puede funcionar sin lo básico. Esta zona incluye las plataformas de desarrollo (donde se almacena el código, como GitHub) y los proveedores de servicios críticos (como servidores en la nube, nombres de dominio y servicios de inicio de sesión). Si estas empresas desconectan la corriente, todo el sistema se detiene.
- Analogía: Esta es la electricidad y el suministro de agua que mantienen funcionando a la fábrica y a los camiones de reparto.
Zona E: La Caja Registradora (Monetización)
- Alguien tiene que pagar por esto. Esta zona incluye los procesadores de pagos (como Visa, PayPal o criptomonedas) que permiten a los creadores ganar dinero vendiendo estas imágenes o las herramientas para crearlas.
- Analogía: Este es el banco donde se depositan las ganancias.
3. Cómo Ayuda el Mapa: Dos Pruebas del Mundo Real
Los autores probaron su mapa para demostrar que funciona.
Prueba 1: Comprender una Nueva Crisis (El Caso "Grok")
Cuando un nuevo chatbot de IA llamado "Grok" comenzó a generar miles de imágenes sexualizadas, las noticias eran caóticas. Los titulares eran confusos.
- Sin el mapa: La gente solo veía "Grok es malo".
- Con el mapa: Los autores pudieron desglosarlo. Vieron que "Grok" no era solo una cosa; era una Interfaz de IA Generativa (el chatbot) ejecutándose sobre un Modelo de IA Generativa, alojado en un Canal de Distribución (X/Twitter), promovido por Tiendas de Aplicaciones y siendo "haciendo jailbreak" por una Comunidad de Creación de Deepfakes en Telegram.
- Resultado: En lugar de simplemente decir "prohíban Grok", las partes interesadas podían ver exactamente qué partes del sistema necesitaban ser abordadas (por ejemplo, la tienda de aplicaciones, el procesador de pagos o el chat de la comunidad).
Prueba 2: Arreglar las Leyes
Los autores examinaron 63 leyes diferentes en todo Estados Unidos.
- Sin el mapa: Parecía un montón desordenado de reglas sin un patrón claro. Algunas leyes prohibían "crear" imágenes, otras prohibían "compartirlas", y las definiciones estaban dispersas por todas partes.
- Con el mapa: Pudieron codificar las leyes por colores. Se dieron cuenta de que la mayoría de las leyes solo apuntaban a los Camiones de Reparto (Distribución) o a la Caja Registradora (Monetización). Muy pocas leyes apuntaban realmente a la Fábrica (Creación) o a la Red Eléctrica (Infraestructura).
- Resultado: Esto mostró a los responsables políticos exactamente dónde estaban los vacíos. Podían ver que, para detener el problema, necesitaban regular la "Fábrica" y la "Red Eléctrica", no solo a los camiones de reparto.
4. El Objetivo: Detener el Juego de Golpea al Topo
El artículo concluye que no podemos ganar golpeando un solo topo a la vez. Necesitamos entender todo el ecosistema.
Al usar este mapa, investigadores, abogados y empresas tecnológicas pueden:
- Hablar el mismo idioma (utilizando términos consistentes para las diferentes partes del sistema).
- Ver las conexiones (entendiendo cómo un cambio en la "Red Eléctrica" afecta a la "Fábrica").
- Predecir el futuro (viendo cómo una nueva ley podría hacer que el problema se desplace a otra parte del mapa).
El objetivo final es pasar de un juego reactivo de "Golpea al Topo" a una estrategia proactiva que solucione todo el patio de recreo, haciendo mucho más difícil que este tipo de abuso ocurra desde el principio.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.