Resumen Técnico: Generación de Imágenes Temerosas

Declaración del Problema

Este artículo investiga un potencial "ciclo desvirtuoso" dentro del entorno de información moderno, donde los modelos de IA generativa (GenAI) y los medios visuales en línea interactúan para amplificar el contenido emocional negativo. Los autores plantean la hipótesis de que los sistemas de GenAI, entrenados con vastas cantidades de datos de rastro digital de las redes sociales, pueden exhibir un sesgo sistémico hacia la producción de imágenes que evocan emociones negativas —específicamente el miedo— independientemente del tono emocional del texto del usuario. Este sesgo podría perpetuar un bucle de retroalimentación: los creadores de contenido producen medios cargados emocionalmente para generar interacción (engagement), los modelos de IA sobre-representan estas emociones negativas en el contenido generado, y este contenido es posteriormente ingerido en futuros conjuntos de datos de entrenamiento, sesgando aún más los modelos.

Metodología

Conjuntos de Datos

El estudio utiliza dos conjuntos de datos primarios:

1. EmoSet: Un conjunto de datos multiclasificación de 118,102 imágenes anotadas con una de ocho emociones discretas (Diversión, Asombro, Contento, Excitación, Ira, Asco, Miedo, Tristeza) utilizando el modelo de Mikels. Se utilizó para el ajuste fino (fine-tuning) y la validación de modelos de reconocimiento de emociones en imágenes.
2. DiffusionDB: Un conjunto de datos de prompts de texto a imagen a gran escala que contiene 14 millones de imágenes generadas por Stable Diffusion. Los autores analizaron un subconjunto de 10,000 pares de prompt-imagen (el subconjunto "2m-first-10k") para comparar los prompts de origen con las imágenes generadas.

Pipeline de Reconocimiento de Emociones

Para evaluar el sesgo emocional, los autores desarrollaron y validaron métodos automatizados para el reconocimiento de emociones en ambas modalidades:

• Reconocimiento de Emociones en Imágenes: Los autores evaluaron tres enfoques: modelos de visión-lenguaje zero-shot (BLIP, CLIP, ALBEF), un pipeline de auto-captioning y clasificadores de imágenes ajustados. Realizaron el ajuste fino de tres arquitecturas (Vision Transformer de Google, Swin Transformer de Microsoft y ConvNeXT) sobre el conjunto de datos EmoSet. El Vision Transformer (ViT) de Google ajustado logró el mayor F1 score promedio macro (0.7343) y fue seleccionado como la herramienta principal para el análisis de imágenes.
• Reconocimiento de Emociones en Texto: Para los prompts de texto, los autores emplearon Demux-MEmo, un modelo de vanguardia diseñado para el reconocimiento de emociones multietiqueta. Probaron configuraciones pre-entrenadas en los benchmarks SemEval-2018, Paletz y GoEmotions. Se eligió Demux-MEmo por su capacidad para manejar estados emocionales complejos y multietiqueta, y para resolver predicciones contradictorias (por ejemplo, distinguir entre emociones co-ocurrentes como miedo y tristeza).
• Alineación Transmodal: Para comparar las etiquetas de texto y de imagen, los autores mapearon los diversos conjuntos de emociones de los modelos de texto (por ejemplo, las 27 clases de GoEmotions) a la agrupación de Ekman y las categorías de EmoSet. Este mapeo colapsó las emociones positivas en una única etiqueta de "Alegría" para asegurar la consistencia entre modalidades.

Medición del Sesgo

El objetivo central fue medir el "sesgo emocional no intencionado" calculando las Tasas de Verdaderos Positivos (TPR) y las Tasas de Falsos Positivos (FPR) para cada emoción:

• TPR (Recall): La frecuencia con la que una imagen evoca la emoción E dado que el prompt contenía la emoción E.
• FPR: La frecuencia con la que una imagen evoca la emoción E dado que el prompt no contenía la emoción E.
• Definición de Sesgo: Una emoción se considera sesgada si el modelo exhibe tanto un alto TPR (replicando fuertemente la emoción del prompt) como un alto FPR (generando la emoción incluso cuando no fue solicitada). Los autores utilizaron bootstrapping con 1,000 remuestreos para calcular los valores medios de TPR/FPR e intervalos de confianza del 95%.

Resultados Clave

1. Validación del Modelo

El modelo ViT ajustado demostró un rendimiento robusto en el conjunto de datos EmoSet, superando significativamente a las líneas base zero-shot y de auto-captioning. La validación en el conjunto externo Emotion6 mostró una alta concordancia con las anotaciones humanas, con la excepción de la "ira", donde el modelo tuvo un desempeño notablemente inferior. Crucialmente, las pruebas en imágenes de ruido gaussiano aleatorio mostraron que el modelo no exhibió un sesgo por defecto fuerte hacia ninguna emoción individual, lo que sugiere que los sesgos observados en la generación no son artefactos del modelo de reconocimiento en sí.

2. Correlaciones Transmodales

Al comparar el conjunto completo de emociones entre los prompts de texto y las imágenes generadas, las correlaciones fueron generalmente débiles. Incluso tras agregar a las seis emociones de Ekman, las correlaciones siguieron siendo bajas (correlación transmodal promedio de 0.0327), siendo el "miedo" el que mostró la correlación máxima de 0.0609. Esto indica que la distribución emocional en las imágenes generadas no refleja naturalmente la distribución en los prompts de origen.

3. Evidencia de Sesgo Sistémico de Miedo

El análisis del subconjunto de DiffusionDB reveló un sesgo distintivo hacia el miedo:

• Stable Diffusion: El miedo exhibió el TPR más alto (aprox. 60%) y el FPR más alto (cerca del 40%). Esto sugiere que si un prompt evoca miedo, es probable que la imagen también lo haga; inversamente, si un prompt no evoca miedo, todavía existe una probabilidad significativa de que la imagen generada lo haga.
• Otras Emociones: Los TPR para la tristeza, el asco, la sorpresa y la ira fueron bajos (<50%), y los FPR para estas emociones también fueron bajos (<10%), lo que indica que rara vez se generan a menos que se soliciten explícitamente. La "Alegría" fue la única otra emoción preservada a través de las modalidades más de un tercio de las veces.

4. Generalizabilidad entre Modelos

Para determinar si este sesgo era específico de Stable Diffusion, los autores probaron:

• GPT-Image-1.5 de OpenAI: Utilizando 1,642 prompts de DiffusionDB, el modelo GPT exhibió un perfil de sesgo casi idéntico, con el miedo presentando los TPR y FPR más altos.
• Stable Diffusion XL (SDXL): Usando los mismos prompts, SDXL también mostró las tasas más altas para el miedo, seguido de la alegría. Aunque SDXL mostró una separación ligeramente mayor en los FPR para otras emociones en comparación con los otros modelos, el dominio del miedo se mantuvo constante.

Significancia y Reivindicaciones

El artículo afirma proporcionar evidencia empírica que respalda la hipótesis de que los modelos de IA generativa poseen una propensión estructural a sobre-representar el miedo, independientemente del prompt de entrada. Los autores argumentan que esto es probablemente resultado de que los datos de entrenamiento sobre-representan el contenido temeroso, el cual es, a su vez, producto de la naturaleza de la generación de interacción de las redes sociales.

La significancia de estos hallazgos radica en el potencial de un "ciclo desvirtuoso":

1. Los sistemas de IA generan imágenes que inducen miedo incluso cuando no se solicita.
2. Estas imágenes entran en el entorno de información digital.
3. Dado que las emociones negativas son contagiosas y impulsan la interacción, este contenido recibe una alta visibilidad.
4. Este contenido es posteriormente ingerido en los datos de entrenamiento para la siguiente generación de modelos de IA, reforzando y amplificando el sesgo.

Los autores concluyen que este sesgo plantea riesgos para el bienestar psicológico de los usuarios (particularmente respecto a la ansiedad) y podría influir en la movilización política y la inestabilidad. Abogan por un enfoque multidisciplinario para alinear mejor el reconocimiento de emociones de la IA con los conocimientos psicológicos y desarrollar herramientas que permitan a los usuarios y diseñadores mitigar estos sesgos.

Limitaciones

El artículo reconoce varias limitaciones:

• Desajuste de Etiquetas: La falta de un mapeo perfecto de 1 a 1 entre las taxonomías de emociones utilizadas para el texto (GoEmotions, Paletz, SemEval) y las de las imágenes (EmoSet/Mikels) hizo necesario colapsar categorías, lo que potencialmente puede oscurecer matices.
• Multiclase vs. Multietiqueta: El conjunto de datos EmoSet obliga a una única etiqueta de emoción por imagen (multiclase), mientras que la experiencia emocional humana es a menudo multietiqueta. Esta simplificación puede no capturar plenamente la complejidad de la evocación emocional.
• Falta de Clase Neutra: Los modelos de imagen están entrenados para identificar una emoción dominante incluso en imágenes neutras, lo que puede conducir a comparaciones sesgadas con los modelos de texto que pueden identificar niveles bajos de múltiples emociones o la neutralidad.

Los autores hacen un llamado a la creación de nuevos y exhaustivos conjuntos de datos de emoción-imagen que utilicen calificaciones numéricas multietiqueta para abordar estas limitaciones estructurales en trabajos futuros.