Resumen Técnico: RAIGen – Identificación de Atributos Raros en Modelos Generativos de Texto a Imagen

1. Declaración del Problema

Los modelos de difusión de texto a imagen (T2I), como Stable Diffusion, generan imágenes de alta fidelidad pero heredan y amplifican los sesgos de sus datos de entrenamiento. Mientras que el trabajo previo aborda esto mediante enfoques de conjunto cerrado (mitigando sesgos en categorías predefinidas como género o raza) o enfoques de conjunto abierto (identificando atributos mayoritarios dominantes), persiste una brecha crítica. Los métodos existentes pasan por alto la subrepresentación sistemática de atributos raros o minoritarios que están codificados en las representaciones internas del modelo pero que son suprimidos durante la generación. Estos atributos pueden ser sociales, culturales o estilísticos y no necesariamente se conocen a priori. La supresión de los atributos dominantes no amplifica automáticamente estos rasgos subrepresentados; en su lugar, a menudo reasigna la masa de probabilidad de manera desigual. Existe la necesidad de un marco para descubrir sistemáticamente estos atributos minoritarios "suprimidos" sin depender de etiquetas predefinidas.

2. Metodología: Marco de Trabajo RAIGen

RAIGen es un marco de trabajo libre de etiquetas diseñado para identificar atributos raros directamente desde las representaciones latentes internas de los modelos de difusión. Opera a través de tres etapas principales:

2.1. Descomposición de Características mediante Autoencoders Dispersos Matryoshka (MSAEs)

Para mapear las representaciones internas entrelazadas en características semánticamente interpretables, RAIGen emplea Autoencoders Dispersos Matryoshka (MSAEs).

• Entrada: El marco extrae representaciones de cuello de botella ($h_t$) de un modelo de difusión durante el proceso de muestreo inverso (típicamente en el paso de tiempo final donde la información semántica se expresa con mayor fuerza).
• Arquitectura: Los MSAEs descomponen estas representaciones en una jerarquía de características latentes dispersas ($z$) a distintos niveles de granularidad.
• Selección de Nivel: Aunque los MSAEs ofrecen niveles de grano fino, RAIGen se centra en el nivel más grueso ($k_1$). Los niveles más finos suelen fragmentar un concepto único en partes localizadas y frágiles, mientras que el nivel más grueso produce características semánticas y espacialmente coherentes, adecuadas para identificar atributos globales.

2.2. El Puntaje de Minoría (Minority Score)

Para distinguir los atributos raros y significativos del ruido o de las características comunes, RAIGen introduce un Puntaje de Minoría ($s$) que combina dos señales complementarias:

1. Frecuencia de Activación ($\nu$): La proporción de muestras en un conjunto de datos donde un neurona específica está activa. Los atributos raros corresponden a neuronas con una baja frecuencia de activación.
2. Distintividad Semántica ($d$): La distancia de coseno entre el centroide de CLIP ponderado por la activación de la neurona ($\mu_i$) y el centroide global del conjunto de datos ($\mu_{D_c}$). Esto asegura que la neurona represente un concepto que se desvía significativamente de la semántica promedio del conjunto de datos.

El puntaje se calcula como:
$$s(z) = d \odot (1 - \nu)$$
Esta formulación prioriza las neuronas que son tanto infrecuentemente activas como semánticamente distintas.

2.3. Pipeline de Descubrimiento y Verificación

• Clasificación: Las neuronas se clasifican por su Puntaje de Minoría.
• Desduplicación: Para asegurar un conjunto compacto y diverso, la redundancia se evalúa mediante distancias de coseno por pares entre los centroides de las neuronas. Se filtran las neuronas con semánticas similares, reteniendo solo la representante con el puntaje más alto.
• Interpretabilidad: Las imágenes de mayor activación para las neuronas seleccionadas se visualizan con mapas de calor de activación de MSAE. Se generan anotaciones legibles por humanos utilizando Modelos de Lenguaje de Gran Escala Multimodales (MLLMs) para describir los atributos descubiertos.
• Naturaleza Libre de Etiquetas: El proceso no requiere categorías de minorías predefinidas ni etiquetas de atributos, basándose únicamente en las representaciones internas del modelo y en un prior semántico preentrenado (CLIP) para la medición de la distintividad.

3. Contribuciones Clave

1. Primer Marco Libre de Etiquetas: RAIGen es el primer marco, según conocimiento de los autores, para la identificación de atributos raros en modelos de difusión que no requiere categorías de minorías predefinidas. Cambia el enfoque de la identificación de sesgos dominantes hacia el descubrimiento de características minoritarias suprimidas codificadas en el modelo.
2. Novedoso Métrica de Minoría: El artículo propone una métrica que combina la frecuencia de activación de neuronas y la distintividad semántica, validada como un proxy fiable para identificar conceptos subrepresentados.
3. Auditoría y Amplificación Sistemática: RAIGen demuestra la capacidad de revelar atributos más allá de las categorías fijas de equidad a través de múltiples arquitecturas (Stable Diffusion 1.4, 2, XL y FLUX.1-schnell). Además, permite la amplificación dirigida de estos atributos raros mediante intervenciones ligeras en los prompts.

4. Resultados Experimentales

Los autores evaluaron RAIGen en Stable Diffusion v1.4, SDXL y FLUX.1-schnell utilizando prompts de WinoBias (basados en ocupación) y COCO (escenas diversas).

• Validación del Heurístico: En un entorno de juguete controlado con factores raros de verdad de campo conocidos, los autores demostraron que los latentes activados con menor frecuencia en los MSAEs se mapean desproporcionadamente a características raras (correlación de Spearman $\rho \approx 0.991$), validando la frecuencia de activación como un proxy de la rareza.
• Rendimiento Cuantitativo: En WinoBias y COCO, los atributos descubiertos por RAIGen mostraron una "Presencia de Atributo" significativamente menor (aprox. 0.20) en comparación con los atributos mayoritarios identificados por OpenBias (aprox. 0.94), confirmando que RAIGen aisla las características suprimidas.
• Hallazgos Cualitativos: RAIGen descubrió con éxito diversos atributos minoritarios, incluyendo:
  • Social/Equidad: Médicas mujeres, sheriffs mujeres.
  • Contextual/Estilístico: Médicos en retratos enmarcados, médicos con gráficos médicos, trenes con grandes columnas de humo, trenes de vista lateral con desenfoque de movimiento y mujeres con cabello de textura afro-rizada.
  • Trans-Arquitectura: El método se generalizó a modelos basados en transformadores (FLUX.1-schnell), aunque con mapas de calor ligeramente más difusos en comparación con las arquitecturas U-Net.
• Estudio de Usuario: Un estudio con 25 participantes confirmó que los atributos descubiertos por RAIGen son perceptualmente raros. Para cinco profesiones, los participantes reportaron la presencia de estos atributos en menos de 3 de cada 10 imágenes generadas en promedio, validando que estas características están codificadas pero subexpresadas en el muestreo estándar.
• Amplificación: El uso de las anotaciones de RAIGen para revisar los prompts resultó en una reducción sustancial de la desviación de la presencia de atributos (por ejemplo, de 0.50 a 0.22 en SD v1.4), demostando que la reintroducción de descriptores minoritarios aumenta eficazmente la cobertura de los modos subrepresentados.

5. Significado y Reivindicaciones

El artículo posiciona a RAIGen como una herramienta fundamental para la auditoría integral de los modelos generativos. Su importancia radica en:

• Cerrar la Brecha: Aborda la limitación de las herramientas actuales de mitigación de sesgos que solo manejan categorías conocidas o tendencias mayoritarias, permitiendo el descubrimiento de los "desconocidos desconocidos" en el espacio latente del modelo.
• Descubrimiento Basado en la Representación: Al fundamentar el descubrimiento en las representaciones internas del modelo en lugar de en modelos de mundo externos, RAIG-en identifica las características que el modelo realmente ha aprendido pero que decide no expresar.
• Utilidad Práctica: Proporciona un mecanismo para la amplificación dirigida, permitiendo a los desarrolladores mejorar sistemáticamente la diversidad de los resultados generados sin necesidad de reentrenar el modelo.

Los autores mantienen una postura modesta, señalando que RAIGen solo puede hacer emerger atributos que ya están codificados en el modelo; no puede descubrir minorías socialmente relevantes que el modelo no haya logrado aprender por completo. Sugieren que RAIGen debe verse como un componente de un marco de auditoría híbrido, que complemente los priors semánticos externos (como las herramientas basadas en LLM) para proporcionar una visión completa de la subrepresentación. También reconocen el posible uso indebido, como la generación deliberada de imágenes sensibles o estereotipadas, enfatizando la necesidad de gobernanza y salvaguardas.