Investigating Disability Representations in Text-to-Image Models

Este estudio analiza cómo los modelos de generación de imágenes texto-a-imagen representan a las personas con discapacidad, revelando desequilibrios persistentes y la necesidad de estrategias de mitigación para fomentar una representación más inclusiva.

Lo esencial

Imagina que tienes un chef de cocina muy talentoso llamado "Inteligencia Artificial". Este chef ha cocinado millones de platos (imágenes) basándose en recetas que encontró en internet (datos de entrenamiento). El problema es que, aunque el chef es increíblemente rápido y creativo, a veces repite los mismos errores o prejuicios que tenía la gente que escribió esas recetas originales.

Este estudio es como una inspección de cocina para ver cómo este chef trata a un grupo específico de comensales: las personas con discapacidad.

Aquí te explico los hallazgos principales usando analogías sencillas:

1. El "Disco Rayado" de la Discapacidad (Experimento 1)

Los investigadores le pidieron al chef: "Hazme una foto de una persona con discapacidad". No especificaron qué tipo.

• Lo que pasó: El chef, en lugar de mostrar una gran variedad de personas (alguien ciego, alguien sordo, alguien con una enfermedad mental), casi siempre sacó del mismo plato: una persona en silla de ruedas.
• La analogía: Es como si le pidieras a un camarero: "Trae un postre". Y el camarero, sin preguntar, te trae tarta de manzana 9 veces de cada 10, aunque en la tienda haya helado, pasteles y gelatinas. El chef asume que "discapacidad" es sinónimo de "silla de ruedas", ignorando a todos los demás.
• La diferencia entre chefs: Compararon dos chefs famosos:
  • Chef SDXL (Stable Diffusion): Es más "libre" (código abierto). Tiende a ser muy repetitivo y se aferra fuertemente a la silla de ruedas.
  • Chef DALL·E 3: Tiene más reglas y filtros de seguridad. Aunque también usaba mucho la silla de ruedas, intentó un poco más de variedad, pero seguía teniendo un sesgo claro.

2. La "Brújula Emocional" (Experimento 2)

Luego, los investigadores preguntaron: "¿Cómo se siente el ambiente en estas fotos?". Específicamente, compararon fotos de personas con trastornos mentales (como depresión o ansiedad) contra personas con discapacidades físicas (como ceguera o sordera).

• Lo que pasó:
  • Cuando el chef dibujaba a alguien con una discapacidad física (como un ciego con un bastón blanco), el ambiente solía ser luminoso, feliz o neutral. Parecía un día soleado en el parque.
  • Pero cuando pedía dibujar a alguien con un trastorno mental, el chef cambiaba drásticamente el ambiente: fondos oscuros, gente sola, expresiones tristes o de miedo.
• La analogía: Es como si el chef pensara: "Si alguien usa una silla de ruedas, seguro está disfrutando de un día soleado. Pero si alguien tiene depresión, debe estar en una habitación oscura y triste".
• El conflicto de opiniones:
  • Un robot analizador (que lee las etiquetas de las fotos) dijo: "El Chef SDXL es más negativo".
  • Pero personas reales que miraron las fotos dijeron: "No, el Chef DALL·E 3 es más negativo".
  • ¿Por qué? Porque el robot solo miraba si la persona sonreía o no. Pero las personas reales notaron que el Chef DALL·E 3 ponía a las personas con problemas mentales en escenarios muy oscuros y aislados, lo que se sentía mucho más triste, aunque la cara de la persona no estuviera llorando.

3. El "Filtro de Seguridad" que a veces falla

El estudio descubrió algo curioso sobre los "filtros de seguridad" que los chefs usan para no ser ofensivos.

• La analogía: Imagina que el Chef DALL·E 3 tiene un guardia de seguridad muy estricto que le dice: "¡No dibujes cosas ofensivas! Hazlo más diverso".
• El resultado: El guardia logró que el chef dibujara más tipos de personas físicas (sillas de ruedas, perros guía, etc.). ¡Pero! Al intentar "arreglar" la representación de la salud mental, el guardia terminó exagerando los estereotipos. En lugar de mostrar a alguien con ansiedad viviendo su vida normal, el chef lo puso en un escenario de película de terror, pensando que así era "más realista" o "más seguro", pero terminando siendo más estigmatizante.

Conclusión: ¿Qué nos dice todo esto?

Este estudio nos enseña que la Inteligencia Artificial no es un espejo neutral de la realidad. Es como un espejo deformante que ha aprendido de internet, y internet está lleno de prejuicios.

1. Simplifica demasiado: Cuando no le das detalles, la IA reduce la discapacidad a una sola imagen (silla de ruedas).
2. Crea dramas innecesarios: Asocia automáticamente la salud mental con la oscuridad y la tristeza, mientras que las discapacidades físicas se ven "más felices" de lo que a veces son.
3. Las correcciones tienen efectos secundarios: Intentar arreglar un problema (hacer la IA más segura) a veces crea otro problema nuevo (estereotipos más fuertes).

El mensaje final: Para que estas máquinas sean justas, no basta con pedirles que "sean mejores". Necesitamos escuchar a las personas con discapacidad reales para decirles a los chefs de IA: "No, así no es como vivimos. Míranos de verdad, no solo a través de tus prejuicios".

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo en español, estructurado según los puntos solicitados:

Título: Investigación de las Representaciones de la Discapacidad en Modelos de Texto-a-Imagen

1. Problema de Investigación

A pesar de los avances significativos en la calidad de los modelos generativos de texto a imagen (T2I) como Stable Diffusion XL (SDXL) y DALL·E 3, persisten preocupaciones sobre cómo estos sistemas representan a grupos sociales marginados. Mientras que sesgos relacionados con género y raza han sido ampliamente estudiados, las representaciones de las personas con discapacidad (PwD) permanecen subexploradas.

El problema central radica en que estos modelos, entrenados en grandes conjuntos de datos extraídos de internet, heredan y reproducen estereotipos sociales, incluyendo el "tecno-abilismo" (la visión de la discapacidad como un problema a corregir). Existe una falta de comprensión sobre:

• Si los modelos tienden a reducir la discapacidad a una sola categoría estereotipada (generalmente la discapacidad motora).
• Cómo las estrategias de mitigación de representaciones (implementadas por desarrolladores para diversificar salidas) influyen en la representación de la discapacidad, especialmente en la diferenciación entre discapacidades físicas/sensoriales y trastornos mentales.
• La brecha entre la evaluación automática y la humana sobre el tono afectivo (positivo, neutral o negativo) de las imágenes generadas.

2. Metodología

El estudio se divide en dos experimentos principales utilizando los modelos Stable Diffusion XL (SDXL) y DALL·E 3.

Experimento 1: Diferencias en la Representación (Similitud de Prompts)

• Diseño: Se compararon prompts genéricos ("foto de una persona con discapacidad") con prompts específicos ("foto de una persona con discapacidad motora", "ciega", "sorda").
• Datos: Se generaron 100 imágenes por prompt y modelo (total 800 imágenes).
• Métrica: Se calcularon puntuaciones de similitud coseno utilizando los embeddings de CLIP.
• Análisis: Se midió qué tan visualmente se acercan las imágenes de categorías específicas a la representación genérica. Un alto grado de similitud indica que el modelo "defaultea" (asume por defecto) esa categoría específica como la representación estándar de la discapacidad.

Experimento 2: Impacto de las Estrategias de Mitigación (Análisis de Sentimiento)

• Objetivo: Evaluar cómo las diferentes estrategias de mitigación (SDXL tiene filtros más laxos; DALL·E 3 tiene mitigaciones estrictas) afectan el encuadre afectivo.
• Categorías: Se centró en trastornos mentales (bipolaridad, depresión, ansiedad) y se comparó con discapacidades físicas/sensoriales.
• Evaluación Dual:
  1. Automática: Uso del sistema BLIP VQA para generar descripciones textuales de las imágenes, seguidas de un clasificador de sentimiento (modelo roberta-base-sentiment) para determinar polaridad (positiva, neutral, negativa).
  2. Humana: Evaluadores humanos compararon pares de imágenes (modelo vs. modelo y grupo de discapacidad vs. grupo) para juzgar cuál transmitía un estado de ánimo más negativo. Se midió la confianza y la concordancia inter-evaluadores.

3. Contribuciones Clave

• Cuantificación del Sesgo de Default: Proporciona evidencia empírica de que los modelos T2I reducen la diversidad de la discapacidad a la discapacidad motora (sillas de ruedas) cuando se les pide una representación genérica.
• Análisis Comparativo de Mitigación: Investiga cómo las técnicas de mitigación de los desarrolladores (como las de DALL·E 3) pueden tener efectos paradójicos: diversificar ciertas salidas pero potencialmente amplificar estereotipos en otras (específicamente en trastornos mentales).
• Discrepancia Automatización-Humano: Destaca la limitación de las evaluaciones automáticas basadas en texto (que a menudo fallan al capturar el contexto atmosférico o postural) frente a la evaluación humana, que detecta matices de "encuadre negativo" en escenas oscuras o aisladas.
• Marco de Evaluación Afectiva: Introduce un enfoque para analizar no solo qué se representa, sino cómo se siente la representación (tono emocional), diferenciando entre discapacidades físicas y mentales.

4. Resultados Principales

• Sesgo hacia la Discapacidad Motora (Exp. 1):

  • Tanto SDXL como DALL·E 3 mostraron la mayor similitud visual entre el prompt genérico y la discapacidad motora.
  • SDXL mostró una inclinación más fuerte hacia la discapacidad motora como representación "por defecto" en comparación con DALL·E 3.
  • Las discapacidades sensoriales (ceguera, sordera) estuvieron significativamente subrepresentadas en relación con la motora en ambos modelos, aunque DALL·E 3 mostró una distribución ligeramente más equilibrada.

• Encuadre Afectivo y Trastornos Mentales (Exp. 2):

  • Análisis Automático (BLIP): Sugirió que SDXL generaba más descripciones negativas, mientras que DALL·E 3 producía más términos positivos.
  • Evaluación Humana: Contradiciendo al análisis automático, los evaluadores humanos juzgaron las imágenes de DALL·E 3 como significativamente más negativas que las de SDXL.
  • Explicación: DALL·E 3 generó escenas con fondos oscuros, figuras aisladas y atmósferas melancólicas para trastornos mentales, lo cual los humanos percibieron como negativo, aunque BLIP (que se centra en expresiones faciales) no lo detectó.
  • Comparación Grupal: Ambos modelos representaron los trastornos mentales de manera más negativa que las discapacidades físicas/sensoriales. Sin embargo, DALL·E 3 amplió esta brecha: mostró discapacidades físicas en contextos positivos/diversos, pero trastornos mentales en contextos oscuros y estigmatizantes.

5. Significado e Implicaciones

• Refuerzo de Estereotipos por Mitigación: El estudio revela que las estrategias de mitigación diseñadas para diversificar las representaciones pueden, paradójicamente, reforzar estereotipos dañinos al asignar características redundantes o exageradas a ciertos grupos (ej. asociar trastornos mentales inevitablemente con oscuridad y aislamiento).
• Limitaciones de la Evaluación Automática: Se demuestra que las métricas automáticas actuales son insuficientes para capturar el "encuadre afectivo" y los estereotipos contextuales sutiles, subrayando la necesidad de incluir evaluaciones humanas y comunitarias.
• Necesidad de Inclusión Real: Los modelos actuales no son neutrales; codizan sesgos sociales. Para lograr una IA verdaderamente inclusiva, es necesario ir más allá de la simple diversificación de atributos y abordar cómo se construyen las narrativas visuales y emocionales alrededor de la discapacidad.
• Recomendaciones Futuras: Se insta a involucrar a personas con discapacidad en los procesos de evaluación y a expandir el análisis a interseccionalidades (género, etnia) y a la representación de tecnologías de asistencia (AT) de manera respetuosa.

En conclusión, el artículo advierte que sin una evaluación crítica y continua, los modelos generativos corren el riesgo de perpetuar una visión de la discapacidad que es tanto estereotipada (centrada en la movilidad) como afectivamente sesgada (asociando la salud mental con el estigma visual).