💻 computer science

Unmasking LAION-5B: Age, Gender, Race, and Emotion Biases in Large-Scale Image Datasets

Este estudio revela que el ampliamente utilizado conjunto de datos LAION-5B exhibe sesgos demográficos significativos y consistentes, incluyendo la sobrerrepresentación de hombres blancos jóvenes y la subrepresentación de grupos minoritarios y mujeres mayores, junto con asociaciones estereotípicas entre el género y las expresiones emocionales que podrían impactar negativamente a los sistemas de IA derivados.

Autores originales: Iris Dominguez-Catena, Daniel Paternain, Mikel Galar

Publicado 2026-06-23

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Iris Dominguez-Catena, Daniel Paternain, Mikel Galar

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que internet es una biblioteca masiva y caótica que contiene miles de millones de libros (imágenes) y sus títulos (leyendas). El conjunto de datos LAION-5B es como un robot gigante y automatizado que entró en esta biblioteca, agarró un enorme montón de estos libros y se los entregó a artistas de IA para enseñarles a dibujar.

Este artículo es un "informe de lectura" sobre ese montón específico de libros. Los autores querían ver: ¿Quién está realmente en estas imágenes y qué están haciendo? Descubrieron que el robot no tomó una muestra justa y aleatoria de la humanidad. En su lugar, tomó una multitud muy específica y sesgada.

Aquí está lo que descubrieron, desglosado de forma sencilla:

1. El problema del "Quién": Una multitud sesgada

Los autores analizaron unos 80,000 rostros en el conjunto de datos utilizando dos "cámaras inteligentes" diferentes (modelos de IA llamados FairFace y DeepFace) para adivinar la edad, el género y la raza de las personas.

La brecha de edad: El conjunto de datos está obsesionado con los adultos jóvenes. Es como una fiesta donde casi todos tienen entre 20 y 39 años. Hay muy pocos niños, adolescentes o personas mayores (especialmente mayores de 60 años).
El desequilibrio de género: La multitud es mayoritariamente de hombres. En algunos recuentos, los hombres representan más del 70% de los rostros. Las mujeres están significativamente subrepresentadas.
La mezcla racial: El conjunto de datos está dominado por personas blancas (alrededor del 50–60%). Otros grupos raciales, como personas negras, indias y latinas, son mucho más raros de lo que son en el mundo real.

La analogía: Imagina que le pides a un robot que tome una foto de "personas" para un libro de texto escolar. En lugar de obtener una foto de una calle diversa de la ciudad, el robot solo tomó fotos de un grupo específico de hombres blancos jóvenes pasando el rato en una cafetería. Si le enseñaras a una IA a dibujar "personas" basándose en esto, pensaría que eso es todo lo que existe.

2. El problema del "Qué": Emociones estereotipadas

Los autores también observaron qué emociones mostraban estas personas (felices, enojadas, tristes, etc.). Descubrieron que el conjunto de datos refuerza viejos estereotipos sobre cómo "deberían" actuar los diferentes grupos.

Hombres = Enojados: Cuando el conjunto de datos muestra hombres, es desproporcionadamente probable que parezcan enojados o disgustados.
Mujeres = Felices: Cuando el conjunto de datos muestra mujeres, es desproporcionadamente probable que parezcan felices.
La regla del "Hombre enojado, Mujer feliz": Este es un estereotipo clásico, y los datos muestran que está integrado en el material de entrenamiento.

La analogía: Es como un guion de película donde la única vez que aparece un hombre, este está gritando, y la única vez que aparece una mujer, ella está sonriendo. Si una IA aprende de este guion, pensará que así es como funciona el mundo.

3. El problema del "Doble Problema": Sesgo interseccional

Los autores no solo miraron la edad o el género por separado; miraron cómo se mezclan (como "mujeres de mediana edad" o "hombres negros jóvenes").

La mujer de mediana edad ausente: Este grupo es casi invisible en los datos.
La mujer joven sobrerepresentada: Las mujeres jóvenes (menores de 30 años) son muy comunes, pero a medida que las mujeres envejecen, desaparecen del conjunto de datos.
El bebé blanco sobrerepresentado: Aunque los bebés de minorías son raros, los bebés blancos son sorprendentemente comunes en el conjunto de datos.

La analogía: Si estuvieras construyendo un rompecabezas de la humanidad, tendrías un montón enorme de piezas de "Hombres blancos jóvenes" y "Mujeres blancas jóvenes", pero te faltarían casi todas las piezas de "Mujeres mayores" y "Hombres de minorías mayores". La imagen que construyas sería incompleta y distorsionada.

4. ¿Por qué es esto importante?

El artículo explica que los modelos de IA (como los que generan imágenes a partir de texto) aprenden memorizando patrones en este conjunto de datos.

El efecto espejo: Si el conjunto de datos es un espejo distorsionado, el resultado de la IA será un reflejo distorsionado.
La consecuencia: Si le pides a una IA que "dibuje un CEO", podría dibujar a un hombre blanco joven porque eso es lo que vio con más frecuencia. Si le pides que "dibuje a una persona feliz", podría dibujar a una mujer, y "una persona enojada", podría dibujar a un hombre.

Lo que el artículo NO dice

Es importante ceñirse a lo que los autores realmente encontraron:

No probaron los modelos de IA en sí mismos (como Stable Diffusion) para ver si producen imágenes malas; solo analizaron el material de origen (el conjunto de datos).
No afirmaron que este conjunto de datos sea el único problema, pero sí dijeron que es un problema "fundamental", lo que significa que muchas otras herramientas se construyen sobre él.
No ofrecieron una solución en este artículo, aparte de sugerir que los futuros conjuntos de datos necesitan una mejor curación y que necesitamos mejores herramientas para medir la diversidad.

La conclusión final

El conjunto de datos LAION-5B, que impulsa gran parte de la IA moderna, es como una lente de cámara sesgada. Se enfoca fuertemente en hombres blancos jóvenes y los vincula con la ira, mientras deja a las mujeres y a las personas mayores en un segundo plano o las vincula con la felicidad. Debido a que la IA aprende de esta lente, el artículo advierte que la "visión del mundo" que estas máquinas desarrollan es fundamentalmente desequilibrada, reflejando los sesgos de internet en lugar de la diversidad humana real.

Resumen Técnico: Desenmascarando los Sesgos de LAION-5B

Planteamiento del Problema

Los conjuntos de datos de gran escala de imagen-texto como LAION-5B sirven como la base de datos de entrenamiento para los sistemas modernos de IA generativa. Sin embargo, su naturaleza de recolección web sin curación plantea preocupaciones significativas respecto a los sesgos demográficos y estereotípicos. Mientras que investigaciones previas se han centrado en el contenido dañino o en los resultados estereotípicos derivados de los modelos entrenados con LAION-5B, la composición demográfica subyacente y los sesgos representacionales, estereotípicos e interseccionales específicos dentro del propio conjunto de datos permanecen insuficientemente explorados. Este estudio aborda el desafío de cuantificar estos sesgos inherentes en LAION-5B, examinando específicamente sus dos componentes principales: LAION-2B-en (inglés) y LAION-2B-multi (multilingüe).

Metodología

Dado la escala del conjunto de datos (miles de millones de pares), la anotación manual exhaustiva es inviable. Los autores emplearon un flujo de trabajo de inferencia automatizada sobre una muestra representativa de aproximadamente 1 millón de URLs de imágenes (lo que resultó en 79,902 rostros detectados tras el filtrado de calidad).

Procesamiento de Datos:

Muestreo: Se muestrearon 501,147 URLs de LAION-2B-en y 503,130 de LAION-2B-multi.
Detección de Rostros: Se utilizó el sistema RetinaFace para detectar rostros humanos. Las imágenes con resoluciones de rostro inferiores a 48×48 píxeles fueron descartadas para asegurar la calidad del análisis.
Inferencia Demográfica y de Emoción: Se utilizaron tres modelos de vanguardia:
- FairFace y DeepFace: Para estimar edad, género y raza. Las categorías de salida fueron alineadas (por ejemplo, fusionando subcategorías asiáticas) para asegurar la comparabilidad entre modelos.
- Emo-AffectNet: Para clasificar expresiones faciales (emociones).
Métricas de Sesgo:
- Sesgo Representacional: Analizado mediante las proporciones demográficas.
- Sesgo Interseccional y Estereotípico: Cuantificado mediante la métrica Z de Ducher. Esta métrica compara la coocurrencia observada de un grupo $g$ y una clase $y$ frente a la coocurrencia esperada si fueran independientes. Los valores oscilan entre -1 (subrepresentación máxima) y 1 (sobrerepresentación máxima).
Validación Estadística: Se utilizó una técnica de remuestreo bootstrap (1,000 repeticiones) para construir intervalos de confianza del 95% para los valores clave de la Z de Ducher para verificar la significancia estadística.

Principales Contribuciones

Análisis Demográfico Exhaustivo: Un desglose detallado de las distribuciones de edad, género, raza y emoción a través de una muestra sustancial (1,000,000 de URLs) de ambos LAION-2B-en y LAION-2B-multi.
Cuantificación del Sesgo Interseccional y Estereotípico: La aplicación de la métrica Z de Ducher para descubrir patrones de coocurrencia entre atributos demográficos (por ejemplo, género-edad, género-raza) y entre demografía y emociones.
Validación Cruzada de Modelos: El uso de dos modelos demográficos independientes (FairFace y DeepFace) para demostrar que los sesgos observados son sistémicos al conjunto de datos y no artefactos de una única herramienta de detección.

Resultados Clave

1. Sesgo Representacional (Distribución Demográfica)
Ambos componentes del conjunto de datos exhiben desequilibrios significativos, confirmados tanto por FairFace como por DeepFace:

Edad: Fuerte sobrerepresentación de adultos jóvenes (20–39 años).
Raza: Los individuos blancos son el grupo dominante (50–60%), superando ampliamente un punto de referencia equilibrado. Los grupos minoritarios (negros, indios, latinos hispanos) están consistentemente subrepresentados.
Género: Los hombres están sobrerepresentados (57–70% dependiendo del modelo), mientras que las mujeres están subrepresentadas.
Comparación: LAION-2B-en y LAION-2B-multi muestran perfiles altamente similares. LAION-2B-multi muestra una diversidad racial y representación de personas mayores ligeramente mayor, pero una disparidad de género más pronunciada.

2. Sesgo Interseccional
Utilizando la Z de Ducher, el estudio identificó sesgos fuertes y consistentes en emparejamientos demográficos específicos:

Género–Edad: Las mujeres jóvenes (menores de 30 en FairFace, menores de 40 en DeepFace) y los hombres mayores están sobrerepresentados. Por el contrario, las mujeres de mediana edad y mayores están significativamente subrepresentadas.
Edad–Raza: Los bebés blancos están sobrerepresentados, mientras que los bebés y las personas mayores de grupos raciales minoritarios están subrepresentados.
Género–Raza: La subrepresentación de las mujeres de Oriente Medio fue consistente en todos los modelos.

3. Sesgo Estereotípico (Asociaciones Emoción–Demografía)
El análisis reveló asociaciones consistentes, aunque a veces más débiles, entre la demografía y las emociones expresadas:

Género: Los hombres están desproporcionadamente asociados con la "Ira" y el "Asco", mientras que las mujeres están sobrerepresentadas en la "Felicidad".
Edad: Los grupos más jóvenes están subrepresentados en "Ira" y "Asco", mientras que los grupos de mayor edad están subrepresentados en "Miedo", "Tristeza" y "Sorpresa".
Raza: Grupos específicos muestran una menor representación en ciertas emociones (por ejemplo, individuos indios en "Miedo" y "Sorpresa"; individuos latinos hispanos en "Ira" y "Tristeza").

Robustez Estadística:
El análisis bootstrap confirmó la estabilidad de estos hallazgos. Por ejemplo, el estereotipo de "hombre enojado" (Z=0.42) tuvo un IC del 95% de [0.4, 0.43], y la asociación de "mujer feliz" (Z=0.19) tuvo un IC de [0.18, 0.2], lo que indica que son características significativas del conjunto de datos.

Significado y Reivindicaciones

El artículo sostiene que estos sesgos están profundamente arraigados en uno de los conjuntos de datos de entrenamiento más utilizados para la IA generativa. La consistencia de estos patrones a través de dos modelos demográficos diferentes y ambos componentes del conjunto de datos sugiere que se trata de problemas sistémicos en lugar de ruido aleatorio.

Los autores argumentan que, debido a que LAION-5B se utiliza para entrenar modelos generativos (como Stable Diffusion), estos desequilibrios demográficos y asociaciones estereotípicas podrían moldear el comportamiento y los resultados de numerosos sistemas de IA derivados. Específicamente, los datos sugieren que los modelos entrenados con LAION-5B pueden heredar y amplificar los prejuicios sociales, como reforzar los roles de género (por ejemplo, hombres enojados, mujeres felices) y los estereotipos raciales.

El estudio concluye que, si bien el componente multilingüe (LAION-2B-multi) ofrece mejoras marginales en la diversidad racial y de edad, no resuelve los sesgos representacionales y estereotípicos fundamentales presentes en el conjunto de datos. Los autores enfatizan que comprender estos desequilibrios demográficos inherentes es crucial para abordar la equidad en la IA generativa, señalando que la composición del conjunto de datos sesga fundamentalmente la "visión del mundo" aprendida por estos modelos.

Limitaciones Reconocidas:
El artículo señala que sus hallazgos dependen de modelos auxiliares que pueden introducir sus propios sesgos, que las categorías demográficas están limitadas por las taxonomías de los modelos, y que los desequilibrios del conjunto de datos no se mapean de forma directa al sesgo del modelo sin una investigación posterior adicional.