🤖 AI

Generating the Modal Worker: A Cross-Model Audit of Race and Gender in LLM-Generated Personas Across 41 Occupations

Este estudio audita más de 1,5 millones de personas generadas por cuatro grandes modelos de lenguaje en 41 ocupaciones y revela que, al compararse con datos reales, estos sistemas comprimen la diversidad demográfica y distorsionan sistemáticamente la representación racial y de género, subrepresentando a trabajadores blancos y negros mientras exageran la presencia de hispanos y asiáticos, lo que sugiere sesgos estructurales compartidos en lugar de defectos específicos de cada modelo.

Autores originales: Ilona van der Linden, Sahana Kumar, Arnav Dixit, Aadi Sudan, Smruthi Danda, David C. Anastasiu, Kai Lukoff

Publicado 2026-03-30

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Ilona van der Linden, Sahana Kumar, Arnav Dixit, Aadi Sudan, Smruthi Danda, David C. Anastasiu, Kai Lukoff

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes un chef de cocina muy inteligente que puede inventar personajes para una novela, un videojuego o una película. Este chef no cocina con ingredientes reales, sino con "datos" que ha leído en internet: millones de libros, noticias y páginas web.

El artículo que acabas de leer es como una auditoría de cocina (un control de calidad) para ver qué tipo de personajes crea este chef cuando le pedimos que invente trabajadores para 41 trabajos diferentes (desde médicos hasta camioneros).

Aquí tienes la explicación sencilla, con algunas analogías para que sea más fácil de entender:

1. El Experimento: "El Chef de la Realidad"

Los investigadores le pidieron a cuatro chefs diferentes (cuatro Inteligencias Artificiales famosas: GPT-4, Gemini, DeepSeek y Mistral) que crearan 1.5 millones de perfiles de personas trabajando en Estados Unidos.

La pregunta: ¿Los personajes que inventan estas IAs se parecen a la gente real que trabaja en esos puestos?
La referencia: Compararon lo que crearon las IAs con los datos reales del gobierno (el BLS), que es como el "libro de contabilidad" oficial de quién trabaja en qué.

2. El Problema Principal: "El Chef que no se atreve a variar"

Lo que descubrieron es que las IAs no están creando una "mezcla realista" de personas. En su lugar, están creando copia y pega de estereotipos.

La analogía del "Sello Único": Imagina que pides al chef que invente 100 ingenieros. En lugar de darte una mezcla de hombres, mujeres, blancos, negros, asiáticos y latinos (como en la vida real), el chef te da 99 ingenieros que son exactamente iguales (por ejemplo, 99 hombres blancos).
El resultado: Las IAs son muy "perezosas" o "seguras". En lugar de mostrar la diversidad real, eligen un solo tipo de persona para cada trabajo y la repiten hasta el infinito. Es como si el mundo real fuera un arcoíris, pero la IA te mostrara solo un color, y siempre el mismo.

3. Los Dos Tipos de "Errores" de la IA

Los investigadores dividieron los errores en dos categorías, como si fueran dos tipos de trucos de magia fallidos:

A. El Truco del "Desplazamiento" (Cambio de base)

A veces, la IA simplemente cambia la cantidad de personas de un grupo.

Lo que pasó: Las IAs borraron casi por completo a los trabajadores negros de muchos trabajos (como si no existieran), y exageraron la presencia de trabajadores latinos y asiáticos en ciertos roles.
Ejemplo: Si pides un "conserje", la IA te inventará un 99% de conserjes latinos, aunque en la realidad la diversidad sea mayor. Es como si la IA tuviera un "gafas de realidad aumentada" que solo le permite ver a ciertos grupos en ciertos trabajos.

B. El Truco del "Exagerador" (Amplificar estereotipos)

A veces, la IA no solo cambia la cantidad, sino que toma un estereotipo y lo hace extremo.

La analogía del "Zoom": Imagina que en la vida real hay un 20% de mujeres en ingeniería. La IA, en lugar de poner un 20%, pone un 80% o un 90%. O al revés: si hay pocos hombres en enfermería, la IA pone casi cero.
El efecto: Esto hace que los trabajos parezcan más "puros" de lo que son. Si un trabajo es mayoritariamente de mujeres, la IA lo hace 100% de mujeres. Si es de hombres, lo hace 100% de hombres. Elimina la zona gris.

4. ¿Es culpa de un solo chef? (La sorpresa)

Lo más inquietante del estudio es que todos los chefs hicieron lo mismo.

No importa si la IA es de Estados Unidos, China o Francia. Todas tienen el mismo "sabor" sesgado.
La analogía: Es como si cuatro cocinas diferentes, con recetas y dueños distintos, decidieran todas usar la misma sal muy extraña. Esto sugiere que el problema no es un "error de un solo chef", sino que todos comen de la misma despensa (los datos de internet) que ya tiene estos prejuicios. La IA aprendió lo que vio en internet, y en internet, los estereotipos ya existen.

5. ¿Por qué nos importa?

Si usamos estas IAs para diseñar videojuegos, contratar personal o crear historias:

El peligro: Si un niño juega a un videojuego donde el chef siempre es un hombre y la enfermera siempre es una mujer, pensará que eso es lo "normal".
La realidad: La gente deja de soñar con ciertos trabajos porque "no se ve a nadie como ellos" en la pantalla.
La solución: Necesitamos saber que estas máquinas tienen "gafas de realidad distorsionada" para poder corregirlas. No podemos confiar en que la IA nos muestre el mundo tal como es; a veces, nos muestra un mundo caricaturesco donde los estereotipos son la única ley.

En resumen

El estudio nos dice que las Inteligencias Artificiales actuales, cuando crean personas, no son espejos de la realidad, sino lentes de aumento de los prejuicios. Tienden a borrar a algunos grupos (como los trabajadores negros en muchos sectores) y a exagerar a otros, creando un mundo artificial donde los roles de género y raza son mucho más rígidos y estereotipados que en la vida real.

La buena noticia es que ahora sabemos cómo funciona este "truco de magia", lo cual es el primer paso para arreglarlo.

1. El Problema

El uso de herramientas de Inteligencia Artificial Generativa (IAG) para representar personas en roles profesionales está en aumento. Sin embargo, existe una preocupación crítica sobre los sesgos de representación racial y de género en estos sistemas.

Contexto: Históricamente, las plataformas digitales han marginado a grupos minoritarios en roles profesionales (ej. enfermeras como mujeres, ingenieros como hombres).
Nueva Amenaza: A diferencia de los motores de búsqueda que recuperan contenido existente, los Grandes Modelos de Lenguaje (LLM) generan personas sintéticas. El riesgo no es solo la subrepresentación, sino la distorsión sistemática de la visibilidad social, la exageración de estereotipos y la creación de una "monocultura algorítmica" donde las demografías sintéticas no reflejan la realidad ni la diversidad esperada.
Pregunta Central: ¿Cómo difieren sistemáticamente las representaciones demográficas generadas por IA de las estadísticas reales y cómo varían estas distorsiones entre modelos con orígenes institucionales y culturales diferentes?

2. Metodología

Los autores realizaron una auditoría a gran escala comparando datos generados por IA con datos reales del Bureau of Labor Statistics (BLS) de EE. UU.

Modelos Auditados: Se evaluaron cuatro LLMs principales con diferentes orígenes institucionales y culturales:
- GPT-4 (OpenAI, EE. UU.)
- Gemini 2.5 (Google, EE. UU.)
- DeepSeek V3.1 (DeepSeek, China)
- Mistral-medium (Mistral AI, Francia)
Datos Generados: Se crearon más de 1.5 millones de perfiles ocupacionales (personas) a través de 41 ocupaciones en EE. UU. (ej. ingenieros, enfermeras, conductores, chefs).
Procedimiento:
- Se utilizó un prompt fijo: "Generate a profile for: in the United States".
- Se generaron 10,000 perfiles por modelo y ocupación (1,000 para DeepSeek debido a restricciones de API).
- Las salidas se estructuraron en JSON (nombre, edad, género, etnia, salario, etc.).
Análisis Estadístico:
- Comparación Directa: Diferencias en puntos porcentuales (pp) entre la salida del modelo y los datos del BLS.
- Descomposición de Desplazamiento/Exageración: Se utilizaron regresiones logísticas para separar dos tipos de sesgos:
  - Desplazamiento Sistemático ( $\alpha$ ): Sub o sobre-representación uniforme de un grupo.
  - Pendiente de Estereotipo ( $\beta$ ): Exageración o reducción de las brechas demográficas existentes (si la pendiente > 1, hay exageración; si < 1, hay reducción).
- Concentración Modal: Se midió la entropía de Shannon para determinar si los modelos generan demografías de manera "modal" (asignando siempre el mismo grupo) o "distribucional" (variando según la realidad).

3. Contribuciones Clave

Caracterización del Comportamiento Modal: Se demuestra que la generación de género es predominantemente modal (los modelos asignan un único género dominante por ocupación, reduciendo drásticamente la variación real), mientras que la generación racial es más variable entre modelos pero consistentemente más concentrada que la realidad.
Marco de Descomposición Diagnóstica: Introducen una metodología para separar el desplazamiento demográfico uniforme (ej. "todos los modelos muestran menos personas negras") de la exageración de estereotipos a nivel ocupacional (ej. "los modelos exageran la segregación en roles específicos").
Auditoría Transversal: Al comparar modelos de EE. UU., China y Europa, demuestran que los sesgos no son meros artefactos de diseño específicos de un modelo, sino que revelan fuentes estructurales compartidas de sesgo, probablemente arraigadas en los datos de entrenamiento web a gran escala.

4. Resultados Principales

A. Comportamiento Modal y Entropía

Género: Los modelos (especialmente DeepSeek y Mistral) generan perfiles casi exclusivamente de un solo género por ocupación (entropía muy baja). Por ejemplo, en la mayoría de las ocupaciones, el 100% de los perfiles generados tienen el mismo género.
Raza: Aunque hay más variación, los modelos siguen siendo mucho más concentrados que la realidad. Gemini es una excepción parcial, mostrando una distribución racial más cercana a la realidad, pero aún mantiene comportamientos modales extremos en ocupaciones estereotipadas (ej. 99.9% de los "housekeepers" generados como hispanos).
Identidades Mixtas: Hay una eliminación casi total de identidades multirraciales (<1% de los perfiles), a pesar de que el BLS reporta una participación significativa.

B. Desplazamientos Sistemáticos (RQ1)

Género: Las mujeres están ligeramente sobrerrepresentadas en promedio, pero de manera desigual: se exagera su presencia en roles profesionales de alto estatus (ingenieros, biólogos) y en roles tradicionalmente femeninos.
Raza:
- Blancos: Subrepresentados en -31 puntos porcentuales (pp) en promedio.
- Negros: Subrepresentados en -9 pp, lo que equivale a una casi eliminación de este grupo en muchas ocupaciones, excepto en roles estereotipados (ej. conductor de autobús, guardia de seguridad).
- Hispanos: Sobrerrepresentados en +17 pp.
- Asiáticos: Sobrerrepresentados en +12 pp.

C. Exageración de Estereotipos (RQ2)

Género: Los modelos siguen un patrón en forma de S. Exageran las brechas de género: si una ocupación es mayoritariamente masculina en la realidad, el modelo la hace aún más masculina; si es femenina, la hace más femenina.
Raza:
- Exageración: Los grupos hispanos y asiáticos muestran una pendiente positiva, lo que significa que el modelo amplifica su presencia en los roles donde ya son mayoritarios (ej. asiáticos en roles científicos, hispanos en servicios de limpieza).
- Supresión: Para los trabajadores negros, la pendiente es negativa o cercana a cero, indicando una supresión sistemática en lugar de una exageración. No se exagera su presencia en roles estereotipados, sino que se borran de la mayoría de los roles.

D. Comparación Transversal (RQ3)

A pesar de las diferencias culturales y de origen (EE. UU., China, Europa), los cuatro modelos muestran convergencia estructural en sus patrones de sesgo.
La única diferencia notable es que Gemini tiene un régimen de generación racial más distribucional (menos modal) debido a intervenciones de diversidad, pero aún falla en roles altamente estereotipados.
En cuanto a salarios, los modelos tienden a igualar los salarios entre géneros dentro de una misma ocupación, ignorando la brecha salarial real de EE. UU.

5. Significado e Implicaciones

No es solo ruido aleatorio: Los sesgos en la IA generativa son distorsiones estructurales. No se trata de errores puntuales, sino de patrones sistemáticos que reconfiguran la visibilidad demográfica.
El peligro de la "Monocultura Algorítmica": Dado que modelos de diferentes orígenes convergen en los mismos sesgos, existe un riesgo de homogeneización de la representación en aplicaciones del mundo real (diseño UX, simulaciones de contratación, datos sintéticos).
Matices en la "Justicia": La desviación de la realidad no siempre es negativa (ej. sobrerrepresentar mujeres en roles de liderazgo podría verse como aspiracional), pero la eliminación de grupos (como los trabajadores negros en muchos sectores) es un daño representacional grave.
Necesidad de Nuevos Marcos de Evaluación: Las métricas agregadas de equidad son insuficientes. Se requiere un enfoque que distinga entre desplazamientos uniformes y la exageración de estereotipos específicos por ocupación.
Limitaciones de las Intervenciones: Las medidas de seguridad post-entrenamiento (como las de Gemini) pueden alterar la distribución general, pero no eliminan los estereotipos profundos arraigados en los datos de entrenamiento, especialmente en roles de baja estatus.

En conclusión, el estudio advierte que la integración de personas sintéticas en productos y procesos requiere auditorías continuas y multiculturales para evitar que la IA solidifique y amplifique las desigualdades sociales existentes bajo una apariencia de "neutralidad" técnica.