💻 computer science

Bias Taught: Linguistic and Model Stereotypes in AI-Based Educational Evaluations

Este estudio revela que los modelos de lenguaje de gran tamaño exhiben sesgos lingüísticos y culturales sistemáticos en las evaluaciones educativas, generando valoraciones con variaciones en dificultad y longitud entre idiomas que se correlacionan con las puntuaciones de PISA, al tiempo que refuerzan estereotipos que enfatizan la empatía en contextos occidentales frente a la jerarquía en contextos asiáticos, lo que hace necesarias auditorías culturalmente sostenibles antes de su implementación.

Autores originales: Vianney Gomezgil Yaspik, Ari Bersch, Ian Stebbins

Publicado 2026-10-06

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Vianney Gomezgil Yaspik, Ari Bersch, Ian Stebbins

Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el aula moderna, una revolución silenciosa está teniendo lugar. Profesores y estudiantes recurren cada vez más a la inteligencia artificial, específicamente a los modelos de lenguaje extensos, para ayudar a diseñar exámenes, calificar trabajos y ofrecer retroalimentación. Estos programas informáticos están entrenados con vastas cantidades de texto de internet, aprendiendo a predecir qué palabras deben seguir a otras en una oración. Debido a que son tan buenos imitando la escritura humana, las escuelas están comenzando a utilizarlos para crear materiales educativos para estudiantes de todo el mundo. Sin embargo, existe una creciente preocupación de que estas herramientas podrían no ser tan neutrales como parecen. Al igual que una persona puede tener creencias inconscientes sobre cómo aprenden diferentes grupos de personas, estos programas informáticos podrían haber absorbido sesgos similares de los datos con los que fueron alimentados. Si un sistema de IA trata a un estudiante de manera diferente simplemente porque hizo una pregunta en un idioma distinto, podría crear un entorno de aprendizaje injusto que refuerce viejos estereotipos en lugar de ayudar a los estudiantes a tener éxito.

Un equipo de investigadores del Bowdoin College decidió probar si estas herramientas digitales eran verdaderamente imparciales. Se propusieron ver si el idioma que un estudiante usaba para pedir ayuda cambiaría la dificultad del trabajo que la computadora le asignaba. Para hacer esto, pidieron a cuatro de los modelos de IA más populares que crearan exámenes de matemáticas, lectura y ciencias para estudiantes de quince años. Dieron exactamente las mismas instrucciones a cada computadora, pero tradujeron esas instrucciones a ocho idiomas diferentes: árabe, inglés, francés, alemán, hindi, mandarín, portugués y español. En total, los investigadores recolectaron más de cuatro mil respuestas de las máquinas. Luego analizaron la longitud de los exámenes, qué tan difíciles decían los modelos que eran los exámenes y qué tipo de comportamientos pensaban los modelos que hacían a un "buen" o "mal" estudiante y profesor.

Los resultados revelaron un patrón sorprendente. Cuando los investigadores pidieron a la IA que creara un examen en hindi o mandarín, la computadora generó consistentemente tareas mucho más largas y difíciles que cuando se le pidió realizar la misma tarea en árabe, alemán o español. Por ejemplo, un modelo estimó que un examen de matemáticas escrito en mandarín le tomaría a un estudiante dos horas completar, mientras que un examen en español tomaría menos de una hora, a pesar de que las instrucciones eran idénticas. Los modelos también calificaron la dificultad de los exámenes en hindi y mandarín como significativamente mayor. Esto no fue un error aleatorio; las diferencias eran tan consistentes que aparecieron en los cuatro sistemas de IA diferentes que los investigadores probaron. El estudio encontró que la dificultad y la longitud de los exámenes generados por IA coincidían fuertemente con los rankings internacionales reales del rendimiento estudiantil. En otras palabras, las computadoras parecían creer que los estudiantes de países con altas puntuaciones en exámenes merecían un trabajo más difícil, mientras que los estudiantes de países con puntuaciones más bajas merecían un trabajo más fácil, independientemente del estudiante real sentado frente a la pantalla.

Más allá de solo crear exámenes, los investigadores también le preguntaron a la IA que describiera cómo es un "buen" profesor o estudiante. Aquí, también, el idioma utilizado cambió la respuesta. Cuando el prompt estaba en inglés, alemán o portugués, la IA tendía a describir a los buenos profesores como empáticos, pacientes y enfocados en construir relaciones con los estudiantes. Sin embargo, cuando el prompt estaba en hindi o mandarín, la IA describía a los buenos profesores como estrictos, disciplinados y enfocados en el conocimiento y la jerarquía. Del mismo modo, los modelos describieron a los "malos" estudiantes de manera diferente dependiendo del idioma. En algunos idiomas, la IA se enfocaba en la falta de disciplina o la procrastinación, mientras que en otros, se enfocaba en la falta de respeto o el mal comportamiento general. Estas diferencias sugieren que la IA no solo está traduciendo palabras; está extrayendo de una base de datos de estereotipos culturales sobre cómo funciona la educación en diferentes partes del mundo.

Los investigadores fueron cuidadosos al verificar si estas diferencias se debían simplemente a que diferentes países tienen diferentes currículos escolares. Consultaron con un grupo de educadores de todo el mundo para ver si la IA solo estaba siguiendo estándares nacionales. Encontraron que las diferencias de currículo solo podían explicar una fracción mínima de los resultados. La gran mayoría de la variación provenía de la propia IA. El estudio sugiere que estos programas informáticos han aprendido a asociar ciertos idiomas con expectativas académicas específicas, actuando efectivamente como espejos de las desigualdades globales. Si un estudiante en un país no occidental utiliza un tutor de IA, podría recibir una carga de trabajo mucho más pesada o un tipo de retroalimentación diferente que un estudiante en un país occidental, simplemente por el idioma que habla.

Esta investigación resalta un problema crítico para el futuro de la educación. A medida que las escuelas dependen más de la inteligencia artificial para diseñar lecciones y evaluar estudiantes, existe el riesgo de que estas herramientas refuercen silenciosamente estereotipos dañinos. La IA no está tomando estos juicios porque comprenda a los estudiantes; está repitiendo patrones que encontró en sus datos de entrenamiento. El estudio concluye que, antes de que estas herramientas se utilicen ampliamente en las aulas, es necesario auditarlas para asegurar que no traten a los estudiantes de manera desigual basándose en su idioma. Sin este control, la promesa de una educación personalizada y global podría convertirse, en cambio, en un sistema que profundice la brecha entre los estudiantes, enseñándoles que su potencial está definido por el idioma que hablan en lugar de sus propias capacidades.

Resumen Técnico: Sesgo Aprendido: Estereotipos Lingüísticos y de Modelo en las Evaluaciones Educativas Basadas en IA

Planteamiento del Problema
La rápida integración de los Modelos de Lenguaje de Gran Escala (LLM) en los flujos de trabajo educativos —específicamente para la generación de evaluaciones, traducción y evaluación de estudiantes— plantea preocupaciones críticas sobre la equidad algorítmica. Aunque estos modelos se despliegan globalmente, están entrenados en corpus multilingües sesgados que pueden reproducir estereotipos culturales y lingüísticos. La investigación existente sobre el sesgo de la IA en la educación se ha centrado mayoritariamente en resultados en lengua inglesa o en tareas de calificación estrechas, dejando un vacío en la comprensión de cómo prompts pedagógicos idénticos producen resultados dispares en diferentes idiomas y contextos culturales. Este estudio aborda el riesgo del "imperialismo cognitivo", donde las tecnologías educativas aparentemente neutrales codifican inequidades sistémicas, lo que podría moldear oportunidades de aprendizaje desiguales para los estudiantes basándose únicamente en el idioma de su interacción.

Metodología
El estudio emplea un enfoque de métodos mixtos que combina el análisis cuantitativo de los resultados de los modelos con la validación cualitativa de educadores globales.

Recopilación de Datos: Los investigadores consultaron cuatro de los principales LLM (GPT-4o de OpenAI, Claude 3.7 de Anthropic, Gemini 2.0 de Google y DeepSeek Chat V3) utilizando prompts idénticos traducidos a ocho idiomas: árabe, inglés, francés, alemán, hindi, mandarín, portugués y español.
Alcance de las Tareas: Los prompts se dirigieron a tres dominios: (1) Evaluación del estudiante (identificación de comportamientos "buenos" vs. "malos"), (2) Evaluación del docente (identificación de comportamientos efectivos vs. ineficaces) y (3) Creación de tareas (generación de evaluaciones de matemáticas, lectura y ciencias para jóvenes de 15 años, reflejando las áreas temáticas de PISA).
Volumen: Se recolectaron un total de $N = 4.508$ respuestas de los modelos.
Validación: Los prompts fueron redactados en inglés, traducidos mediante DeepL (con el hindi vía Google Translate) y verificados en cuanto a neutralidad por expertos lingüísticos de la Universidad de Cambridge. Se llevaron a cabo cuatro grupos focales con 19 educadores internacionales para validar la selección de los prompts e interpretar los resultados.
Marco Analítico:
- Cuantitativo: Las métricas de autoevaluación (tiempo estimado de finalización y calificaciones de dificultad) se analizaron mediante pruebas t de Welch, ANOVA de un factor y cálculos de tamaño del efecto (Cohen's $d$ ).
- PLN (Procesamiento de Lenguaje Natural): Se utilizaron la extracción de palabras clave (KeyBERT) y embeddings multilingües (paraphrase-multilingual-MiniLM-L12-v2) para agrupar temas latentes en las descripciones de comportamiento mediante el agrupamiento de k-medias (k-means clustering).
- Correlación: Las métricas de dificultad y longitud generadas por la IA se correlacionaron con los datos de rendimiento educativo del mundo real del Programa para la Evaluación Internacional de Alumnos (PISA).

Resultos Clave
El estudio identifica diferencias interlingüísticas sistemáticas y estadísticamente significativas en los resultados de los modelos:

Longitud y Dificultad de las Tareas: Los prompts idénticos en hindi y mandarín produjeron consistentemente evaluaciones significativamente más largas y difíciles en comparación con el árabe, el alemán o el español. Por ejemplo, los exámenes de matemáticas en mandarín se estimaron para tomar aproximadamente el doble de tiempo que sus equivalentes en español.
- Significancia Estadística: El ANOVA confirmó diferencias significativas entre los modelos tanto para la longitud ( $F(3, 86) = 13,68, p < 0,001$ ) como para la dificultad ( $F(3, 86) = 15,42, p < 0,001$ ).
- Variación entre Modelos: Claude exhibió la mayor variación inter-modelo, con varias comparaciones por pares que mostraron tamaños de efecto grandes ( $d > 0,8$ ).
Correlación con las Puntuaciones PISA: Existe una fuerte correlación positiva entre la dificultad/longitud de las tareas generadas por IA y las puntuaciones de desempeño PISA de las regiones correspondientes a cada idioma ( $r = 0,76$ para dificultad; $r = 0,61$ para longitud). Esto sugiere que los modelos internalizan las jerarquías académicas globales, asignando una mayor dificultad a los idiomas asociados con naciones de alto rendimiento.
Estereotipos de Comportamiento:
- Rasgos de Docentes/Estudiantes: Los prompts en lenguas occidentales (inglés, alemán, portugués) enfatizaron la empatía, la agencia y la conexión emocional. En contraste, los prompts en hindi y mandarín destacaron la jerarquía, la disciplina y la autodisciplina, reforzando los estereotipos del "genio asiático" o el "padre tigre".
- Comportamientos Negativos: La "falta de respeto" fue una preocupación primordial en hindi e inglés, mientras que la "procrastinación" fue enfatizada fuertemente en las respuestas en mandarín.
Currículo vs. Sesgo: El análisis de los grupos focales sugirió que las diferencias en los currículos nacionales explicaron solo el 5–7% de la variación observada, lo que indica que la mayor parte de la disparidad proviene de los sesgos en los datos de entrenamiento y los procesos de ajuste fino (fine-tuning), más que de diferencias pedagógicas legítimas.

Contribuciones Clave

Cuantificación del Sesgo Multilingüe: El artículo proporciona evidencia empírica robusta de que los LLM generan experiencias educativas desiguales basándose únicamente en el idioma de entrada, desafiando la suposición de neutralidad del modelo.
Análisis de Temas de Comportamiento: A diferencia de estudios previos centrados en la precisión de la calificación, este trabajo analiza cómo los modelos codifican estereotipos culturales respecto a la dinámica docente-estudiante y las expectativas de comportamiento a través de los idiomas.
Vinculación de la Producción de la IA con Métricas Globales: Al correlacionar el sesgo de la IA con las puntuaciones PISA, el estudio demuestra que los modelos no solo reflejan ruido aleatorio, sino que están reproduciendo activamente las estratificaciones académicas globales establecidas.
Rigor Metodológico: El uso de un conjunto de datos a gran escala ( $N = 4.508$ ), la verificación translingüística y la triangulación con grupos focales de educadores ofrece un marco integral para auditar la IA educativa.

Significancia y Reivindicaciones
Los autores afirman que estos hallazgos revelan que los LLM funcionan como agentes de "estratificación educativa". La reproducción sistemática de estereotipos —como el mito del "genio asiático" o la suposición de que la educación occidental es inherentemente más empática— conlleva el riesgo de crear bucles de retroalimentación que desfavorecen a las comunidades lingüísticas minoritarias. El artículo sostiene que estos sesgos no son meros artefactos técnicos, sino cuestiones de equidad que pueden conducir a perfiles injustos en admisiones, tutorías y evaluaciones institucionales.

El estudio concluye que los marcos actuales de equidad son insuficientes. En lugar de una simple detección de sesgos, los autores abogan por "marcos culturalmente sostenibles" que afirmen las diversas tradiciones pedagógicas. Afirman que, sin auditorías de equidad sistemáticas y una reconsideración de los datos de entrenamiento, la IA educativa continuará incrustando prejuicios históricos en los entornos de aprendizaje futuros, perjudicando sistemáticamente a los estudiantes basándose en su trasfondo lingüístico.

Más como este