Decolonizing AI Ethics in Education: A Systematic Review and Glocalized Framework (FGAIEE)

Imagina un mundo donde las reglas sobre cómo nos tratamos unos a otros son escritas por un único grupo de personas, utilizando únicamente su propia historia y lenguaje, y luego aplicadas a todos los demás. Esta es la realidad actual de la inteligencia artificial en las escuelas. A medida que las computadoras se vuelven más inteligentes, se utilizan cada vez más para calificar exámenes, recomendar lecciones e incluso decidir quién entra en una universidad. Pero las directrices éticas destinadas a mantener estos sistemas justos son creadas mayoritariamente en naciones ricas y occidentales. Estas directrices asumen que todo el mundo piensa, habla y aprende de la misma manera. Cuando estas reglas se aplican a estudiantes en África, Asia o América Latina, a menudo fallan. Pueden malinterpretar el acento de un estudiante, ignorar los valores culturales locales o, simplemente, no funcionar porque la conexión a internet es demasiado lenta. El resultado es un sistema que afirma ser justo pero que, en realidad, empuja a ciertos grupos más hacia el margen.

Este desequilibrio ha suscitado una nueva pregunta entre los investigadores: ¿quién decide qué es lo correcto? Un equipo de académicos de Indonesia se ha propuesto responder a esto analizando cómo se utilizan realmente las éticas de la IA en las aulas de todo el mundo. No se limitaron a leer las reglas; examinaron los 84 estudios publicados que discuten a las personas que escribieron las directrices, los estudiantes a los que afectan y los lugares donde se utilizan. Su objetivo era encontrar una forma de hacer que la ética de la IA funcione para todos, no solo para los pocos que ostentan el poder de escribir las directrices. Ellos llaman a este enfoque "glocal", una mezcla de lo global y lo local, sugiriendo que las buenas reglas deben crearse teniendo en cuenta al mundo entero, pero construidas para adaptarse a las necesidades específicas de cada comunidad.

Los investigadores comenzaron recopilando 84 estudios diferentes publicados entre 2015 y 2025. Buscaron cualquier investigación que discutiera cómo se utiliza la IA en la educación y si era justa. Filtraron miles de artículos, conservando solo aquellos que ofrecían evidencia real o un análisis profundo de cómo funcionan estos sistemas en la práctica. Prestaron especial atención a los estudios del "Sur Global", un término utilizado para describir regiones que a menudo han sido dejadas fuera de las conversaciones principales sobre tecnología, incluyendo países de África, América Latina y partes de Asia. Al centrarse en estas voces dentro de la literatura existente, el equipo esperaba ver un panorama diferente de cómo debería ser la IA ética.

Lo que encontraron fue una división clara. La gran mayoría de las reglas y directrices provienen de instituciones de Europa y América del Norte. Estas reglas se escriben a menudo como una lista de verificación simple de valores, como "ser justo" o "ser transparente". Sin embargo, el estudio muestra que estas listas de verificación rara vez cambian la forma en que las cosas funcionan realmente en las escuelas de otras partes del mundo. En muchos casos, a las escuelas del Sur Global se les dice que adopten estas reglas occidentales sin haberles pedido su opinión. Los investigadores descubrieron que cuando los sistemas de IA se construyen utilizando únicamente datos en inglés e ideas occidentales, cometen errores con más frecuencia para los estudiantes que hablan otros idiomas o provienen de diferentes contextos culturales. Por ejemplo, las herramientas de calificación automatizada suelen tener dificultades con los hablantes no nativos de inglés, otorgándoles puntuaciones más bajas no porque su trabajo sea peor, sino porque la computadora no entiende su forma de hablar.

El estudio también reveló que las personas que se supone que deben ser protegidas por estas reglas —profesores, estudiantes y líderes locales— rara vez forman parte del proceso de toma de decisiones. En los pocos casos en que las comunidades locales participaron, la participación fue a menudo una mera formalidad, un requisito que cumplir en lugar de una verdadera asociación. Los investigadores señalaron que cuando se ignoran las voces locales, la tecnología a menudo no logra resolver los problemas que pretendía solucionar. En lugar de ayudar a todos a aprender, puede profundizar las desigualdades existentes, dificultando que aquellos que ya están luchando por mantenerse al día puedan avanzar.

Sin embargo, la historia no termina con un fracaso. Los investigadores también descubrieron un movimiento creciente de soluciones locales que están funcionando mucho mejor. En Ghana, por ejemplo, las escuelas están utilizando un concepto llamado "Ubuntu", que enfatiza que una persona es persona a través de otras personas. Esta idea se utiliza para diseñar sistemas de IA que se centran en la confianza comunitaria y la responsabilidad compartida, en lugar de solo en las puntuaciones individuales. En el sudeste asiático, se está utilizando otro enfoque llamado "gotong royong", que significa trabajar juntos por el bien común, para asegurar que todos tengan voz en cómo se utiliza la tecnología. Estos métodos locales no son solo pequeños ajustes a las grandes reglas globales; son formas completamente diferentes de entender qué es lo correcto y lo incorrecto. Tratan el conocimiento local como algo tan importante como la ciencia occidental.

El equipo concluyó que la forma actual de hacer las cosas está rota porque trata la ética como un producto de talla única. Argumentan que debemos dejar de intentar imponer un único conjunto de reglas a todo el mundo. En su lugar, proponen un nuevo marco llamado Marco para la Ética de la IA Glocalizada en la Educación. Este enfoque sugiere que las reglas éticas deben construirse desde la base. Significa que, cuando una escuela en un país diferente quiera utilizar la IA, debe poder moldear las reglas para que se ajusten a su propia cultura, idioma y necesidades. También significa que las empresas que venden estas herramientas deberían estar obligadas a demostrar que sus sistemas funcionan de manera justa para los estudiantes locales antes de poder venderlos.

Los investigadores sugieren tres pasos principales para lograr esto. Primero, el conocimiento que guía estos sistemas debe provenir de muchos lugares diferentes, no de uno solo. Segundo, las personas que utilizan la tecnología deben tener una voz real en cómo se diseña y se supervisa. Tercero, debe haber consecuencias reales si la tecnología no logra ser justa, como negarse a comprar herramientas que no funcionen para todos. Esto no es solo cuestión de ser amables; se trata de asegurar que la tecnología realmente funcione. El estudio muestra que cuando las comunidades locales participan en el diseño, la confianza en el sistema aumenta y la tecnología se vuelve más útil para todos.

Esta nueva forma de pensar no significa desechar todas las reglas antiguas. Al contrario, significa cambiar la forma en que las creamos. Se trata de reconocer que hay muchas formas de ser ético, del mismo modo que hay muchas formas de hablar un idioma o impartir una lección. Los investigadores creen que si podemos construir un sistema que respete estas diferencias, podemos crear una IA que realmente ayude a todos los estudiantes a aprender. No dicen que esto sea fácil ni que vaya a suceder de la noche a la mañana. Pero tienen claro que el camino actual, donde unos pocos grupos poderosos deciden por todos, no está funcionando. El futuro de la IA en la educación depende de escuchar a las personas que realmente la utilizan y de asegurar que sus voces sean escuchadas en el diseño de las herramientas que darán forma a sus futuros.