Artificial Intelligence for Women's Empowerment in Saudi Higher Education: A Human-Centred and Ethical Framework

En el mundo moderno, las universidades ya no son solo lugares donde los estudiantes se sientan en aulas de conferencias y memorizan datos. Se están convirtiendo en ecosistemas complejos donde las computadoras ayudan a diseñar la experiencia de aprendizaje misma. Este cambio es impulsado por la inteligencia artificial, un término amplio para sistemas informáticos que pueden aprender de los datos, reconocer patrones y tomar decisiones que usualmente requieren inteligencia humana. En el contexto de la educación, estos sistemas pueden actuar como tutores personales, calificar tareas o predecir qué estudiantes podrían tener dificultades incluso antes de que reprueben un examen. Sin embargo, la tecnología nunca es neutral. La forma en que estas herramientas se construyen y se utilizan depende en gran medida de quién las construyó y para quién fueron construidas. Si un sistema es entrenado con datos de una parte del mundo, puede que no comprenda las vidas, los idiomas o los valores culturales de los estudiantes en otra. Esto crea una pregunta crítica: cuando un país intenta modernizar su sistema educativo mientras simultáneamente intenta elevar a un grupo específico de personas, ¿cómo se asegura que la tecnología ayude en lugar de obstaculizar?

Este es precisamente el desafío que enfrenta Arabia Saudita hoy. La nación ha lanzado un ambicioso plan nacional llamado Visión 2030, que tiene como objetivo diversificar su economía y transformar su sociedad. Dos pilares de este plan son la rápida adopción de la inteligencia artificial y el empoderamiento de las mujeres. Durante décadas, las mujeres en Arabia Saudita han sido excluidas de muchos aspectos de la vida pública, pero las reformas recientes han abierto puertas a la educación superior, la fuerza laboral y los roles de liderazgo. Ahora, mientras las universidades se apresuran a integrar tecnologías inteligentes, existe el riesgo de que estas herramientas puedan reforzar accidentalmente las viejas desigualdades o ignorar las necesidades específicas de las estudiantes mujeres. Un nuevo estudio de las investigadoras Wafa Muhammed Alajaji y Obby Phiri aborda esta intersección. Ellas argumentan que simplemente comprar el último software no es suficiente. En su lugar, proponen una nueva forma de pensar sobre cómo estas tecnologías deberían ser diseñadas y gobernadas para apoyar verdaderamente a la mujer saudí.

Las investigadoras comenzaron analizando el panorama actual. Encontraron que, si bien hay mucha investigación sobre cómo funciona la inteligencia artificial en las aulas, y mucha investigación sobre cómo empoderar a las mujeres, muy pocas personas han conectado ambos puntos. La mayoría de las directrices existentes para la inteligencia artificial están escritas como reglas globales amplias. Dicen a las instituciones que sean justas, transparentes y responsables, pero no explican cómo hacer eso cuando las estudiantes son mujeres saudíes navegando un entorno cultural y religioso específico. Por ejemplo, una regla estándar de privacidad podría decir "proteja los datos de los estudiantes", pero no aborda la sensibilidad específica que las mujeres saudíes podrían sentir respecto a sus datos de ubicación o sus horarios diarios, que a menudo están moldeados por responsabilidades familiares y normas culturales. Las autoras se dieron cuenta de que sin un marco adaptado a este contexto único, las universidades podrían adoptar herramientas que se ven bien en el papel pero que fallan en ofrecer un empoderamiento real.

Para resolver esto, las autoras desarrollaron un nuevo modelo llamado Marco de IA Ética Centrada en el Humano. Imagine un edificio con seis pisos distintos, cada uno sosteniendo al que tiene arriba. El piso inferior representa la política nacional, incluyendo la Visión 2030 y la estrategia del país para los datos y la inteligencia artificial. Esto establece las reglas y proporciona el financiamiento. El segundo piso es la universidad misma, verificando si tiene los líderes adecuados, las computadoras adecuadas y los maestros adecuados para manejar estas nuevas herramientas. El tercer piso es el más crítico: es donde viven los principios éticos. Aquí, las investigadoras definen qué es lo que se considera "bueno" para este contexto específico. Ellas insisten en la transparencia, para que las estudiantes sepan por qué una computadora hizo una sugerencia; la equidad, para que las herramientas funcionen para todos independientemente de su origen; y la privacidad, respetando los límites culturales de las estudiantes.

El cuarto piso es donde reside la tecnología real. Esto incluye cosas como tutores de IA que se adaptan a la velocidad de aprendizaje de un estudiante, o sistemas que ayudan a los estudiantes a encontrar la trayectoria profesional adecuada. En este nuevo modelo, la tecnología no viene primero. En su lugar, debe pasar a través de los filtros éticos del piso de abajo. Si una herramienta no puede cumplir con los estándares de privacidad o equidad, no debería usarse, sin importar qué tan avanzada sea. El quinto piso mide los resultados inmediatos en el aula, como si los estudiantes están aprendiendo mejor o sintiéndose más seguros. Finalmente, el piso superior representa el objetivo final: el empoderamiento de la mujer. Esto no es solo obtener un título; es si la educación conduce a roles de liderazgo reales, emprendimiento y la capacidad de tomar decisiones independientes sobre el propio futuro.

Las investigadoras no construyeron este modelo en el vacío. Lo fundamentaron en evidencia real mediante el estudio de las vidas de doce líderes escolares en Arabia Saudita. Encontraron que la mayoría de estas mujeres no ascendieron al liderazgo a través de un programa de capacitación formal y paso a paso. En cambio, llegaron allí a través de redes informales, conexiones personales y al ser notadas por un mentor que estaba en el lugar adecuado en el momento adecuado. Este es un hallazgo crucial. Sugiere que si las universidades simplemente conectan un sistema de inteligencia artificial en sus procesos de contratación o promoción sin un diseño cuidadoso, la computadora podría simplemente aprender del pasado. Podría terminar recomendando a las mismas personas de siempre, simplemente porque los datos con los que fue entrenada reflejan esos viejos patrones informales. Las autoras argumentan que, para que la inteligencia artificial sea verdaderamente empoderadora, debe ser diseñada para romper estos ciclos, ofreciendo formas transparentes y justas para que las mujeres sean reconocidas basándose en sus habilidades y no en sus conexiones.

El artículo también describe una hoja de ruta práctica sobre cómo las universidades pueden pasar de donde están ahora a donde necesitan estar. Sugiere comenzar con una evaluación honesta de sus capacidades actuales. ¿Tienen la infraestructura? ¿Están los maestros listos? Luego, deben construir un comité para supervisar la ética de cualquier nueva tecnología, asegurando que las mujeres y las estudiantes tengan voz en el proceso de toma de decisiones. Solo después de que estos cimientos se hayan establecido, la universidad debería comenzar a pilotar herramientas específicas, comenzando poco a poco y observando de cerca para ver si la tecnología está ayudando o perjudicando. El paso final es el monitoreo continuo, donde los resultados se retroalimentan constantemente al sistema para realizar mejoras. Este no es un arreglo de una sola vez, sino un proceso continuo de aprendizaje y ajuste.

Las implicaciones de este trabajo se extienden mucho más allá de las fronteras de Arabia Saudita. Las investigadoras sugieren que su enfoque ofrece un modelo para cualquier país que intente equilibrar el rápido cambio tecnológico con el progreso social. Ya sea en la región del Golfo, en el Medio Oriente u otras economías emergentes, la lección es la misma: la tecnología no puede ser algo secundario. Debe estar tejida en la estructura de los objetivos sociales desde el principio. Si una nación quiere empoderar a sus mujeres, no puede simplemente darles acceso a computadoras; debe asegurar que esas computadoras sean diseñadas teniendo en cuenta su dignidad, cultura y necesidades específicas. El estudio concluye que, sin este tipo de planificación cuidadosa y centrada en el ser humano, la inteligencia artificial corre el riesgo de convertirse en otra barrera más. Pero con el marco adecuado, tiene el potencial de ser un poderoso motor de cambio, ayudando a construir un futuro donde la educación realmente conduzca a la libertad y la oportunidad para todos.