Agents of ViTAL: Ethics Missions -- A Narrative-Centered Learning Environment with a Co-Designed Conversational Agent for Middle School AI Ethics

En el aula moderna, la tecnología ya no es solo una herramienta para impartir lecciones; se está convirtiendo en un participante en el propio proceso de aprendizaje. Los sistemas de inteligencia artificial son cada vez más capaces de analizar el comportamiento de los estudiantes, ofrecer retroalimentación e incluso predecir el rendimiento futuro. Si bien estas herramientas prometen eficiencia y personalización, también introducen preguntas complejas sobre la privacidad, la equidad y los costos ocultos del poder de cómputo. Para los jóvenes que crecen en un mundo saturado de algoritmos, comprender cómo funcionan estos sistemas y qué compensaciones éticas conllevan se está volviendo tan esencial como leer o escribir. El desafío para los educadores no es simplemente enseñar la mecánica del código, sino ayudar a los estudiantes a navegar las decisiones difíciles que surgen cuando la tecnología se encuentra con los valores humanos. Esto requiere un espacio donde los alumnos puedan ponerse en los zapatos de los tomadores de decisiones, sopesar intereses contrapuestos y practicar el arte del razonamiento ético en un entorno que se sienta real, incluso si el escenario es imaginario.

Un equipo de investigadores de diversas universidades de los Estados Unidos ha desarrollado una nueva forma de llevar estos conceptos abstractos al aula de la escuela secundaria. Crearon un entorno de aprendizaje digital llamado "Agents of ViTAL: Ethics Missions", una experiencia basada en el navegador donde los estudiantes trabajan juntos para resolver un problema ficticio. En este escenario, una escuela secundaria está considerando si adoptar un nuevo sistema de inteligencia artificial llamado PresenterPal, diseñado para proporcionar retroalimentación instantánea en las discusiones de clase. Los estudiantes no son oyentes pasivos; son los tomadores de decisiones. Entran en un espacio virtual que mezcla el orden silencioso de una biblioteca con la naturaleza experimental de un laboratorio, conocido como la "Libratory". Aquí, conocen a guías digitales que preparan el escenario para su misión: investigar si la escuela debe seguir adelante con esta tecnología.

Una vez que comienza la investigación, los estudiantes exploran una versión simulada de la escuela, reuniendo información de diversas personas que se verían afectadas por el nuevo sistema. Hablan con maestros, estudiantes, administradores y personal de TI, recolectando evidencia como reportes de noticias sobre brechas de datos o notas sobre limitaciones presupuestarias. A medida que avanzan por la simulación, se encuentran con situaciones específicas que los obligan a enfrentar las tres dimensiones éticas principales de la inteligencia artificial: la privacidad, el sesgo y el impacto ambiental. Por ejemplo, al configurar el sistema, los estudiantes deben decidir si almacenan los datos de interacción de los estudiantes en servidores locales dentro de la escuela o en servidores en la nube en otro lugar. Esta elección no es meramente técnica; tiene peso. Almacenar datos localmente podría proteger la privacidad pero estresar el presupuesto limitado de la escuela, mientras que usar la nube podría ofrecer mejor seguridad pero generar preocupaciones sobre quién más puede acceder a la información. Estos momentos están diseñados para mostrar que rara vez existe una solución perfecta, solo una serie de compromisos difíciles.

Después de reunir su evidencia, los estudiantes pasan a una fase colaborativa conocida como el Desafío de Clasificación (Ranking Challenge). En esta parte de la experiencia, el grupo debe llegar a un consenso sobre qué riesgos y beneficios del sistema de IA son más importantes. Utilizan un tablero digital compartido para clasificar estos factores, discutiendo su razonamiento en una ventana de chat integrada. Este tablero actúa como un registro visual de su pensamiento colectivo, ayudándoles a ver cómo sus visiones individuales cambian a medida que escuchan a los demás. El objetivo no es encontrar una única respuesta "correcta", sino practicar la habilidad de justificar compensaciones utilizando la evidencia que encontraron anteriormente. Deben articular por qué valoran la privacidad sobre la conveniencia, o por qué creen que los costos ambientales importan más que la eficiencia inmediata, y luego acordar una recomendación final para la escuela.

Apoyando todo este proceso se encuentra un compañero digital llamado EthicsBot. A diferencia de un profesor tradicional o un motor de búsqueda que proporciona respuestas, EthicsBot está diseñado para actuar como un compañero de pensamiento similar a un par. No les dice a los estudiantes qué pensar; en su lugar, les hace preguntas que los impulsan a considerar perspectivas alternativas, aclarar su propio razonza y reflexionar sobre el peso ético de sus elecciones. El sistema fue construido con un enfoque único en su creación: los propios estudiantes ayudaron a diseñar el bot. A través de un proceso de co-diseño, estudiantes de secundaria proporcionaron comentarios que dieron forma a la manera en que el bot habla, lo que sugiere y los límites de seguridad que sigue para evitar dar información errónea. Esto asegura que la herramienta se sienta relevante para los alumnos y respete su voz en el desarrollo de la tecnología que están estudiando.

Los investigadores probaron este entorno con cuatro clases de noveno grado, involucrando a ochenta estudiantes que habían dado su consentimiento para participar. Los resultados mostraron que los estudiantes estaban profundamente comprometidos con el material. No solo jugaron un juego; demostraron una capacidad para el razonamiento ético sustantivo, conectando los escenarios ficticios de la simulación con sus propias experiencias de la vida real con la tecnología. Los estudiantes pudieron discutir temas complejos como la seguridad de los datos y el sesgo algorítmico con un nivel de matiz que sugiere que el enfoque narrativo es efectivo. Al colocar a los estudiantes en el papel de participantes activos en lugar de receptores pasivos de información, el sistema les ayuda a desarrollar la confianza y las habilidades necesarias para navegar en un mundo cada vez más automatizado. El proyecto sugiere que cuando los jóvenes tienen el espacio para explorar estos dilemas de manera colaborativa, pueden desarrollar una comprensión sofisticada del panorama ético de la inteligencia artificial.