Agents of ViTAL: Ethics Missions -- A Narrative-Centered Learning Environment with a Co-Designed Conversational Agent for Middle School AI Ethics

Na sala de aula moderna, a tecnologia não é mais apenas uma ferramenta para a entrega de lições; ela está se tornando uma participante no próprio processo de aprendizagem. Sistemas de inteligência artificial são cada vez mais capazes de analisar o comportamento dos alunos, oferecer feedback e até prever o desempenho futuro. Embora essas ferramentas prometam eficiência e personalização, elas também introduzem questões complexas sobre privacidade, justiça e os custos ocultos do poder computacional. Para jovens que crescem em um mundo saturado de algoritmos, compreender como esses sistemas funcionam e quais compensações éticas eles envolvem está se tornando tão essencial quanto ler ou escrever. O desafio para os educadores não é simplesmente ensinar a mecânica do código, mas ajudar os alunos a navegar pelas decisões difíceis que surgem quando a tecnologia encontra os valores humanos. Isso requer um espaço onde os aprendizes possam calçar os sapatos dos tomadores de decisão, pesar interesses conflitantes e praticar a arte do raciocínio ético em um ambiente que pareça real, mesmo que o cenário seja imaginário.

Uma equipe de pesquisadores de universidades de todos os Estados Unidos desenvolveu uma nova maneira de trazer esses conceitos abstratos para a sala de aula do ensino fundamental. Eles criaram um ambiente de aprendizagem digital chamado "Agents of ViTAL: Ethics Missions", uma experiência baseada em navegador onde os alunos trabalham juntos para resolver um problema fictício. Neste cenário, uma escola de ensino fundamental está considerando se deve adotar um novo sistema de inteligência artificial chamado PresenterPal, projetado para fornecer feedback instantâneo sobre discussões em sala de aula. Os alunos não são ouvintes passivos; eles são os tomadores de decisão. Eles entram em um espaço virtual que mistura a ordem silenciosa de uma biblioteca com a natureza experimental de um laboratório, conhecido como o "Libratory". Aqui, eles encontram guias digitais que preparam o palco para sua missão: investigar se a escola deve seguir adiante com essa tecnologia.

Assim que a investigação começa, os alunos exploram uma versão simulada da escola, reunindo informações de várias pessoas que seriam afetadas pelo novo sistema. Eles conversam com professores, alunos, administradores e pessoal de TI, coletando evidências como reportagens sobre violações de dados ou notas sobre restrições orçamentárias. À medida que avançam pela simulação, eles encontram situações específicas que os forçam a confrontar as três principais dimensões éticas da inteligência artificial: privacidade, viés e impacto ambiental. Por exemplo, ao configurar o sistema, os alunos devem decidir se armazenam os dados de interação dos alunos em servidores locais dentro da escola ou em servidores na nuvem em outro lugar. Essa escolha não é meramente técnica; ela tem peso. Armazenar dados localmente pode proteger a privacidade, mas sobrecarregar o orçamento limitado da escola, enquanto usar a nuvem pode oferecer melhor segurança, mas levantar preocupações sobre quem mais pode acessar as informações. Esses momentos são desen pelos alunos para mostrar que raramente existe uma solução perfeita, apenas uma série de compromissos difíceis.

Após reunir suas evidências, os alunos passam para uma fase colaborativa conhecida como Desafio de Classificação (Ranking Challenge). Nesta parte da experiência, o grupo deve chegar a um consenso sobre quais riscos e benefícios do sistema de IA são mais importantes. Eles usam um quadro digital compartilhado para classificar esses fatores, discutindo seu raciocínio em uma janela de chat integrada. Este quadro atua como um registro visual de seu pensamento coletivo, ajudando-os a ver como suas visões individuais mudam à medida que ouvem uns aos outros. O objetivo não é encontrar uma única resposta "correta", mas praticar a habilidade de justificar compensações usando as evidências que encontraram anteriormente. Eles devem articular por que valorizam a privacidade em detrimento da conveniência, ou por que acreditam que os custos ambientais importam mais do que a eficiência imediata, e então concordar com uma recomendação final para a escola.

Apoiando todo esse processo está um companheiro digital chamado EthicsBot. Diferente de um professor tradicional ou de um mecanismo de busca que fornece respostas, o EthicsBot foi projetado para agir como um parceiro de pensamento semelhante a um colega. Ele não diz aos alunos o que pensar; em vez disso, ele faz perguntas que os instigam a considerar perspectivas alternativas, esclarecer seu próprio raciocínio e refletir sobre o peso ético de suas escolhas. O sistema foi construído com uma abordagem única em sua criação: os próprios alunos ajudaram a projetar o bot. Através de um processo de co-design, alunos do ensino médio forneceram feedback que moldou a forma como o bot fala, o que ele sugere e os limites de segurança que segue para evitar que forneça informações enganosas. Isso garante que a ferramenta pareça relevante para os aprendizes e respeite sua voz no desenvolvimento da tecnologia que estão estudando.

Os pesquisadores testaram este ambiente com quatro turmas de nono ano, envolvendo oitenta alunos que deram seu consentimento para participar. Os resultados mostraram que os alunos ficaram profundamente engajados com o material. Eles não apenas jogaram um jogo; eles demonstraram capacidade de raciocínio ético substantivo, conectando os cenários fictícios da simulação às suas próprias experiências de vida real com a tecnologia. Os alunos foram capazes de discutir questões complexas como segurança de dados e viés algorítmico com um nível de nuance que sugere que a abordagem narrativa é eficaz. Ao colocar os alunos no papel de participantes ativos em vez de receptores passivos de informação, o sistema os ajuda a construir a confiança e as habilidades necessárias para navegar em um mundo cada vez mais automatizado. O projeto sugere que, quando os jovens recebem o espaço para explorar esses dilemas de forma colaborativa, eles podem desenvolver uma compreensão sofisticada do panorama ético da inteligência artificial.