Agents of ViTAL: Ethics Missions -- A Narrative-Centered Learning Environment with a Co-Designed Conversational Agent for Middle School AI Ethics

在现代课堂中，技术不再仅仅是传递课程的工具，它正逐渐成为学习过程本身的一个参与者。人工智能系统越来越能够分析学生行为、提供反馈，甚至预测未来的表现。虽然这些工具承诺了效率和个性化，但它们也引入了关于隐私、公平以及计算能力隐藏成本的复杂问题。对于成长在算法饱和世界中的年轻人来说，理解这些系统如何运作以及它们涉及哪些伦理权衡，正变得像阅读或写作一样重要。教育者的挑战不仅在于教授代码的机制，更在于帮助学生应对当技术遇到人类价值观时所产生的艰难决策。这需要一个空间，让学习者能够置身于决策者的角色中，权衡冲突的利益，并在一个即使场景是虚构的、但感觉真实的设定中，练习伦理推理的艺术。

来自美国各大学的一支研究团队开发了一种将这些抽象概念引入初中课堂的新方法。他们创建了一个名为“Agents of ViTAL: Ethics Missions”（ViTAL 代理：伦理任务）的数字学习环境，这是一个浏览器端的体验，学生们通过它协作解决一个虚构的问题。在这个情境中，一所中学正在考虑是否采用一种名为 PresenterPal 的新型人工智能系统，该系统旨在为课堂讨论提供即时反馈。学生们并非被动的听众，而是决策者。他们进入一个融合了图书馆的宁静秩序与实验室的实验性质的虚拟空间，被称为“Libratory”（图书实验室）。在这里，他们遇到了数字向导，这些向导为他们的任务奠定了基础：调查学校是否应该推进这项技术。

一旦调查开始，学生们就会探索一个模拟的学校版本，从各种受新系统影响的人员那里收集信息。他们与教师、学生、管理人员和 IT 工作人员交谈，收集诸如关于数据泄露的新闻报道或关于预算限制的笔记等证据。在移动过程中，他们会遇到特定的情境，迫使他们直面人工智能的三大主要伦理维度：隐私、偏见和环境影响。例如，在配置系统时，学生必须决定是将学生互动数据存储在学校内部的本地服务器上，还是存储在其他地方的云端服务器上。这个选择不仅仅是技术性的；它具有分量。存储在本地可能会保护隐私，但会给学校有限的预算带来压力；而使用云端可能会提供更好的安全性，但会引发关于谁还能访问这些信息的担忧。这些时刻旨在展示：很少有完美的解决方案，只有一系列艰难的折衷。

在收集完证据后，学生们会进入一个被称为“排名挑战”（Ranking Challenge）的协作阶段。在这一部分中，小组必须就哪些风险和收益对 AI 系统最为重要达成共识。他们使用一个共享的数字板来对这些因素进行排序，并在一个集成的聊天窗口中讨论他们的理由。这个板子作为他们集体思考的视觉记录，帮助他们看到随着倾听他人的观点，个人的看法是如何发生变化的。目标不是找到一个单一的“正确”答案，而是练习使用他们之前发现的证据来证明权衡的合理性。他们必须阐明为什么他们看重隐私胜过便利，或者为什么他们认为环境成本比眼前的效率更重要，然后就最终建议达成一致。

支持整个过程的是一个名为 EthicsBot（伦理机器人）的数字伴侣。与传统的老师或提供答案的搜索引擎不同，EthicsBot 被设计为一个类似同伴的思想伙伴。它不会告诉学生该怎么想，而是通过提出问题，促使他们考虑替代视角、澄清自己的逻辑，并反思其选择背后的伦理分量。该系统的构建采用了独特的共创方法：学生们亲自参与了机器人的设计。通过一个共创过程，高中生们提供了反馈，塑造了机器人的说话方式、它提出的建议以及它为防止提供误导性信息而遵循的安全限制。这确保了该工具让学习者感到相关，并尊重他们在研究该项技术时的声音。

研究人员在四个九年级班级中测试了这个环境，共有 80 名获得参与许可的学生参加。结果显示，学生们对材料表现出了极高的参与度。他们不仅仅是在玩游戏；他们展示了进行实质性伦理推理的能力，并将模拟中的虚构情境与他们自己对技术的现实生活经验联系起来。学生们能够以一种暗示叙事法是有效的细致程度，来讨论数据安全和算法偏见等复杂问题。通过让学生扮演积极参与者而非被动信息接收者的角色，该系统帮助他们在日益自动化的世界中建立起所需的信心和技能。该项目表明，当年轻人获得空间去协作探索这些困境时，他们可以对人工智能的伦理图景建立起一种成熟的理解。