Who Designs the Designer? Behavioural Architecture for GenAI in Education
本文提出了一种针对教育领域生成式人工智能（GenAI）的“行为架构”，旨在将设计主导权从供应商转向由教育者、学生和系统构成的共享治理模式，并认为欧盟层面的监管对于使学生能够共同创作并控制其学习概况，以及解决目前处于空白状态的“设计者”角色至关重要。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是关于论文《谁在设计设计者？》（Who Designs the Designer?）的解释，采用了通俗易懂的语言和富有创意的类比。
问题所在：“坏警察”与“机器人导师”
想象一下，目前关于人工智能进入校园的辩论正陷入两个坏掉的玩具之中。
- “坏警察”（禁止 AI）： 一些学校试图完全禁止 AI，就像一个严厉的家长没收手机一样。他们使用检测器来抓捕作弊的学生。但这些检测器就像机场里有缺陷的金属探测器；当一个学生只是以自己独特的风格写作时（例如神经多样性学生），它们也会误报“危险！”，导致不公平的指控和法律纠纷。
- “机器人导师”（仅限内容的 AI）： 其他学校虽然拥抱 AI，但仅将其用于传递事实，就像一台根据你做错题而自动吐出正确教科书章节的自动售货机。它很聪明地知道你应该学“什么”，但它并不关心你的“感受”、你的“动机”或你的“个性”。
现实情况： 学生已经在利用 AI 了（占比 95%），但他们是在没有任何规则的情况下自行使用的。他们使用的是商业应用，这些应用在未征求学生同意的情况下，就在暗中构建关于其习惯的秘密档案。论文指出，“坏警察”和“机器人导师”之所以失败，是因为它们忽略了人的因素：个性、动机和情感。
解决方案：“行为架构”
作者提出了一种构建 AI 的新方式，称为行为架构（Behavioral Architecture）。
类比：共同作者 vs. 跟踪狂
想象你的学习旅程是一本书。
- 当前的 AI（跟踪狂）： AI 在阴影中观察你。它通过测量你的点击速度或盯着屏幕的时间来猜测你的性格。它为你写下一份你无法看到的秘密档案，并利用它来改变教学内容。你对此毫无发言权。
- 新的架构（共同作者）： AI 与学生坐在一起共同编写这本书。
- 教师设定目的地（学习目标）。
- 学生是共同作者。他们可以告诉 AI：“我休息一下学起来效率更高，”或者“我对数学感到焦虑，所以我们试试别的方法。”
- AI充当记录员。它记录学生说的话，建议修改，但绝不会在未经询问的情况下猜测你的感受。
核心规则： 学生可以随时阅读、编辑或删除自己的档案。AI 不能单方面决定关于学生的“真相”；学生应该参与决定。
巨大的陷阱：谁握着笔？
这是论文中最关键的部分。作者警告说，即使是一个“友善”的系统，如果权力平衡失调，也会变得非常危险。
类比：法官与被告
目前，学校既是法官（负责评分的人），又是被告（持有你数据的人）。如果一名学生试图修改自己的档案以说明“我这样学效果更好”，但学校的自动化系统忽略了这一点并判定其不及格，那么学生就没有任何力量。
论文认为，要使这一系统符合伦理，必须共享“设计者”的角色（即决定 AI 对你产生何种认知的人）。这不能仅仅由 AI 公司决定，也不能仅仅由学校决定。它必须是教师、学生和系统之间的伙伴关系。
“索拉里亚风险”（The Solaria Risk）
论文引入了一个可怕的概念，叫做索拉里亚风险。
- 类比： 想象一个未来的世界，每个人都独自生活在一个完美的房子里。机器人仆人完全了解你的喜好，喂给你你想要的一切，且从不打扰你。这对“你”来说很完美，但你再也无法与他人交流。你失去了团队协作或处理冲突的能力。
- 警告： 如果 AI 过度完美地适应每个人的个性，学生可能会停止去教室。他们可能会独自带着机器人完成所有学习。论文警告说，虽然这有助于个体，但它会破坏教育的“集体性”部分（即共同学习的过程）。
缺失的一环：谁是设计者？
论文总结道，目前没有人是在为“设计者”进行设计。
- AI 公司正在制造工具。
- 学校正在使用它们。
- 学生则被困在中间。
作者表示，我们需要一个新的治理层面（特别是欧盟层面）来制定规则。就像我们对健康数据有法律规定一样，我们也需要针对学校中的“行为数据”制定法律。我们需要确保：
- 学生拥有自己的数据，并可以随身携带。
- AI 不能在没有人类专家参与的情况下做出心理判断（例如“这个学生很抑郁”）。
- 我们需要测试这种系统是否真的比单纯提供更好的教科书更能帮助学生学习。
总结
这篇论文在问：谁有权决定 AI 对一个学生产生的认知真相？
目前的 AI 是在秘密进行猜测。论文提议了一种系统，让学生和教师共同撰写这种真相，并辅以严格的规则，以防止 AI 进行监视或孤立学生。但为了确保安全，在推广之前，我们需要新的法律以及一种新的“元素养”（即教导学生如何管理自己的 AI 档案）。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。