Who Answers for AI? Epistemic Visibility, Responsibility, and Error Repair in Collaborative Learning

在现代课堂和现代职场中，小组经常通过汇集各自的知识来共同解决问题。这一过程依赖于一种微妙的社会契约：当有人提出一个想法时，小组必须知道这个想法源自何处、是如何形成的，以及谁负责检查其准确性。这是协作式学习的基础，其目标不仅是分享信息，更是为了建立一种单凭个人无法创造的共同理解。然而，人工智能为这一动态关系增加了一个新的层面。当学生或员工使用人工智能工具生成答案时，他们面临着一个关键的选择：他们可以将这个想法作为一个简单的建议带回小组，并隐瞒它是机器生成的这一事实；或者，他们可以展示该想法的完整历史，包括提出的问题、生成的原始答案以及所做的修改。这种区别在小组所见到的内容与实际发生的情况之间制造了鸿沟。问题的核心不在于人工智能是否有助于工作，而在于其贡献的可见性如何改变人们在协作中信任、争论和纠正错误的方式。

伦敦大学学院的一位研究人员致力于通过观察研究生在八周时间内的分组工作情况来探索这一差距。研究人员并没有仅仅询问学生对人工智能的看法，而是观察他们实时工作的过程。研究人员将四十八名学生分为十二个小组，并交给他们一项复杂的任务：设计一种教育干预措施，以解决科学和数学教育中的不平等问题。为了观察可见性的重要性，学生们轮流体验了三种使用人工智能的方式。在第一种情景中，学生可以私下使用人工智能。他们可以输入问题，获取答案，进行编辑，然后将最终结果粘贴到小组文档中，而其他人看不到整个过程。在第二种情景中，学生仍然使用自己的私有人工智能工具，但屏幕上的一个特殊面板会向组内其他成员展示他们输入了什么、机器说了什么，以及学生是如何修改内容的。在第三种情景中，整个小组共同使用同一个人工智能工具，每个人都能看到正在进行的提问和回答。

研究人员记录了学生说的每一个字、敲击的每一个键以及对文档所做的每一次更改。他们还特意设置了特定的时刻，让程序化的人工智能给出错误或具有误导性的答案，以此观察小组的反应。他们想知道小组是否能发现错误，谁会觉得有责任去修正它，以及如果每个人都能看到人工智能的工作过程，最终的产物是否会更好。

研究发现，当人工智能的工作过程被隐藏时，小组的动态发生了变化，导致学习效果降低。当学生使用私密且不透明的人工智能时，他们往往成为了该信息的唯一把关人。他们会将一个经过润色的想法带回小组，由于其他人无法看到机器的原始输出或导致该想法产生的提问过程，他们会将该想法视为直接出自学生之手。这造成了一种局面，即控制人工智能的学生掌握了决定小组认知程度的所有权力。如果人工智能犯了错，其他学生往往意识不到需要检查这项工作。他们要么假设学生已经验证过了，要么只是不加质疑地接受了那些听起来很流畅的答案。对于该想法的责任悄然从小组转移到了个人学生身上，随后往往完全消失，导致没有人真正对该主张负责。

当研究人员使人工智能的工作过程变得可见时，小组的行为发生了剧烈变化。在学生使用自己的人工智能但向小组展示完整历史记录的情况下，动态变得更加平衡。其他成员可以看到机器具体说了什么，以及学生是如何对其进行修改的。这种透明度使得小组能够扮演“检查员团队”的角色。他们可以追问：“你为什么要问人工智能那个问题？”或者“机器说了这个，但你改成了那个，为什么？”这种可见性将人工智能从一个“黑箱”转变为一个小组可以共同审视的共享对象。学生们更有可能挑战人工智能的建议、验证事实并在错误发生时进行修复。小组不仅仅是接受输出，他们还在积极地监管过程，共同决定什么是值得信赖的，以及什么需要进一步完善。

有趣的是，研究发现，拥有一个共享的人工智能工作空间（即每个人同时使用同一个工具）并不总是比具有可追溯性的个人人工智能产生更好的结果。虽然共享工作空间使人工智能的输出公开化，但它并不一定能像可追溯的个人模式那样鼓励批判性的检查。关键因素不在于每个人都能看到屏幕，而在于他们能够追踪单个学生与机器互动的具体路径。这种追踪一个主张的路径——从最初的问题到最终编辑后的句子——的能力，似乎是保持小组诚实的最有力工具。

研究人员还观察了小组如何处理人工智能给出错误答案的具体时刻。在隐藏条件下，这些错误往往在未被察觉的情况下进入了最终的小组项目，或者在没有进行真实辩论的情况下就被接受了。在可见条件下，这些错误成为了协作的触发事件。小组会停下来，讨论差异，并共同寻找正确的信息。这种检测和修复错误的过程与更高质量的最终产物以及更好的个人学习成果相关联。在可见条件下工作的学生不仅产出了更好的作品，而且在随后将所学知识应用于新任务时，也表现出了更强的应用能力。

研究表明，人工智能在小组工作中的价值，与其说是取决于每个人接触技术的程度，不如说取决于小组能否对其工作进行检查。当知识生产的路径不可见时，责任变得模糊，小组可能会失去自我调节学习的能力。当这条路径可见时，小组可以保持其自主性，确保人工智能是作为探究的工具，而非未经审视的权威来源。研究指出，要使人工智能成为真正的学习伙伴，社会条件必须允许小组去观察、质疑并修复机器的贡献。如果没有这种可见性，小组可能会面临在不知不觉中将思考权外包给机器的风险。有了这种可见性，小组可以在将责任牢牢掌握在人类手中的同时，利用人工智能的力量。