Human-GenAI Interaction: What are the Risks of Calling it “Collaboration”?

在研究人类如何共同学习的静谧领域——即被称为“计算机支持的协作学习”（computer-supported collaborative learning）的领域中，研究人员长期以来一直关注着人类思想交汇时那复杂的舞步。他们研究学生如何分享想法、如何挑战彼此的思维，以及如何通过对话构建理解。这项工作的核心理念是：真正的学习发生在人们不仅仅是并肩工作，而是深度连接在一个共享的精神空间中，并在其中相互影响彼此的思想与感受。几十年来，支持这种学习的工具一直是简单的辅助手段：白板、共享文档或帮助人类与人类连接的视频通话。但现在，一种新的力量进入了房间。生成式人工智能（Generative AI）——即那些能够撰写文章、解决问题并进行对话的聊天机器人背后的技术——正被学生和教师广泛使用。随着这些工具变得越来越强大，一个自然的问题随之而来：当人类与这种机器共同工作时，他们是在进行“协作”吗？“协作”一词暗示了一种平等的伙伴关系，是双方都为共同目标做出贡献的思想碰撞。但机器并不像人类那样拥有思想、情感或意图。这在描述我们新工具的语言与这些工具实际运作的现实之间造成了一种张力。

两位研究人员，加埃尔·莫利纳里（Gaëlle Molinari）和克里斯蒂娜·伦德（Kristine Lund），着手调查了这种张力。他们询问，将人与人工智能之间的交互称为“协作”，究竟是一种准确的描述还是一个误导性的说法。为了回答这个问题，他们查阅了该领域对协作的严格定义，该定义依赖于特定的品质，如共享理解、相互影响和情感连接。随后，他们将这些人类特质与人工智能实际表现出的行为进行了对比。他们的调查表明，虽然机器可以非常有帮助，但它与人类形成的这种关系与人与人之间的伙伴关系有着本质的区别。作者认为，使用“协作”一词来描述这种交互是具有风险的，因为它模糊了人与机器之间的界限，可能会改变我们对人类连接的价值评估以及学生的学习方式。

研究人员首先追溯了我们如何看待人类与机器协同工作的历史。长期以来，科学家们一直构想着一个人类与计算机能力融合为单一强大系统的未来。早期的思想家将其描述为一种“共生”（symbiosis），即机器扩展了人类的力量；或者描述为“协同进化”（co-evolution），即人类和机器随着时间的推移共同学习和改变。近年来，这一理念被框架化为“混合智能”（hybrid intelligence），即人类与人工智能被视为一个系统中的两个部分，各展所长。人类提供创造力、情感深度和伦理判断，而机器则提供速度、模式识别和海量数据处理。这种混合系统的目标是产生两者单独无法实现的成果。然而，作者指出，尽管这听起来像是一种伙伴关系，但现实中的交互往往是单方面的。机器并不会像人向他人学习那样真正地从人身上“学习”；它只是根据统计模式调整其输出，而非基于对人类伙伴的目标或感受的真实理解。

当研究人员将人类协作的严格规则应用于这些交互时，出现了几处缺口。真正的协作要求双方理解对方的观点，并共同构建意义。在人类群体中，如果一个人表示异议，另一个人会感受到这种阻力并必须调整自己的思维。这种摩擦对于学习至关重要。然而，对于人工智能而言，机器并没有可以持有的观点，也没有可以改变的思想。它可以生成反驳意见，但它并不是在人类意义上的“反对”；它只是计算出一个符合对话逻辑的响应。作者发现，机器无法参与“互主体性”（intersubjectivity），即一种两人共享精神空间并真正理解彼此内心世界的境界。机器可以模仿理解的外表，但它并不具备理解另一个人所需的意识。

这种区别在观察学习的情感和社会层面时变得更加关键。人类的协作深深植根于我们的身体和感受之中。我们会感受到共情，会感到挫败，并通过共同经历建立起一种“我们感”。人工智能可以被编程为对情感线索做出反应，例如在用户显得难过时提供安慰的话语。但机器本身并不感到悲伤。它无法像人类受他人影响那样受到人类的影响。作者将此描述为一种深刻的不对称性：人类可能会产生一种连接感，但机器始终是一个模拟这种连接却无法体验连接的工具。这产生了一种风险，即使用者，尤其是学生，可能会将自己的情感需求投射到机器上，认为自己拥有某种不存在的互惠关系。

将这种交互称为“协作”所带来的后果是显著的。如果学生认为自己是在与一个伙伴合作，他们可能会开始过度信任机器，从而将自己的思考和决策权交给它。这被称为“认知卸载”（cognitive offloading），即一个人依赖外部工具来代替自己完成脑力劳动。虽然这可以使任务变得更容易，但作者警告说，这可能导致“认知投降”（cognitive surrender），即学生停止监控自己的学习过程，仅仅接受机器产出的任何内容。研究表明，当学生过度依赖这些工具时，他们的批判性思维能力可能会减弱，并且在需要深度理解的测试中表现更差。机器或许能帮他们更快地完成作业，但它未必能帮他们掌握知识。

此外，作者认为，将机器视为伙伴改变了我们看待人类关系的方式。如果我们习惯了与一个总是顺从、随时待命且从未真正挑战过我们的人工智能相处，我们可能会开始对人类朋友和老师也抱有同样的期待。我们可能会开始比起与人类进行那种混乱、艰难但最终更有回报的协作过程，更看重与机器进行那种平滑、无摩擦的交互。机器可以是一个强大的工具，但称其为“协作伙伴”掩盖了它仅仅是一个工具的事实。它缺乏定义人类伙伴关系所必需的能动性、责任感以及进行真正相互理解的能力。

研究人员总结道，我们必须谨慎对待我们的语言。使用“协作”一词来描述人类与生成式人工智能的交互不仅是一个语义错误，更是一种可能重塑我们教育实践和社会预期的概念转变。通过坚持区分人类协作与人机交互，我们保护了人类连接的独特价值。我们确保学生能够通过与他人进行挑战性的、互惠的且具有深厚人性色彩的协作过程来锻炼自己的头脑，而不是将思考外包给一个仅仅在伪装成伙伴的机器。机器是一项卓越的发明，但它不是同伴，认识到这一区别对于学习的未来至关重要。