Move by Move: Measuring and Steering How LLMs Conduct Psychotherapy
本文介绍了一个经过验证的包含十种治疗性动作的本体，用于分析和比较人类临床医生与大语言模型之间的心理治疗互动，揭示了模型过度使用询问且缺乏主动性，但可以通过基于工具的提示而非微调，使其显著向类人行为转变。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
长期以来，人们一直通过交谈来寻求疗愈，但心理健康护理的格局正在发生变化。随着全球范围内焦虑和抑郁症的上升，受过培训的治疗师数量未能跟上步伐，导致许多人转向数字空间寻求慰藉。如今，这些数字空间正越来越多地被大语言模型所占据——即那些编写电子邮件和总结新闻的同类人工智能系统。这些模型现在正被要求去倾听、去安慰，并引导人们度过情绪困境。虽然早期的测试表明，这些数字倾听者有时可以减轻症状，但一个根本性的问题仍悬而未决：当一台机器对着一个痛苦的人说话时，它究竟在做什么？它是在实践人类治疗师那般细腻的艺术，还是在遵循一个不同、甚至可能存在缺陷的剧本？
为了回答这个问题，Sword Health 和耶鲁大学的研究人员决定深入观察对话的“黑箱”。他们不仅询问人工智能是否感觉有用，还询问它的行为表现如何。在临床心理学领域，治疗师并非随机说话。他们遵循一个结构化的过程，根据患者在特定时刻的需求，选择特定类型的回应——例如提出澄清性问题、提供看待问题的全新视角，或教授一种应对技巧。研究人员构建了一张新的地图来追踪这些选择。他们定义了十种不同的“动作”，例如“探询”（询问更多细节）、“共情理解”（反射患者所言以表明其被倾听）以及“技能构建”（引导患者进行练习）。这张地图源自成熟的心理学框架，并经过五位执业心理学家的测试，以确保它能准确描述人类与机器的对话。
带着这张地图，团队开展了一系列实验，将人类治疗师与一组先进的人工智能模型进行对比。他们向这些模型输入真实的心理治疗对话文本，并要求它们延续对话。在某些情况下，模型被允许自由发言；而在另一些情况下，研究人员给了模型一套“数字工具”，其中每种工具代表一种心理治疗动作。模型必须在说话之前先选择一种工具，这实际上是迫使它们在打字之前先决定自己的策略。研究人员随后测量了模型使用每种动作的频率，并将其与人类治疗师进行了比较。
结果揭示了机器与人类在进行治疗时的显著差异。人工智能模型是执着的“审讯者”。它们提问的频率比人类治疗师高出多达三倍。人类通常会停顿以反思患者所说的话或提供新的视角，而机器则不断挖掘更多信息，往往错失了提供慰藉或洞察的机会。此外，模型几乎完全忽略了“心理教育”——即治疗师解释感受或行为背后的科学原理，以帮助患者理解这一过程的动作。或许最能说明问题的是，模型对它们所模仿的人类具有依赖性。当人工智能延续由人类治疗师开启的对话时，它倾向于模仿该人类的风格。但当人工智能必须从头开始主导对话时，它就会回归其默认行为：不停地提问，且极少主动发起复杂的技能构建练习。
研究还测试了提供“工具”框架是否能纠正这些习惯。当模型被强制要求在说话前先选择一种治疗动作时，它们的表现有了显著改善。它们在选择行为上与人类治疗师之间的差距缩小了，也变得更擅长匹配人类的对话节奏。然而，这种修复并不完美。即使有了工具，模型提问仍然过多，且教导技能的频率仍不及人类。这表明，问题不仅仅在于缺乏指令，更在于这些模型构建和训练方式中更深层的原因。它们天生倾向于收集信息而非引导或教学，这一特性在搜索引擎中表现出色，但在心理治疗室中却可能成为阻碍。
研究人员得出结论，虽然这些模型可以被引导向更像人类的行为，但它们尚未具备受过训练的临床医生那样的直觉判断力。它们是模式的强力追随者，却是新模式的弱势发起者。这项研究并不声称这些模型已准备好取代治疗师，也不暗示它们目前处于危险状态。相反，它提供了一种清晰、可衡量的途径，让我们看到它们的不足之处。通过将治疗拆解为最小的功能单元，研究人员提供了一种衡量机器对话与人类疗愈触感之间距离的方法，表明尽管技术在进步，但治疗的艺术仍是一门独特的、人类尚未完全掌握的技艺。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。