From Dyad to Triad: Eliciting XAI Requirements in Stroke Rehabilitation

无形的教练与沉默的患者

想象一下，你正在学习骑自行车，但引导你的不是扶着座位的父母，而是一个机器人。这个机器人能看到你的摇晃，也知道你何时即将摔倒。但问题在于：机器人从不说话。它只是调整车把的角度或停止踩踏板。你可能会感到沮丧，心想：“是我蹬得太用力了吗？是电池没电了吗？还是机器人坏了？”这就是**可解释人工智能（XAI）*的世界。简单来说，Xable AI 的艺术在于让计算机程序告诉我们它们为什么*做出某个决定，而不仅仅是展示结果。

现在，想象这个机器人正在帮助一名中风幸存者重新学习如何移动手臂。中风就像是大脑线路中的一次停电，通常会导致人们无法清晰表达或快速处理复杂想法。多年来，医生一直是这种情景下的“教练”，向患者解释为什么练习失败以及如何修正。但随着技术介入提供帮助，团队成员从两人组（医生和患者）变成了三人组（医生、患者和机器人）。核心问题是：对于一个正处于言语表达困难中的人，你该如何询问他们需要机器人提供什么样的“解释”？如果你问他们：“你更倾向于对比性解释（contrastive explanation）还是反事实性解释（counterfactual one）？”他们可能只会盯着你看。这篇论文深入探讨了这一确切问题，试图研究如何倾听那些无法总是为自己发声的患者，从而让他们使用的机器人不仅能发挥作用，而且真正让他们感到明白。

---

从“是什么”到“为什么”

这篇论文关于一项旨在解决沟通难题的巧妙实验。研究人员想要了解中风幸存者在康复过程中，究竟需要从辅助他们的 AI 系统中理解到什么。但障碍在于：许多这类患者患有失语症（aphasia），这是一种导致说话或理解复杂语言变得困难的症状。如果你直接问他们：“你希望算法具备什么样的透明度？”他们可能会卡壳，或者更糟的是，仅仅因为不想表现得难以相处而对你提出的任何建议都回答“是”。

由 Param Rajpura 和 Yogesh Kumar Meena 领导的研究小组决定不再询问抽象问题，而是开始展示故事。他们创建了一个基于视频的支架协议（video-based scaffolding protocol）。可以将“支架”想象成建筑工人在搭建墙壁时使用的临时木架。在这里，“木材”是一系列短小的 2 分钟视频，展示了一个名叫 Sunita 的角色尝试使用脑机接口（BCI）来移动她的手臂。视频展示了现实中的问题——比如机器有时有效有时无效，或者给出令人困惑的反馈——但它们并没有展示解决方案。相反，视频在困惑发生的瞬间停止，并询问观众：“这里能帮助 Sunita 的是什么？”

为了充分利用这些视频，研究人员使用了四种特殊的技巧，即“支架方法”，来帮助患者表达他们的需求：

1. “熟悉系统”的桥梁（类比桥接）： 研究人员没有谈论“神经信号”或“阻抗”，而是将 AI 与每个人都熟悉的事物进行比较。例如，他们将糟糕的脑电信号比作掉线的手机通话。突然间，对于从未听说过 EEG 技术（脑电图技术）的患者来说，“修复信号”这个概念变得完全可以理解了。
2. “第三人称”屏蔽（投射人格）： 直接问患者“你是否担心隐私？”可能会让人感到恐惧或尴尬。因此，研究人员问道：“一个怀疑论者会担心什么？”这让患者能够表达自己的恐惧，而不必觉得是在承认自己的软弱。
3. “A 还是 B”的选择（二元强制）： 有时，开放式问题过于沉重。研究人员简化了问题：“你想要一份简短的摘要，还是一份详尽的报告？”或者“机器应该告诉你该做什么，还是应该由人类来解释？”这减轻了心理负担，让患者能够做出明确的选择。
4. “沉默是金”原则（延长响应时间）： 他们在提问后给予患者 15 到 30 秒的沉默时间。对于失语症患者来说，这段额外的时间是区分“茫然注视”与“深思熟虑回答”的关键。

他们的发现：多元的声音

这项研究涉及三名中风幸存者（其中两人患有中度至重度失语症）和三名家庭照护者。结果令人惊讶，表明患者并不是一个单一、统一的群体。

• 他们对细节程度的需求不同： 一位患者想要极其简单的报告（“只要告诉我做到了就行”），而另一位则想要对每一次动作进行详细的逐一拆解。如果设计师只询问一个人，他们可能会构建出一个让另一个人感到厌烦的系统。
• 他们信任不同的“教练”： 当医生说一套而机器说另一套时，一些患者信任医生，而另一些人则信任机器的数据，因为他们觉得数据更“客观”。有趣的是，无论他们信任谁，他们都表示如果感到被支持，他们会更努力地工作。
• 他们需要不同类型的帮助： 一些患者希望机器直接与他们对话，以便他们纠正自己的错误。另一些人则更希望由家人或人类先解释错误，因为他们目前还没有信心去与机器交流。

隐藏的陷阱：“专家”偏见

论文还揭示了一个棘手的问题：研究人员本身可能会在无意中干扰结果。通过观察他们自己的互动过程，他们发现了研究人员在无意中引导答案的三种方式：

1. “越多越好”偏见： 当患者要求一份简单的报告时，协调员有时会将其总结为“完整报告”，因为他们假设复杂性才是 AI 所能提供的功能。这无意中抹杀了患者对简洁性的实际偏好。
2. “我就知道”偏见： 当患者给出一个令人意外的答案（例如说他们希望机器知道他们的想法）时，协调员有时会迅速转向下一个预期的答案，从而错失了宝贵的洞察。
3. “房间里的医生”效应： 由于医生的在场，患者有时会说他们更信任医生而不是机器，即使他们实际上更喜欢机器。权威的存在改变了答案。

总结

这篇论文表明，我们不能仅仅假设我们了解患者的需求。我们不能基于医生认为患者需要的，或者软件工程师想象最好的方式，来设计一个机器人教练。研究显示，通过正确的工具——如视频、简单的类比和充足的时间——我们可以听到那些由于沟通障碍而难以发声的患者的真实声音。

然而，作者谨慎地指出，这是一个形成性研究（formative study），这意味着它只是测试该方法的第一步，而非针对全世界的最终解决方案。他们仅在印度的一个中心开展了针对六个人的研究。他们并不是在声称已经解决了全世界所有中风幸存者的问题。相反，他们提供的是一套协议（一种配方）和一套警告（一份避免偏见的清单），供任何试图为具有沟通障碍的人设计 AI 的人参考。

核心教训是：值得信赖的 AI 不仅仅在于让代码变得聪明；还在于确保使用它的人能够真正理解代码在表达什么。而要做到这一点，我们必须学会如何以一种全新的方式去倾听。