Whose Voice? Algorithmic Smoothing and the Hybrid Authorship of BCI-Mediated End-of-Life Requests: a normative conceptual analysis

想象这样一个世界：你的大脑是一座辉煌、繁忙的城市，但通往外界的道路已被完全封锁。你可以思考、感受和计划，但你无法挥手、说话或打字。对于处于“完全锁闭状态”（completely locked-in state）的人来说，这就是他们的现实，这种状态通常由像渐冻症（ALS）这样的疾病引起。他们是清醒且有意识的，但他们的身体不再听从指挥。欢迎来到脑机接口（BCI）的世界——这是一座高科技的桥梁，试图读取你大脑的电信号并将其转化为屏幕上的文字。它就像一个翻译官，倾听你的想法并替你发声。

但这里有一个转折：这个翻译官不仅仅是一个被动的麦克风。它是一个由人工智能驱动的编辑器。为了理解来自一个无法运动的大脑那混乱、充满噪声的信号，计算机使用“平滑处理”（清理噪声）和“预测文本”（像你的手机输入时那样猜测下一个词）。这引发了一个巨大的、令人深思的问题：如果计算机帮完成了你的句子，那么这个想法仍然属于你吗？当句子涉及生死攸关的事情时（例如请求结束痛苦的医疗援助），这一点尤为关键。如果机器协助写下了这份请求，那么真正发出请求的人是谁？

这篇论文深入探讨了这一困境。它问道：当一名锁闭状态的患者使用人工智能增强型 BCI 请求医疗辅助死亡时，我们能否相信那是他们真实的声音，还是算法改变了信息？作者 Lee 和 Ngan 认为，我们不应该只说“是”或“不是”。相反，他们建议这种请求是一种“混合型”产物——是患者意图与机器帮助之间的协作。他们提出了一种新的检查请求的方法，不是通过查看计算机写下的单个句子，而是通过将其与患者的整个生命故事、过去的价值观以及预先指示进行对比。他们的结论是：只要机器的“猜测”与患者一直以来的信仰相符，该请求就是有效的。然而，如果机器的猜测与患者的历史相矛盾，则应忽略该请求。这是一个旨在保护患者真实的自我不被故障算法所覆盖的框架。

埃琳娜与会说话的机器的故事

为了理解这一点，让我们认识一下埃琳娜。她是一位 54 岁的哲学教授，在渐冻症夺走她的身体控制权之前，她写过一封清晰的信：“如果我陷入了思维被困而无法说话的状态，我希望能够选择停止我的痛苦。”她对此非常明确。

现在，埃琳娜处于完全锁闭状态。她可以思考，但无法移动任何肌肉。她在脑中植入了一个 BCI。一天，医生询问她的情况。机器读取了她的脑电信号并打出：“我希望停止这种痛苦。”

医生们感到困惑。他们知道埃琳娜想要结束痛苦，但也知道机器并不完美。机器的手册说明它使用了“信号平滑处理”（以清理静态噪声）和“上下文预测”（以猜测单词）。当医生检查原始数据时，他们发现埃琳娜的脑电信号实际上只是片段：“我希望停止。” 机器看到她在姑息治疗病房且处于压力之下，便“猜测”了“这种痛苦”这个词，并将其添加到了句子中。

所以，大问题在于：是埃琳娜说了“我希望停止这种痛苦”，还是机器替她说了这句话？

机器并非中立的管道

论文解释说，这些 BCI 并不像电话线那样只能听到对方说的话。它们更像是一个智能编辑器。计算机必须承担大量的工作：

1. 它抓取来自大脑的混乱电信号。
2. 它过滤掉“噪声”（静态干扰）。
3. 它尝试弄清楚哪些脑电脉冲代表哪些字母。
4. 它利用庞大的人类对话数据库来猜测剩余的部分。

作者指出，这种“猜测”是必要的。如果没有它，输出的内容将是乱码。但这意味着最终的句子是一次团队协作。机器不仅仅是一个工具；它是一个共同作者。

错误的问题

论文还提醒我们，这些机器会犯错。

• 词错率： 在实际测试中，根据词汇量的大小，这些机器出错的概率约为 8% 到 24%。
• 误报（False Positives）： 有时机器可能会说出患者并未表达的短语。对于简单的短语，这种情况发生的概率约为 2% 到 5%。对于像请求死亡这样重大的情感请求，风险可能会更高。

因此，作者说我们不能仅仅根据机器的一个句子就判定：“好吧，这就是最终决定。”那太危险了。

“混合型”解决方案

那么，如何解决“谁的声音？”这个谜题呢？作者建议我们不要试图寻找一种“纯粹”的人类声音，而是接受这种声音是混合型的。他们使用三个概念来解释这一点：

1. 延展心智（The Extended Mind）： 想象你的大脑是一台电脑，而 BCI 是你使用了多年的键盘。最终，键盘成为了你心智的一部分。当你打字时，你不仅是在使用工具，你是在通过工具进行思考。因此，机器的帮助是你思考过程的一部分。
2. 共同代理（Co-Agency）： 把它想象成一场舞蹈。埃琳娜是领舞，但机器跟随她的步伐并帮助她保持平衡。他们在共同起舞。这个请求既属于她，也属于机器。
3. 马赛克（The Mosaic）： 想象一幅由瓷砖组成的画。埃琳娜的生活和价值观是这幅画。BCI 的输出只是其中一块新的瓷砖。我们不能仅凭一块瓷砖就判断整幅画是否正确；我们必须观察整个马赛克。

两种类型的“帮助”

论文对机器提供帮助的两种方式做出了非常重要的区分：

• 确认性阐述（好的类型）： 这是指机器猜测的词汇与我们已知的关于患者的信息完美契合。在埃琳娜的案例中，她说“我希望停止”，而机器加上了“这种痛苦”。由于埃琳娜一直讨厌疼痛，且她当时身处疼痛诊所，这个猜测是合理的。它确认了她可能表达的意思。这是安全的。
• 生成性替代（坏的类型）： 这是指机器猜测的内容与我们所了解的患者信息相悖。想象如果埃琳娜一直很虔诚且厌恶死亡的想法，但机器却猜测“我希望死”。那将是机器用它自己的猜测取代了她的意志。这是危险的。

新的规则手册：基于轨迹的验证协议

作者提出了一种处理此类请求的新方法。他们称之为基于轨迹的验证协议（Trajectory-Based Validation Protocol）。医生不应只看机器写的那个句子，而应观察患者的“轨迹”（其生命历程）。

其运作方式如下：

1. 检查历史： 患者在进入锁闭状态前是否有清晰的、书面的计划（如预先指示）？她是否在之前与医生讨论过这个问题？
2. 马赛克检查： 机器的信息是否符合患者生命故事的其余部分？如果机器说“我想死”，但患者多年来一直写着自己多么热爱生活，那么机器很可能是错误的。
3. 重复与验证： 不要信任一条信息。反复询问同一个问题。如果机器每次都表达同样的意思，并且与患者的历史相符，那么它很可能是真实的。
4. 矛盾条款： 如果机器的信息与患者的过去相矛盾，停止。不要据此采取行动。机器可能出现了故障，或者患者可能处于困惑状态。你需要更多的证据。

核心结论

论文总结道，我们不必在“机器在撒谎”和“机器是完美的”之间做选择。真相就在中间。这种请求是一个共同构建的产物。它既属于患者，也属于算法。

如果算法的猜测与患者长期持有的价值观和历史一致，那么即使机器协助编写了内容，该请求也是有效的。但如果算法给出了新的或矛盾的猜测，我们必须对此保持高度怀疑。

作者谨慎地指出，这是一个概念框架，而非一套成熟的医疗规则手册。他们在本文中并未用真实的数据或法律条文进行测试；他们只是在绘制地图。他们建议未来的工作需要确定确切的数字（例如，信息必须重复多少次）以及如何使其符合法律。但核心思想是明确的：为了听到患者真实的声音，我们必须同时倾听机器和患者整个生命故事。