Strategic Patient Involvement in Medical AI Co-Design: A Pilot Study in Heart Failure

在全球各地的医院急诊室里，医生每天都要面临一个艰难而紧迫的问题：当一名患者因心脏衰竭被送来时，他们是可以安全回家，还是需要留院观察？这个决定关乎重大。让病人过早出院可能导致其再次入院甚至出现更糟的情况；而让病情稳定的病人住院则会浪费资源并延迟对其他人的救治。为了辅助做出这些选择，科学家们正在构建利用人工智能来预测患者风险的计算机程序。这些工具通过分析医疗数据来推测谁可能会病情恶化。然而，长期以来，这些工具一直由医生和工程师设计，由他们决定哪些信息重要以及结果应该如何呈现。而那些真正生活在心脏病状况中、必须承担这些决策后果的人们，却很少被邀请来参与塑造这些工具本身。

来自西班牙和荷兰研究团队的一项新试点研究提出了一个问题：如果你颠倒过来，情况会怎样？研究人员并没有简单地让患者去查看一个成品并评价是否喜欢，而是邀请了心脏衰竭患者从零开始设计这个工具。其目标是观察，当患者被赋予决定技术运作方式的实权时，他们创造出的东西是否会与专家所设想的不同。研究发现，当患者被视为战略合作伙伴而非仅仅是测试者时，他们完全重新构思了这个工具。他们将它从一个医生的计算器，转变为一个支持性的患者指南——一个使用通俗语言、尊重情感需求，并在不确定时拒绝给出答案的指南。

研究人员在巴塞罗那为十一位具有心脏衰竭生活经验的人员举办了为期两天的研讨会。在见面之前，参与者参加了一个在线课程以学习人工智能的基础知识，确保每个人都在同一水平线上起步。到达后，他们并没有被要求去评判一个原型，而是获得了自由，去决定这个工具应该是怎样的、它应该为谁服务以及它应该如何表现。研讨会的结构围绕着“可信技术”原则展开，引导小组进行诸如绘制患者旅程图、创建不同类型的人物画像，以及角色扮演该工具如何融入真实就医场景等活动。参与者分成了两个小组，令人惊讶的是，两组在没有互相交流的情况下，竟然得出了几乎相同的设计方案。

参与者做出的最显著改变是针对工具本身的用途。该项目最初的想法是作为医生在急诊室用于决定是否出院的屏幕。患者立即指出了这一思维中的缺陷：如果工具仅供医生使用，那么患者自己就永远看不到它，也无法理解其中的风险或计划。他们坚持认为，该工具应该是一个面向患者的移动应用程序。他们希望由自己来输入信息，而不是仅仅让数据被机器收集。他们认为，该工具不应只关注他们在危机时刻的心脏功能快照，而应理解他们作为一个完整的人。这意味着要包含有关他们生活的信息，例如饮食、宗教习俗、居住情况以及出行能力，因为所有这些因素都会改变风险预测对个人的适用性。

在工具应如何展示结果方面，参与者拒绝了医学统计中常见的冰冷、生硬的数字。他们解释说，看到像“死亡概率为6.4%”这样具体的百分比是非常恐怖且毫无帮助的。相反，他们希望风险能以广泛且易于理解的类别来展示，例如低、中或高风险。更重要的是，他们希望工具能告诉他们下一步该怎么做。单纯的风险评分只是一个数字；而将风险评分与明确、可操作的步骤（例如“今天给您的医生打电话”或“监测您的体重”）相结合，才是人们可以使用的东西。他们还希望工具能对其自身的局限性保持诚实。如果计算机没有足够的数据来对特定的人做出可靠的推测，参与者表示，工具应该直接说“我现在无法告诉你”，而不是给出一个虚假或误导性的数字。他们将这种沉默视为一种诚实，是建立信任的一种方式，而非技术的失败。

设计中还包括了一种让患者控制获取信息程度的方法。参与者意识到，在急性疾病发作时，他们可能没有精力去阅读复杂的解释。因此，他们设计了一个系统，让他们可以选择详细程度：他们可以只看简单的摘要，或者如果愿意，可以点击查看有关预测是如何做出的更技术性的信息。这赋予了他们根据自己在任何时刻能处理多少信息来做决定的权力。他们还强调，该工具应该是他们与医生之间的桥梁，允许他们与医疗团队分享个人数据并接收回馈，从而创造一种伙伴关系，而非单向的信息流动。

尽管研讨会取得了成功，但参与者也对仍然存在的挑战保持了现实的态度。他们指出，将这些想法转化为真正的、可运行的产品是非常困难的。他们注意到，数据隐私法律、构建和维护软件的成本以及医院的资金筹措方式，往往构成了阻碍优秀想法转化为最终产品的障碍。一位参与者提到，仅凭一次研讨会不足以解决这些深层结构性问题，且让患者参与的过程需要标准化，并获得适当的资金和时间支持。研究人员对此表示赞同，并指出虽然患者提出了一个清晰且连贯的愿景，但从这一愿景到工具进入医生手中的路径仍具有不确定性。

这项研究表明，当具有生活经验的人们获得空间去设计影响他们生活的技术时，他们不仅仅是在微调界面，而是在重新定义问题。他们将焦点从一个帮助医生管理病床的工具，转向了一个帮助个人管理生活的工具。他们证明了，对于涉及死亡风险的高风险技术，情感和实际需求与算法的数学准确性同样重要。这项工作表明，只要将患者视为合作伙伴而非受试者，他们就能够对复杂系统进行战略性思考。虽然本研究中描述的工具尚未投入使用，但该小组创建的设计规范为如何构建旨在服务于人、而非仅仅服务于使用其系统的医疗人工智能，提供了一个全新的蓝图。