Intelligence Preserves The System It Assists

在现代医院中，一场无声的革命正在进行，计算机正在学习阅读医学影像并预测患者预后。多年来，衡量该领域成功与否的标准一直是一个简单的竞赛：将计算机算法与人类医生进行对决，看谁能更频繁地得出正确答案。如果机器得分更高，它会被誉为突破；如果医生获胜，则认为机器失败了。这种方法假设医生和计算机是争夺同一份工作的竞争对手，并且目标是寻找一个能够取代人类判断的单一、完美的预测器。然而，这种观点忽视了医学的一个基本现实：治疗患者的行为会改变患者本身。当外科医生切割组织、护士调节药物滴注或医生开始一种新的疗法时，他们所观察到的情境已不再是片刻之前的那个情境了。旨在帮助患者的行动本身改变了疾病的进程，使得基于过去数据的预测在最需要它的那一刻可能变得毫无用处。

莫里斯·安东尼·尤因（Maurice Antony Ewing）的一项新研究挑战了这种竞争心态，转而研究计算机和医生如何相互协作而非相互对抗。该研究并非询问哪种智能体整体上更准确，而是提出了一个不同的问题：它们的优势和劣势在何时可以互补？研究表明，虽然计算机擅长预测如果一切保持不变将会发生什么，但当治疗过程积极重塑患者状况时，它们往往会出错。相反，人类医生擅长察觉情况何时偏离了预期路径，但他们可能会错过海量数据中的细微模式。其核心思想是，计算机在医院中的真正价值可能不在于成为最好的预测器，而在于作为一个专门的传感器，专门在由于医疗干预导致患者状况发生意外变化时发出警报。

为了测试这一想法，研究人员检查了五种不同类型的医学数据，范围从机器人手术臂的瞬时运动到癌症治疗长达数月的缓慢进展。在每种情况下，首先训练一个标准的计算机模型来学习患者或手术应遵循的“正常”路径。例如，在机器人手术中，模型学习了针头穿过组织的典型速度和方向。在重症监护室中，它学习了患者血压通常如何对药物做出反应。随后，研究人员引入了第二个“增强型”模型，旨在执行不同的任务：它不仅仅是预测未来，而是监测实际事件何时显著偏离了预测路径。研究人员并未透露构建这个第二模型的具体数学公式或精确代码，将其细节作为受保护的实现方式，但他们测量了这个系统相对于人类医生和标准计算机模型的表现如何。

结果显示了一个在所有五种医学场景中都成立的显著模式。在一切进展顺利且患者状况稳定的情况下，增强型模型的表现实际上比人类医生和标准计算机都要差。例如，在重症监护室数据中，在稳定状态下，增强型模型的正确率仅为 25.6%，而人类医生的正确率为 34.6%。然而，当患者状况开始发生意外变化时，情况完全反转了。在这些“偏离”时刻，即患者的生理状况或手术过程偏离常态时，增强型模型成为了明显的领导者。在同样的重症监护室数据中，当患者状况不稳定时，增强型模型的正确率为 46.9%，显著优于人类医生（仅为 20.5%）和标准计算机（仅为 19.6%）。

这种交叉效应并非偶然，它在不同类型的数据中表现得始终如一。在机器人手术中，该系统标记了手术医生改变技术之前的时刻，例如从缝合结节切换到传递针头，识别出这些转换是常规运动规则不再适用的时刻。在腹腔镜视频中，该系统突出了手术的复杂阶段，例如外科医生进行胆囊牵引时，此时视觉场景变得混乱且不可预测。在脑癌治疗案例中，该系统只有在观察长达数周的完整治疗过程时才证明有效，因为疾病轨迹的“变形”是一个缓慢的过程，无法通过单一的快照观察到。研究发现，该增强系统的价值并不取决于初始预测有多好。即使标准计算机模型在预测未来方面非常准确，增强型系统仍然能在预测失效的时刻发现其价值。

研究还强调，这种有效性完全取决于时机。正如相机需要合适的快门速度来捕捉快速移动的物体而不产生模糊一样，该系统也需要观察合适的时间跨度才能看到变化。在癌症研究中，观察短促、不连续的时间窗口会降低系统的有效性，但观察整个治疗序列则能让它看到疾病路径的变形。这表明，该系统并不是医生的通用替代品，而是一个专门的工具，仅在情况处于变动之中时才变得至关重要。研究明确指出，它并不声称已经解决了自主手术或治疗的问题，也没有提供可供医院安装的现成软件产品。检测这些变化的具体方法仍未公开，且研究结果是基于对过去数据的回顾，而非在真实的临床手术室中进行测试。

最终，论文认为，医学人工智能的未来不在于制造试图比人类更优秀的机器，而在于创造能够理解“游戏规则已改变”的系统。最有效的协作可能是：由标准计算机处理病例中常规、可预测的部分，而由一个专门的、具备干预意识的系统来监测那些患者状况正以违背计划的方式发生偏移的时刻。在这些关键的偏离时刻，该系统可以提供一种不同的智能，即识别出预测的基础已经发生了位移。研究结论指出，该领域的正确问题不是机器能否击败医生，而是它们的信息在何处最为互补，从而确保技术通过协助临床医生应对不可预测的护理时刻，来维护其所辅助的系统。