Integrated Gradient-guided Adversarial Counterfactual Explanations of 12-lead Electrocardiograms

每天都有数百万人因胸痛或呼吸困难走进医院，而医生首先使用的工具通常是心电活动的一个简单的、仅持续十秒钟的记录。这就是心电图（ECG），一种通过十二个不同角度绘制心脏节律图的技术，它能在症状变得严重之前，揭示出如心肌梗死等隐藏的危险。几十年来，这项测试一直是金标准，但如今，人工智能正在学习如何以有时甚至能媲美人类专家的速度和准确度来解读这些同样的“波浪线”。然而，在计算机与临床实践之间仍存在着一道无形的屏障：虽然机器可以告诉医生患者处于风险之中，但它往往无法解释原因。它看到了人类无法察觉的数据模式，却让医生不得不去信任一个“黑盒”。为了弥合这一差距，研究人员正在开发一种新的思考方式，即不再仅仅指出图像中哪个部分看起来很重要，而是提出一个更具人性化的问题：如果想要得到不同的答案，需要做出什么样的改变？

这种被称为“反事实解释”（counterfactual explanation）的思维方式，反映了医生实际诊断患者的过程。当医生观察心电图轨迹时，他们不仅仅是识别特征；他们还在大脑中模拟各种替代情况。他们会自问：如果这个波峰稍微高一点，或者如果这段停顿缩短一点，诊断结果会从心肌梗死转变为正常节律吗？这种推理方式是医疗实践的核心，但将其教授给计算机一直是一项难题。现有的使人工智能透明化的方法大多只能强调影响预测的区域，就像一张显示相机聚焦位置的热力图。然而，这些地图并不能展示实现结果逆转所需的具体且最小限度的改变。它们告诉你机器看了哪里，但没告诉你需要改变什么才能改变它的想法。

在一项新的研究中，研究员比约恩-约斯特·辛格斯塔德（Bjørn-Jostein Singstad）致力于构建一个能够为心脏信号生成这些“如果……会怎样”场景的系统。其目标是创建一个框架，该框架可以接收一份被分类为心肌梗死的心电图，并对其进行轻微的“推挤”——这种推挤方式要集中在计算机本身认为最重要的特定信号部分，直到计算机将其视为正常心脏，反之亦然。挑战在于确保这些变化不是随机噪声或数字伪影，而是专注于机器所依赖的关键时刻的修改。为此，研究人员开发了一种名为 InterGRACE 的方法。该系统使用一种称为“集成梯度”（integrated gradients）的技术，它像一束聚光灯，精准识别出心脏跳动过程中机器最依赖的时刻。随后，系统利用这束聚光灯引导一个改变信号的过程，将变化集中在这些关键时刻，同时保持其余波形尽可能平滑自然。

该研究在一组包含超过两万一千条心脏记录的大型公开数据集中测试了这一方法，重点区分心肌梗死与正常节律。研究人员训练了两个独立的计算机模型来读取这些信号，确保它们在学习任务时互不干扰。目标是观察该系统建议的变化究竟是真实的医学特征，还是仅仅是单个计算机程序的特有偏差。当系统被要求将心肌梗死的诊断转变为正常节律时，它成功改变了第一个计算机模型的判断，成功率接近三分之二。更重要的是，当这些经过修改的信号展示给第二个独立训练的计算机模型时，后者也在超过一半的情况下改变了判断。这一部分成功表明，该系统发现了一些在不同数据理解方式之间真正共享的特征，同时也表明很大一部分变化仍然是针对特定原始模型的。

通过仔细观察被改变的信号，一个清晰的模式出现了。系统并没有随机扭曲整个心跳过程，而是将其修改集中在一个被称为 ST 段和 T 波的特定时间窗口内。在医学术语中，这些是心脏跳动中紧随主要电脉冲之后的阶段，代表了心脏的复极化阶段。这一点意义重大，因为在现实世界的医学中，这些区域的变化正是心肌梗死的主要指标。计算机在仅受其内部逻辑引导的情况下，选择了修改这些特定区域，这表明它与临床上具有意义的复极相关特征相一致，尽管研究指出这并不能最终证明这些是唯一的特征所在。这些变化并非在整个信号中均匀分布，而是非常精确，针对复极阶段进行调整，同时保持初始电脉冲基本不变。

然而，研究也揭示了这项技术的局限性。虽然该系统对计算机模型有效，但它产生的变化并不总是对于人类理解而言是完美安全或真实的。由于系统将十二导联的心电图分别独立处理，它有时会创造出在活体人类心脏中绝不可能出现的信号组合。例如，它可能会改变一个导联的电压，却未能在另一个导联中做出物理上必要的相应改变，从而创造出违反人体电流传输规律的模式。研究人员指出，如果没有严格的规则来强制执行这些生物学定律，生成的示例可能会包含一些在真实心脏信号中不可能出现或不太可能的特征，比如电压的突然跳变或现实中不存在的心脏无法产生的畸变波形。

这一发现是一个至关重要的提醒：虽然该方法成功识别了信号中对机器重要的部分，但它尚未完全理解人体复杂的物理机制。研究结论认为，这种方法是迈向人工智能透明化的一步，提供了一种通过询问“需要改变什么才能改变其想法”来探测计算机模型推理过程的方法。然而，在这些工具能够辅助医生做出生死攸关的决策之前，必须对其进行改进，以确保每一次建议的改变不仅对计算机有效，而且在物理上也符合人类心脏的生理现实。这项工作是一个初步的演示，证明了机器可以被引导进行“如果……会怎样”的思考，但也凸显了要确保这些假设性的改变植根于人类生理现实所面临的长远挑战。