技术摘要：GraphDiffMed

问题陈述

基于电子健康记录（EHR）的用药推荐是一项关键的临床人工智能任务，旨在根据纵向病史（诊断、手术、既往处方和实验室结果）预测患者当前就诊的合适药物组合。核心挑战在于平衡疗效（推荐正确的药物）与安全性（最小化有害的药物 - 药物相互作用，即 DDI）。

现有方法通常在某一方面的表现优异，却在另一方面失效：

• 时序模型能够捕捉纵向动态，但往往依赖于数据驱动的注意力机制，容易过拟合于嘈杂的共现模式或特定机构的处方伪影，无法区分具有临床合理性的多药联合治疗与虚假相关性。
• 知识整合模型引入了药理学图（如 DDI 网络），但通常将其作为注意力机制之后的事后正则化惩罚项，而非在注意力机制构建过程中的结构性约束。
• 噪声敏感性：EHR 数据具有稀疏、嘈杂和异构的特点。标准的注意力机制难以在保留具有临床意义的长程依赖的同时，过滤掉虚假信号。

方法：GraphDiffMed

作者提出了GraphDiffMed，这是一个将双尺度差分注意力 v2（DiffAttn_v2）与药理学图先验相结合的框架，用于过滤噪声并约束推荐结果。

1. 架构概览

该模型遵循分阶段流水线：

• 多模态嵌入：将诊断、手术、药物、实验室事件和人口统计学信息映射到共享的潜在空间。药物嵌入进一步通过分子分支（基于分子结构的 GIN 风格消息传递）和连接诊断/手术与药物的因果效应矩阵进行细化。
• 双尺度差分注意力：核心创新在于在两个层级应用 DiffAttn_v2：
  • 就诊内（Intra-Visit）：通过将临床上下文（诊断/手术）的门控投影计算到药物表示空间中，过滤单次就诊内的噪声。
  • 就诊间（Inter-Visit）：捕捉跨历史就诊的纵向依赖关系。
• 差分去噪机制：
  • 查询被投影到加倍的头空间（$2H$）。
  • 上下文被分割为成对的头（$C_1$和 $C_2$）。
  • 通过 Sigmoid 函数计算查询相关的门控（$\lambda$）。
  • 最终输出为减法运算：$C_{diff} = C_1 - \lambda \odot C_2$。该操作抑制共享噪声，同时保留与查询相关的信号。
• 图偏置注意力：
  • 药理学约束直接在 Softmax 操作之前注入到注意力 logits 中。
  • 将源自二元 DDI 邻接矩阵的偏置项（$B_{graph}$）添加到注意力分数中。
  • 关键设计选择：图偏置仅应用于就诊间层级（在就诊池化状态之间），而非就诊内层级。这是因为就诊内注意力作用于池化向量，均匀的标量偏置在 Softmax 后不会改变权重。就诊间偏置代表了当前就诊与历史就诊的药物集合之间的平均 DDI 密度。

2. 训练目标

该模型使用多术语损失函数进行训练：
$$\mathcal{L} = \mathcal{L}_{BCE} + \beta(t)\mathcal{L}_{DDI} + \alpha\mathcal{L}_{reg}$$

• $\mathcal{L}_{BCE}$：用于预测准确性的二元交叉熵。
• $\mathcal{L}_{DDI}$：一个正则化项，对预测的已知相互作用共处方进行惩罚。权重 $\beta(t)$ 在训练过程中进行退火（动态调整），以平衡最小化 DDI 与保持推荐覆盖率之间的权衡。
• $\mathcal{L}_{reg}$：L2 正则化。

主要贡献

1. 首个双尺度差分注意力：本文首次将差分注意力 v2 应用于用药推荐的就诊内和就诊间两个层级，证明了其在去噪临床轨迹方面的有效性。
2. 知识约束的注意力：作者没有将药理学知识视为事后惩罚，而是直接将 DDI 结构先验注入到注意力形成过程中，在差分减法之前塑造模型的焦点。
3. 模态分析：研究系统地评估了不同辅助模态（人口统计学与实验室事件）如何与架构相互作用。
4. DDI 的临床解释：作者提供了对 DDI 率的细致解释，指出高性能模型中略高的 DDI 率可能反映了对复杂多药联合治疗病例（其中相互作用在临床上得到管理）更完整的推荐，而非纯粹的不安全错误。

实验结果

实验在MIMIC-III数据集上进行，将 GraphDiffMed 与最先进的基础模型（如 GAMENet、PROMISE、CIDGMed、LEADER、DADA-MED）进行了比较。

• 性能：GraphDiffMed（特别是使用人口统计学作为辅助特征的配置，记为GraphDiffMed (GY)）在所有测试模型中取得了最佳的 Jaccard、F1 和 PRAUC 分数。
• 安全性与质量的权衡：
  • 虽然基础模型实现了最低的 DDI 率，但其 Jaccard 和 F1 分数显著较低，表明存在推荐不足（以牺牲疗效为代价的保守安全性）。
  • “Dual v2"架构（无图偏置）实现了最高的 Jaccard/F1，但 DDI 率较高。
  • GraphDiffMed (GY) 取得了最佳平衡：它实现了第二好的 Jaccard/F1和最佳的 PRAUC，同时保持了显著低于高性能"Dual v2 (LGY)"变体的 DDI 率。
• 模态发现：与“数据越多越好”的直觉相反，**GY（性别 + 年龄）**配置的表现优于包含实验室事件（L, LGY）的配置。作者将此归因于 MIMIC-III ICU 轨迹中实验室数据的高噪声和稀疏性，表明在强正则化下，更干净、更稳定的人口统计学信号更为有效。
• 消融实验：统计测试证实，预测质量（Jaccard/F1）的提升主要由双尺度差分注意力架构驱动，而图偏置有助于优化安全性与性能的平衡。

意义与主张

本文主张，GraphDiffMed 证明了将噪声感知注意力与药理学约束相结合，能够产生更可靠且具有临床意义的用药推荐。

作者强调的关键要点：

• 噪声抑制是首要任务：双尺度差分注意力是性能提升的主要驱动力，有效地将虚假共现与真正的临床信号分离开来。
• 结构先验优于硬规则：将图偏置作为注意力中的结构先验注入，使模型能够学习更安全的关联，而无需僵化地执行可能阻碍必要多药联合治疗的规则。
• 数据质量优于数量：在嘈杂的 EHR 背景下，当与稳健的架构设计配对时，更简单、更干净的辅助特征（人口统计学）可以胜过复杂、高维且嘈杂的模态（实验室数据）。
• 临床现实性：该模型承认在复杂的 ICU 病例中，某些药物相互作用是必要且可管理的；因此，纯粹基于指标驱动的 DDI 率最小化可能在临床上并非最优。所提出的框架实现了“有利的安全性 - 性能平衡”，而非孤立的最低 DDI 目标。

作者总结道，虽然当前的实现使用就诊集粒度进行图偏置，但未来的工作应探索配对级偏置和严重程度感知的 DDI 建模，以进一步优化临床效用。