📄 health informatics

Forecasting laboratory measurements from longitudinal electronic health records

该论文介绍了 LaBERT，这是一种基于 Transformer 的模型，它通过有效地学习具有临床意义的治疗效果并实现个性化临床决策支持，在根据纵向电子健康记录预测未来实验室测量值方面显著优于基准方法。

原作者： Firoozbakht, F., Baumabach, J.

发布于 2026-08-13

📖 1 分钟阅读☕ 轻松阅读

原作者： Firoozbakht, F., Baumabach, J.

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ⚕️ 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。阅读完整免责声明

想象一下，你正在试图猜测下周的天气会如何。你可以仅仅观察现在的天空并说：“现在是晴天，所以明天可能也是晴天。”这算是一个不错的猜测，但它忽略了大局。如果一个风暴系统正从西方移入呢？如果已经连续下了三天雨呢？为了得到正确的答案，你需要观察整个故事：天气的历史、温度趋势，甚至昨天预报员说了什么。

在医学领域，医生也面临着类似的谜题。他们拥有患者的“医疗天气报告”，这是一份被称为电子健康档案（EHR）的长长的数字和笔记列表。这些记录追踪了诸如血液检测结果、药物和患者感受随时间的变化。核心问题是：我们能否利用这些杂乱、复杂的历史记录，来预测患者在下次就诊时的健康指标会是什么样子？如果我们能做到这一点，就像拥有了一个水晶球，能帮助医生在麻烦发生前发现苗头，从而及时调整治疗方案。这就是“预测”患者健康的挑战，而由于每个人的身体反应各不相同，且数据往往杂乱且存在缺失，这使得这项工作变得异常困难。

于是，由研究人员 Farzaneh Firoozbakht 和 Jan Baumbach 设计的名为 LaBERT 的新型计算机“大脑”应运而生，旨在解决这个难题。可以将 LaBERT 想象成一位超级聪明的侦探，它不仅看最新的线索（最近一次血液检测），还会阅读整个案卷。这位侦探是在一个包含超过 25.5 万名患者、超过 50 万次住院就诊记录的海量真实世界医疗记录库上进行训练的。

以下是 LaBERT 的工作原理及其发现：

侦探的工具箱
大多数计算机模型试图将患者的历史转化为简单的单词列表，就像一本故事书。但 LaBERT 不同。它以特殊的方式处理不同类型的医疗数据。它知道药物名称与血压数值是不同的。它没有将所有内容都压缩成文本，而是使用了一种特殊的“翻译”系统，保留了数字作为数字、药物名称作为名称，让模型能够理解每种信息的独特形态。

至关重要的是，LaвERT 不仅仅孤立地看待单次就诊。它使用了一个“记忆小径”系统。想象一下一名徒步旅行者在每个营地都留下一个背包。当徒步者到达下一个营地时，他们不仅会观察当前地点，还会检查之前所有营地的背包，以了解自己曾去过哪里以及可能前往何处。LaBERT 通过将当前的就诊情况与所有先前就诊的“潜在历史”相结合来实现这一点。研究人员测试了三种携带这种“背包”的方式：仅添加旧信息、使用“门控”来决定保留多少旧信息，或者使用复杂的记忆单元。他们发现“门控”方法效果最好，能够自适应地平衡昨日发生的情况与今日发生的情况。

结果：优于基础水平
团队将 LaBERT 与一些更简单的方法进行了对比测试。其中一种是“基准”方法，即假设你的下一次血液检测结果与上一次完全相同；另一种是标准的计算机模型（MLP），它不具备这种高级的“记忆”或“翻译”技能。

结果显而易见：LaBERT 胜出了。

它将平均预测误差（均方误差）从 0.77 降低到了 0.53。
它提高了解释患者健康变化的能力（R² 分数），从 0.29 提升到了 0.51。

这意味着 LaBERT 不仅仅是在瞎猜；它实际上正在学习患者的历史、治疗方案与未来健康状况之间复杂的舞蹈。

它真的理解医学吗？
为了确保 LaBERT 不仅仅是在记忆模式而没有理解本质，研究人员玩了一个“如果……会怎样”的游戏。他们提取了真实的患者记录，并将实际使用的药物替换为随机的假药物。他们发现，在 81% 的案例中，当使用真实药物时，模型对未来健康状态的预测准确度远高于使用假药物时。这表明 LaBERT 已经学习到特定的药物会导致特定的身体变化。

他们进一步进行了“反事实”实验。他们询问模型：“如果这位患者服用华法林（Warfarin，一种抗凝血剂），他们的 INR（国际标准化比值，反映血液凝固程度的指标）会发生什么变化？”以及“如果他们服用肝素（Heparin），他们的 PTT（部分凝血活酶时间）会发生什么变化？”

当看到华法林时，模型在不同测试运行中 100% 预测了 INR 的增加。
当看到肝素时，模型在 82% 到 89% 的运行中预测了 PTT 的增加。

这些结果在模型预测 0.5 天后或 30 天后的健康状态时依然成立。这表明模型学习到了真实的、既定的医学规则，而非随机噪声。

LaBERT 做不到什么
需要注意的是，该模型并非万能。研究人员明确指出，LaBERT 是从“观察性”数据（即医院中实际发生的现象）中学习的。它并不证明“因果关系”。例如，模型可能会预测服用胰岛素的患者随后会有较高的血糖。这并不是因为胰岛素升高了血糖（实际上它会降低血糖）；而是因为医生会将胰岛素用于那些血糖已经非常高的患者。模型忠实地重现了这种现实世界的模式，但除非被告知，否则它并不知道生物学上的因果逻辑。作者警告说，这些预测是“观察性预测”，而非绝对的因果真理，应当用于辅助而非取代医生的判断。

总结
LaBERT 是一个强大的新工具，它表明我们可以利用患者漫长且杂乱的生活史，以惊人的准确度来预测其未来的健康指标。通过将时间、药物和实验室结果视为一个相互关联的故事，而非孤立事实的列表，它为未来提供了一个愿景：医生可以模拟不同的治疗路径，并选择最有可能让患者保持健康的路径。虽然它不是解决所有医学奥秘的魔杖，但它是迈向个性化、前瞻性医疗的重要一步。

技术摘要：LaBERT 用于预测纵向电子健康记录中的实验室测量值

问题陈述

从纵向电子健康记录（EHR）中预测患者未来的实验室测量值是实现个性化医疗的关键挑战，为疾病监测和治疗规划提供了潜在支持。然而，准确的预测受到复杂且高度个体化的临床轨迹的阻碍，这些轨迹涉及疾病进展、治疗干预与个体病史之间的非线性相互作用。虽然近期的深度学习进展已经解决了离散事件预测（如死亡率、风险评分）和短期 ICU 预测问题，但在能够预测后续稀疏临床就诊时的连续实验室测量值的方法方面，仍存在显著空白。现有方法如 LabTOP 局限于高密度的 ICU 数据和短期预测时界，缺乏对一般医院和门诊纵向数据的适用性。

方法论

数据集与预处理

本研究利用了 MIMIC-IV 数据库，该数据库包含来自 299,712 名患者、431,231 次住院记录（2008–2019 年）的去隐私纵向数据。数据集被处理为 医疗事件数据标准 (MEDS) 格式，将数据组织为按就诊时间排序的临床事件序列。

特征： 模型摄取了 50 个特征，包括静态人口统计学、诊断（ICD-9/10）、手术（ICD-9/10-PCS）、药物（通用名称）、生命体征以及 44 项连续实验室测量值（选择覆盖率 $\ge$ 20% 的指标）。
序列构建： 每次患者就诊被视为一个具有固定上下文长度 250 的标记（token）序列。
归一化： 连续变量经过对数转换以处理偏斜、异常值裁剪（10 MAD）以及标准化至零均值/单位方差。就诊之间的时间间隔 ( $\Delta t$ ) 经过对数转换并缩放至 [0, 1]。
队列： 最终数据集包含来自 255,763 名患者的 583,535 次就诊，采用 70/15/15 的训练/验证/测试集划分。

模型架构：LaBERT

LaBERT 是一个基于 Transformer 的框架，旨在给定当前患者状态和历史记录的情况下，预测未来时间点 ( $t + \Delta t$ ) 的连续实验室数值。

异构临床表示：
- 离散变量（诊断、药物、手术）通过可学习的查找嵌入（lookup embeddings）进行映射。
- 连续变量（实验室值、生命体征、时间间隔）通过专门的线性层投影到嵌入空间。
- 特征感知标记化（Feature-Aware Tokenization）： 与使用位置嵌入来编码顺序的标准 Transformer 不同，LaBERT 为每种类型的标记分配了可学习的特定特征嵌入。这使得异构变量能够在统一的自注意力架构内进行联合建模，而与其序列顺序无关。
纵向历史建模：
为了捕捉多次就诊之间的依赖关系，LaBERT 通过门控循环机制传播潜在的历史状态 ( $H_t$ )。模型评估了三种集成策略：
- 加法式（Additive）： 历史记录的线性投影被添加到当前就诊的表示中。
- 门控式（Gated）： 使用 Sigmoid 门控自适应地平衡过去和当前的信息。
- 基于 LSTM 式： 具有输入、遗忘和输出门的显式隐藏状态和细胞状态。
  实验确定门控集成机制为最优方案，优于其他两种方式。
时间调节预测：
模型将当前与未来就诊之间的时间间隔 ( $\Delta t$ ) 作为输入标记显式纳入，从而实现跨任意时间跨度的预测，而非固定间隔。
训练目标：
模型最小化预测值与下一次临床就诊时观测到的实验室数值之间的均方误差 (MSE)。

关键结果

预测性能

在 583,535 次就诊上的评估显示，LaBERT 一致优于三种基准方法：

对比上次观测值结转法 (LOCF)： LaBERT 将 MSE 从 0.76 降低至 0.55（降幅约 28%），并将决定系数 ( $R^2$ ) 从 0.30 提高至 0.50。
对比多层感知机 (MLP)： LaBERT 将 MSE 从 0.60 降低至 0.55，并将 $R^2$ 从 0.45 提高至 0.50，证明了序列建模和注意力机制的价值。
对比 LabTOP： 在适配相同的预测设置时，LaBERT 显著优于基于 GPT-2 的 LabTOP，将 $R^2$ 从 -3.7（表现差于预测平均值）提升至 0.77。

纵向与时间维度的贡献

历史集成： 通过门控集成引入纵向历史，相比不含历史的基础模型，进一步降低了 3.4% 的 MSE，同时全局 Pearson 相关系数从 0.70 提高到 0.72。
时间间隔 ( $\Delta t$ )： 若移除作为输入的 $\Delta t$ ，预测误差会增加，且随着预测时界的增长，差距进一步扩大。这证实了模型学习的是时间相干的表示，而非仅仅依赖静态特征。
人口统计学： 消融实验表明，添加年龄、性别和种族作为输入标记并未提高性能，这表明这些因素与模型捕捉到的纵向临床轨迹高度冗余。

鲁棒性与临床意义

测量频率： 预测误差 (NRMSE) 与测量频率之间没有强相关性。高准确度是由变量间的相关性（如 MCV/MCH）和时间稳定性驱动的，而非数据密度。
药物扰动： 在 81% 的就诊中，使用原始药物的预测比使用随机化药物集的预测更准确，这表明模型学习到了与治疗相关的特征信息。
反事实分析： LaBERT 在受控模拟中成功重现了已建立的药理效应：
- 华法林 (Warfarin)： 在 11 次模型种子实验中，预测的 INR 增加比例为 100%。
- 肝素 (Heparin)： 在 82–89% 的比较中，预测的 aPTT 增加。
  这些效应在 0.5 到 30 天的预测时界内保持一致。

意义与主张

作者将 LaBERT 定位为依赖治疗的患者状态模拟和个性化临床决策支持的基础框架。其核心主张包括：

首个统一框架： 据作者所知，LaBERT 是第一个将异构临床表示、特征感知标记建模、显式纵向历史集成以及时间调节预测结合在单一 Transformer 框架内，用于预测未来生理状态的方法。
临床可解释性： 模型在反事实设置下重现已知药物效应（华法林-INR，肝素-aPTT）的能力，证明了它从观察性数据中学习到了具有临床意义的、依赖于治疗的关联。
局限性与因果性： 作者明确指出，LaBERT 从观察性 EHR 数据中学习的是关联而非因果效应。他们警告说，模型可能会复制治疗分配中的固有偏差（例如“适应症混杂”，即胰岛素被开给血糖较高的患者）。因此，预测应被视为观察性预测，用以补充而非取代临床判断或前瞻性试验。
未来方向： 论文建议，将此类纵向表示与结构化生物医学知识（如知识图谱）相结合，可以提高可解释性并实现生物学启发的模拟。

该工作建立了一种稳健的计算方法，用于预测连续的临床测量值，超越了离散事件预测，从而提供量化的、具备时间感知能力的患者轨迹预测。