🤖 machine learning

Re-mixing Embeddings for Patient Augmentation in Data Scarce Multiple Instance Learning

本文介绍了 RECIPE，一种具有统计学依据的患者增强方法，该方法通过高斯混合模型学习特定疾病的实例分布，在嵌入空间中生成真实的患者，从而有效地解决了包括缺失类别和低数据量在内的多种临床场景下多实例学习中的数据稀缺问题。

原作者： Muhammed Furkan Dasdelen, Fatih Ozlugedik, Anastasia Litinetskaya, Nassir Navab, Carsten Marr, Ario Sadafi

发布于 2026-06-25

📖 1 分钟阅读☕ 轻松阅读

原作者： Muhammed Furkan Dasdelen, Fatih Ozlugedik, Anastasia Litinetskaya, Nassir Navab, Carsten Marr, Ario Sadafi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一位大师级厨师，正试图教一名年轻学徒烹饪一道特定的珍稀菜肴。问题在于？你的食材库里只剩下寥寥几种食材了，对于某些版本的菜肴，你甚至零食材可用。如果你试图用如此匮乏的食材去教导学徒，他们永远无法领悟那真正的滋味。

这正是医生和人工智能在诊断罕见疾病时面临的准确问题。对于常见病症，他们拥有大量数据，但对于罕见病，或者特定研究中的“健康”对照组，数据是缺失或极其稀缺的。

这篇论文介绍了一种名为 RECIPE（通过聚类进行嵌入重混以实现患者增强，Re-mixing Embeddings via Clustering for Patient augmEntation）的新方法。你可以把 RECIPE 理解为一个聪明的统计学副主厨，它能够发明出全新的、真实的“虚拟”患者，来填补厨师（即 AI）训练厨房中的空白。

以下是它的工作原理，分为简单的步骤：

1. 问题所在：“空荡荡的食材库”

在医学 AI 中，我们经常使用一种叫做多实例学习 (Multiple Instance Learning, MIL) 的技术。想象一下，一个“袋子”（bag）代表一名患者。在这个袋子里，包含了数百个微小的信息碎片（比如血液样本中的单个细胞或组织切片中的微小区域）。AI 会观察整个袋子来推测诊断结果。

麻烦在于，如果你只有 5 名患有某种罕见疾病的患者，AI 就会感到困惑。它无法学习到这种疾病的“食谱”。更糟糕的是，有时你甚至没有健康的患者可以用来做对比。传统的处理方法（比如仅仅翻转图像或改变颜色）在这里并不奏效，因为它们无法创造出新类型的患者；它们只是在对现有的少数几个样本进行细微的变化。

2. 解决方案：“统计学食谱手册”

RECIPE 通过不将数据视为单张图片，而是将其视为风味特征（称为“嵌入”，embeddings）来解决这个问题。

步骤 A：品鉴测试（聚类）：
该方法提取来自所有患者（即使来自不同医院或研究）的所有微小数据片段，并根据相似性将它们进行聚类。这就像是将一大堆香料分类放入罐中：“辛辣”、“甜美”、“大地气息”等等。
步骤 B：编写食谱：
针对特定疾病（例如某种特定类型的白血病），AI 会计算通常需要多少种“香料”进入混合物。它会创建一个统计学“食谱”：“要制作一个健康的患者，你需要 60% 的这种香料，20% 的那种，再加上一撮这种香料。”
步骤 C：烹饪新菜肴（增强）：
现在，AI 可以从头开始“烹饪”新的患者。它不需要从一个真实的患者开始。它只需遵循食谱：从现有的数据池中抓取正确比例的“香料”，并将它们混合在一起，从而创造出一个全新的、听起来很真实的患者。

3. 魔术技巧：向邻居借调

最令人印象深刻的部分是当你在某个类别（如健康对照组）中零患者时，RECIPE 是如何运作的。

想象一下，你在一个没有盐的厨房里，而你的邻居手里有一大罐盐。通常，你不能直接拿走他们的盐，因为那可能不是同一个品牌或品质。

RECIPE 的方法： 它分析邻居的盐罐，以理解“咸度”的统计模式。然后，它利用这种模式来为你的食材调味。
论文中的应用： 研究人员使用了来自大型健康数据集（cAItomorph）的数据，来学习“健康”血细胞在统计学上是什么样子的。然后，他们利用这个“食谱”为另一个没有健康人群的较小数据集（AML-Hehr）生成了健康患者。
结果： 在这些“借来”的健康患者上进行训练后，AI 的表现几乎达到了与使用完整真实数据集进行训练相当的水平。它有效地“转移”了关于健康的知识，而无需分享实际的隐私数据。

4. 挑选最好的“虚拟”患者

你不能随心所欲地生成无限的虚拟患者；有些可能会显得很奇怪或不真实。

质量控制： AI 进行一场“猜测”游戏。它观察新的虚拟患者，并问道：“我对这个患者的把握有多大？”
策略： 如果 AI 对一个虚拟患者非常困惑（不确定），这意味着这个患者很有趣，能教会 AI 一些新的东西。RECIPE 特别挑选这些“令人困惑”的虚拟患者，将其加入训练集。它会忽略那些过于简单或显而易见的案例。

5. 它们在哪里进行了测试？

作者在三个完全不同的“厨房”中测试了这个“副主厨”：

缺失食材： 为一项白血病研究创建健康患者，而该研究中原本没有任何健康人群可用。
极少量份量： 当针对某种疾病仅有 1、2 或 4 名真实患者时，创造更多的患者。
不同的菜系： 将其应用于非图像数据，如单细胞 RNA 测序（遗传数据）和流式细胞术（细胞计数），证明即使在没有图片的情况下，它依然有效。

核心总结

RECIPE 是一个帮助 AI 医生通过数学化重混现有数据来创造现实新样本，从而学习罕见疾病的工具。它使我们能够：

利用其他研究中的统计数据来填补缺失的群体（如健康对照组）。
即使在只有少量真实患者的情况下也能有效地学习。
并且在无需分享敏感患者数据的情况下，仅通过统计学“食谱”完成这一切。

该论文声称，这种方法能持续超越其他生成虚拟数据的方法，其性能水平往往接近于拥有完整、完美数据集时的水平。

技术摘要：用于患者增强的嵌入重混合技术（针对数据匮乏的多实例学习）

问题陈述
数据稀缺仍然是医学多实例学习（MIL）中的关键瓶颈，特别是在罕见病、专业且昂贵的模态以及侵入性数据采集受限的场景下。在 MIL 中，“包”（例如，一名患者）由多个“实例”（例如，图像块、单细胞或基因组特征）组成，模型通过这些实例预测包级标签，而无需实例级的标注。传统的增强技术（如旋转、翻转）是在实例层面进行的，无法生成具有现实意义的包级变化。此外，现有的包级混合策略（如 PseMix、ReMix）存在三个主要局ations：

它们仅在**在线（online）**模式下运行，创建的是瞬时的合成包，无法进行验证或重复使用。
它们的局部混合范围无法捕捉全局群体统计特性。
它们需要来自每一个类别的真实样本，这使得它们在整个类别（例如，健康对照组）缺失时失效。

方法论：RECIPE
作者引入了 RECIPE（通过聚类进行患者增强的嵌入重混合），这是一个离线的、基于统计学的框架，用于在嵌入空间中生成新的患者包。该流程包含两个主要阶段：

基于聚类的无监督采样（配方学习）：
- 嵌入池化（Embedding Pooling）： 将所有训练患者的实例嵌入聚合在一起。
- 高斯混合模型（GMM）： 对池化后的嵌入进行拟合，以定义无监督聚类。
- 配方推导（Recipe Derivation）： 对于每个疾病类别，该方法计算一个“配方”——即实例在所学聚类中的统计分布。这由每个类别 $c$ 在每个聚类 $k$ 中分配到的实例数量的均值 ( $\mu_{c,k}$ ) 和标准差 ( $\sigma_{c,k}$ ) 来定义。
- 患者生成： 通过根据学习到的配方对每个聚类的实例数量进行采样（ $n_{c,k} \sim \mathcal{N}(\mu_{c,k}, \sigma^2_{c,k})$ ），然后从分配给这些聚类的真实实例池中抽取相应数量的嵌入来生成新患者。这使得即使在不存在特定类别的真实样本时也能生成患者，只要配方是从外部数据集推导而来的。
不确定性感知患者选择：
- 为了确保生成的数据能够提升模型性能而非引入噪声，该方法采用了不确定性量化技术。
- 预训练的 MIL 模型在推理阶段使用蒙特卡洛（MC）Dropout 来评估生成的包。
- 通过计算**预测熵（Predictive Entropy）**来量化不确定性（ $U(x) = H[\bar{p}(x)]$ ）。
- 仅选择那些最具不确定性的生成患者（具有高熵的样本）来扩充训练集，其假设是这些样本能提供最具信息量的学习信号。

核心贡献

离线、基于统计学的生成： 不同于在线混合方法，RECIPE 学习全局分布“配方”，以创建持久且可分析的合成队列。
处理缺失类别： RECIPE 是首个能够在不共享敏感患者数据的情况下，通过从外部数据集转移统计配方，从而生成完全缺失的患者类别（例如，健康对照组）的 MIL 框架。
跨模态适用性： 该方法在包括组织病理学图像、单细胞 RNA 测序（scRNA-seq）和流式细胞术在内的多种数据模态中均被证明有效。
架构无关性： 该框架兼容各种 MIL 聚合器，包括基于注意力的 MIL（ABMIL）、DSMIL 和 Transformer。

实验结果
作者在三个临床相关的稀缺场景中评估了 RECIPE：

跨数据集迁移（缺失类别）：
- 场景： 从 AML-Hehr 数据集中移除了所有的健康对照组。从外部 cAItomorph 数据集中推导出了一个“健康配方”，并将其应用于 AML-Hehr 嵌入池。
- 结果： 生成的健康患者与真实的细胞类型组成高度匹配（Jensen-Shannon 散度 = 0.12）。使用这些生成的患者进行训练，达到了与全数据集训练相当的性能（平衡准确率 0.78 vs 0.83），并显著优于直接迁移外部数据的方法（0.66）。
低数据量情景：
- 场景： 将 AML-Hehr 中的健康对照组数量减少到仅剩 $n=1$ 。
- 结果： 在仅有一个真实健康对照的情况下，基准模型的平衡准确率为 0.26。RECIPE 达到了 0.68，显著优于 MixUp（0.60）和 PseMix（0.64）。
非图像模态（scRNA-seq 和流式细胞术）：
- 场景： 在样本量自然有限的 COVID-19 严重程度数据集上进行增强。
- 结果： RECIPE 在 scRNA-seq 数据上将平衡准确率提升了 +14%（PCA 嵌入）和 +26%（scVI 嵌入），并在流式细胞术数据上提升了 +22%，优于所有基准增强策略。

意义与主张
论文声称，RECIPE 通过基于学习到的统计分布重混合池化嵌入，为生成现实的患者队列提供了解决医疗 MIL 数据稀缺问题的创新方案。其主要意义在于能够：

解决“缺失类别”问题，允许利用外部统计数据合成健康对照或罕见疾病表型，同时不损害患者隐私。
在传统增强方法失效的极端低数据量情景下提升 MIL 性能。
提供一个可推广至成像以外领域（如单细胞和细胞术数据）的通用框架。

作者强调，其方法超越了局部的在线混合，转向对全局群体统计特性的建模，从而能够创建经过验证且可重复使用的合成数据，以弥补罕见病研究和隐私保护数据增强方面的空白。