📊 statistics

Bayesian uncertainty-aware deep learning with noisy labels: Tackling annotation ambiguity in EEG seizure detection

本文介绍了 BUNDL，这是一种新颖的、与模型无关的贝叶斯深度学习算法，它利用基于 KL 散度的损失函数来处理 EEG 癫痫发作检测中的标签噪声，从而在不增加额外参数的情况下提高模型的鲁棒性和泛化能力。

原作者： Deeksha M. Shama, Archana Venkataraman

发布于 2026-06-25

📖 1 分钟阅读☕ 轻松阅读

原作者： Deeksha M. Shama, Archana Venkataraman

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心问题：用一本“烂教材”教学

想象一下，你是一位老师，正试图训练一名学生（一个人工智能程序）来识别脑电图（EEG）中的癫痫发作。为此，你给学生准备了一本教科书，里面充满了癫痫发作和正常脑电活动的示例。

然而，有一个严重的问题：这本教科书是由会犯错的人编写的。

在医学领域，医生观察这些复杂的脑电波并标记出癫痫何时开始和结束。但由于信号具有噪声且难以读取，医生之间经常存在分歧。有时他们会将癫痫标记为比实际发生时间更早（过度分割），或者漏掉了准确的结束时间。这被称为**“标签噪声”（Label Noise）**。

如果你用这本不完美的教科书来教你的 AI 学生，学生就会学到这些错误。它会认为“噪声”是癫痫的一部分，或者会对癫痫实际发生的时间感到困惑。这会让 AI 变得不可靠。

解决方案：BUNDL（“怀疑的学生”）

作者创建了一种新的训练方法，称为 BUNDL（贝叶斯不确定性感知深度学习）。

不要把 BUNDL 看作一种新型的学生，而应将其视为一种新的教学策略，让学生变得更聪明，知道何时该信任教科书。

以下是它的工作原理（使用类比）：

“信心检查”（蒙特卡洛 Dropout）：
通常，当 AI 查看一段脑电波时，它只给出一个答案：“这是癫痫发作。”
有了 BUNDL，AI 被迫多次查看同一段脑电波，但每次它都会忽略自己大脑的随机部分（这种技术称为 dropout）。
- 如果 AI 每次都说“癫痫发作”，那么它是自信的。
- 如果 AI 有时说“癫痫发作”，有时说“正常”，那么它是不确定的。
“信任计”（以不确定性作为噪声的代理指标）：
作者意识到，当 AI 对某段脑电波感到“不确定”时，通常是因为教科书中的人类标签是错误或模糊的。
- 高置信度： AI 信任教科书的标签。
- 高不确定性： AI 会想：“等等，我很困惑。教科书说这是癫痫，但我的分析很犹豫。教科书在这里可能错了。”
“智能修正”（损失函数）：
BUNDL 不会盲目接受教科书的答案，而是使用数学公式来调整课程。
- 如果 AI 感到不确定，它会减少对人类标签的依赖，更多地依赖自身的模式识别能力。
- 它本质上是在说：“我会学习这个例子，但我不会 100% 信任人类给出的时间戳，因为数据看起来很乱。”

为什么这种方法更好？

处理“烂教材”的方法还有很多，但它们各有缺点：

“编辑”法（剪枝）： 一些方法试图在教学前扔掉教科书中“坏”的页面。但在 EEG 数据中，很难知道哪些页面是真的坏了，因此你可能会扔掉重要的信息。
“翻译”法（噪声层）： 一些方法会在 AI 中添加一个复杂的额外层，用来将“噪声标签”转化为“干净标签”。这会让 AI 变得臃规模更大、运行更慢，且构建难度更高。

BUNDL 的不同之处在于：

轻量化： 它没有为 AI 添加任何新部件。它只是改变了 AI 如何从现有数据中学习。
通用性： 它可以像“万能适配器”一样，插入几乎任何现有的 AI 模型中。
高效性： 它不需要存储大量的历史数据，也不需要运行多个独立的训练阶段。

结果：奏效了吗？

研究人员在三项任务上测试了 BUNDL：

模拟数据： 他们创建了计算机模拟的脑电波，并明确知道错误发生的位置。
真实医院数据（TUH & CHB-MIT）： 他们使用了来自两家不同医院的真实患者记录。
未见数据（Siena）： 他们测试了 AI 在从未见过的第三家医院的数据上的表现。

研究结果：

更少的误报： 最大的胜利是 BUNDL 显著减少了假阳性（False Positives）。在医学术语中，这意味着 AI 不再会在没有癫痫时大喊“狼来了”。这至关重要，因为医生讨厌被误报惊醒。
更好的定位： AI 能更精准地定位癫痫在脑部的起始位置（发作起始区）。这对于需要精确了解手术部位的医生来说非常重要。
鲁棒性： 即使人类标签非常混乱（过度分割），BUNDL 仍能保持良好的表现，而其他方法则表现挣扎。

局限性（论文中承认的部分）

它是一种训练工具，而非新大脑： BUNDL 不是一种新的 AI 模型，而是一种更好地训练现有模型的方法。
敏感度权衡： 在某些情况下，由于过于谨慎地减少误报，AI 可能会错过一些真实的癫痫发作（降低了敏感度）。作者指出，这可能是因为人类标签本身就不够精确，所以 AI 保持怀疑是合理的。
计算成本： 因为 AI 必须多次查看数据以检查其置信度，所以训练时间比标准方法稍长。不过，一旦训练完成，AI 的运行速度恢复正常。

总结

想象一下，你正在尝试通过一个有时会给出错误指令的 GPS 来学习开车。

旧方法： 你盲目相信 GPS，结果撞车了。
其他新方法： 你雇佣了第二个 GPS 来和第一个 GPS 争论（既昂贵又缓慢）。
BUNDL 方法： 你学会了观察 GPS 何时犹豫不决或给出模糊指令。当它犹豫时，你会更多地依靠自己的眼睛和路标。你不需要第二个 GPS；你只需要学会更聪明地判断何时该信任第一个 GPS。

BUNDL 让 AI 对糟糕的人类标签保持“怀疑”，从而在无需从头重建 AI 的情况下，实现了更可靠的癫痫检测。

技术摘要：用于处理噪声癫痫发作标签的贝叶斯不确定性感知深度学习

问题陈述
深度学习已推动了自动化癫痫发作检测和发作起始区（SOZ）定位的发展；然而，其效能高度依赖于高质量的标注训练数据。头皮脑电图（EEG）信号本质上具有噪声且易受伪影影响，导致临床医生在对发作时序和特征进行人工标注时存在不精确性。研究表明，临床医生解释 EEG 数据的专家间一致性通常较低（维持在 60% 左右），这导致了“标签噪声”的存在，即提供的标注仅为近似正确。这种噪声提出了一个重大挑战：标准的监督学习模型假设“地面真值”（ground truth）标签是准确的，可能会学习到误导性的特征，从而导致在异质患者队列中的泛化能力变差。处理标签噪声的现有方法通常需要复杂的架构变更、额外的可学习参数、多阶段训练，或者依赖于可能导致丢失宝贵数据样本的“硬剪枝”策略。

方法论：BUNDL
作者提出了 BUNDL（贝叶斯不确定性感知深度学习），这是一个模型无关的训练框架，旨在向深度神经网络告知标签的歧义性，而无需改变现有架构或增加参数。

概率框架： BUNDL 使用贝叶斯图形模型对观测到的 EEG 数据 ( $x$ )、未观测到的“干净”标签 ( $y_c$ ) 以及观测到的噪声标签 ( $y_n$ ) 之间的关系进行建模。它将噪声标签视为一个受真实发作状态和观测数据共同影响的随机变量。
不确定性驱动的标签修正： 其核心创新是使用 蒙特卡洛 Dropout (MCD) 来估计标签的不可靠性 ( $z_{x,y_n}$ )。在训练期间，模型在启用 Dropout 的情况下进行多次前向传播，以生成预测的经验分布。这些预测的熵（entropy）作为标签噪声的代理指标；高熵表示模型对样本存在不确定性，暗示提供的标签可能存在噪声。
新型损失函数： BUNDL 并非最小化预测与噪声标签之间的标准交叉熵，而是最小化网络预测与推导出的“干净”标签后验分布 ( $p(y_c|x)$ $p (y_{c} ∣ x)$ ) 之间的 KL 散度。该后验分布是临床医生标签与模型自身预测的加权组合，其权重由不确定性度量 $z_{x,y_n}$ $z_{x, y_{n}}$ 决定。
- 当不确定性较低时，模型信任临床医生的标签。
- 当不确定性较高时，模型更多地依赖于自身学习到的预测，从而有效地降低了潜在噪声标注的权重。
训练策略： 该框架采用基于高置信度样本（例如清晰的基线和发作区域）的预训练阶段，以建立稳健的初始状态。随后的训练则利用 BUNDL 损失函数。该方法兼容任何支持 Dropout 的深度网络架构（如 CNN、Transformer、RNN）。

主要贡献

不确定性驱动的标签修正： 引入了一个概率训练框架，通过对不确定性知情的标签转换进行建模，以处理多种形式的标签噪声（对称噪声、过度分割、欠分割），且无需在训练期间获取地面真值干净标签。
模型无关的高效性： 一种集成到现有深度网络中的训练算法，不会增加参数，也不需要计算密集型的多阶段训练（不同于噪声自适应层）。它利用 MC 样本的并行批处理来实现高效运行。
标准化基准测试： 开发了一个使用 SEREEGA 框架的模拟 EEG 数据集，以生成受控的噪声标签场景（对称噪声、10%/30% 过度分割、10%/30% 欠分割），用于严格评估。
全面评估： 在三种深度网络架构（DeepSOZ、TGCN、CNN）和四个数据集上进行了验证，包括模拟数据集、Temple University Hospital (TUH) 数据集、CHB-MIT 数据集以及用于分布外测试的 Siena 数据集。
下游影响： 证明了通过 BUNDL 改进癫痫检测同时也能提高发作起始区 (SOZ) 定位的准确性，这是一项关键的临床任务。

结果

模拟数据： 在所有噪声类型下，BUNDL 始终优于基准方法（标准交叉熵、自适应学习和噪声自适应层）。它在 AUROC 和 AUPRC 方面取得了最佳性能，并在过度分割场景中显著降低了假阳性率 (FPR)，同时在欠分割场景中保持了敏感性。
真实世界数据 (TUH & CHB-MIT)：
- 在 TUH 数据集上，相比于基准方法，BUNDL 实现了最低的 FPR（使用 DeepSOZ 时为 2.3 min/hour）。
- 在 CHB-MIT 数据集上，BUNDL 实现了最低的 FPR（使用 CNN 时为 0.8 min/hour），并相比基准方法显著改善了延迟。
- 虽然在某些配置下 AUROC 的提升较为微小，但假阳性和延迟的降低在统计学上是显著的。
泛化性： 当在未见的 Siena 数据集（跨站点泛化）上进行测试时，BUNDL 在所有方法中保持了最低的 FPR，尽管敏感性有所下降，这可能是由于领域偏移（domain shift）以及目标数据集中潜在的过度分割所致。
消融实验： 实验证实，用于检测输入相关标签噪声时，基于 MCD 的不确定性估计优于集成方法、测试时增强 (TTA) 和固定损失值。
计算成本： 由于存在多次前向传播，BUNDL 在训练期间增加了计算开销，但不需要额外的参数或用于存储过去预测的内存（不同于 Self-Adapt）。在推理阶段，它以与标准模型相同的效率运行。

意义与主张
论文认为 BUNDL 为使用带有噪声临床标签训练深度神经网络提供了一种简单、资源高效且可靠的方法。其主要意义在于：

无缝集成现有的临床实践中使用的深度模型，无需修改架构。
利用领域知识（通过贝叶斯框架）来区分真实的癫痫特征与标注错误。
提高临床可靠性，通过减少假阳性和延迟，这对于自动化癫痫监测系统至关重要。
增强下游任务，特别是通过提供更干净的检测信号来提升 SOZ 定位的精度。

作者总结道，BUNDL 为医疗影像和 EEG 中普遍存在的标签噪声问题提供了一个稳健的解决方案，使得在无需沉重的计算或参数开销的情况下，能够训练出值得信赖的癫痫评估模型。他们也承认了局限性，包括对预训练的需求以及在跨站点泛化时敏感性的下降，并提出了未来在测试时自适应和自监督学习方面的研究方向。