🤖 machine learning

Evaluating deep learning models for fault diagnosis of a rotating machinery with epistemic and aleatoric uncertainty

本文提出了首个针对旋转机械故障诊断的具有不确定性感知能力的深度学习模型的全面对比研究，证明了深度集成架构在检测认识不确定性和偶然不确定性方面优于其他最先进的方法，同时提供了更短的推理时间。

原作者： Reza Jalayer, Masoud Jalayer, Andrea Mor, Carlotta Orsenigo, Carlo Vercellis

发布于 2026-06-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Reza Jalayer, Masoud Jalayer, Andrea Mor, Carlotta Orsenigo, Carlo Vercellis

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名正在诊断一台巨大的、旋转着的工业电机的机械师。你有一个计算机程序（一个“深度学习模型”），它已经针对该电机正常运转时的数千次录音进行了训练，同时也包含了三种特定且已知的故障录音（比如破碎的滚珠轴承或开裂的内圈）。

问题在于：当电机发出计算机从未听过的声音时会发生什么？ 或者，如果麦克风的录音里充满了杂音怎么办？

这篇论文就像是对不同类型的计算机程序进行的一次大规模“压力测试”，旨在看看哪种程序最擅长说出：“嘿，我不知道这是什么，或者这些数据太乱了，无法信任！” 而不是自信地给出一个错误的答案。

以下是使用简单类比对这项研究进行的拆解：

1. 两种类型的“困惑”

研究人员针对两种不同的困惑对计算机进行了测试：

认知不确定性（Epistemic Uncertainty，即“盲区”）： 想象计算机只接受过关于狗和猫的训练。如果你给它看一张仓鼠的照片，它并不知道那是仓鼠。它可能会自信地猜它是“狗”或“猫”，但它猜错了。在工厂里，当一种全新的故障类型出现时，就会发生这种情况。计算机缺乏识别这种故障的“知识”。
偶然不确定性（Aleatoric Uncertainty，即“静电/噪声”）： 想象计算机正试图听一首歌，但有人在麦克风旁边大喊大叫。数据虽然在那里，但很嘈杂。计算机可能会因为信号不纯净而感到困惑。在工厂里，这是由电干扰或传感器抖动引起的。

2. 竞争者：三位不同的“侦探”

论文对比了构建这些计算机程序的三种不同方式，以观察哪位侦探最擅长发现“未知”或“噪声”：

“赌徒”（ConvLSTM-D）： 这个模型试图给出答案，但每次它做出猜测时，它都会随机忘记一些事实（就像一个闭着眼睛瞎猜的学生）。它会重复这个过程10次。如果它得到了10个不同的答案，它就知道自己很困惑。
“概率论者”（Bayesian Neural Network）： 这个模型不仅拥有一套事实，还拥有一个完整的、各种可能版本的自己组成的图书馆。它会征求所有版本成员的意见。如果图书馆里的成员意见不一，它就知道自己存在不确定性。
“委员会”（Deep Ensemble）： 这是全场的明星。它不是雇佣一名侦探，而是雇佣了一个由四名不同侦探组成的团队。他们独立观察同一个问题。如果团队达成一致，那么这是一个稳妥的判断；如果他们开始争吵，系统就会意识到：“等等，情况有点不对劲。”

3. 游戏规则

为了进行测试，研究人员创建了两个场景：

“未知故障”测试： 他们用5种电机故障类型训练了计算机，然后秘密地用第6种类型（他们从未见过的类型）对其进行测试。
“噪声”测试： 他们采集了清晰的录音，并加入了不同类型的静电（如收音机的嘶嘶声、火花的噼啪声或随机静电），以观察计算机是否仍能分辨出电机是健康还是损坏。

他们还测试了两种不同的“警报铃”（阈值）来决定何时拉响红旗：

“恐慌按钮”（阈值 1）： 这是一个非常敏感的警报。只要有一丝困惑的迹象，它就会尖叫“危险”。它能捕捉到几乎所有的坏情况，但也会对许多正常的、健康的电机误报。
“平衡的法官”（阈值 2）： 这是作者发明的一种新方法。它试图寻找完美的中间点，既能抓住坏的情况，又不会过度惊扰好的情况。

4. 结果：谁赢了？

面对“未知故障”（认知不确定性）时： 深度集成（Deep Ensemble，即“委员会”） 是明显的赢家。它最擅长说出“我不知道这个”，而不会错误地进行猜测。其他两个模型经常会自信地猜错故障类型。
面对“噪声”（偶然不确定性）时： 深度集成 再次胜出。有趣的是，噪声越大，计算机就越容易意识到出了问题（因为噪声让数据看起来非常奇怪）。然而，当噪声非常小时（只有一点点静电），任何模型都很难分辨区别。即便如此，深度集成在处理这种情况时也比其他模型表现得更好。
速度： 深度集成在训练阶段（学习基本功）需要更长时间，因为他们必须教导四名侦探而不是一名。然而，一旦训练完成，它们在进行诊断时实际上更快。为什么呢？因为其他模型对于每一次检查都必须运行其“猜测游戏”10次，而深度集成只需询问其四名成员一次即可。

5. 底线结论

如果你正在构建一个用于监测现实世界中机器的系统，论文建议你应该使用**深度集成（Deep Ensemble）**方法。

它在识别新的、未知的故障方面最可靠。
当传感器有噪声时，它的鲁棒性最强。
一旦设置好，它的运行速度更快。

作者还建议，如果你处于极其关键的情况下（如核电站），你应该使用“恐慌按钮”警报（阈值 1）来捕捉一切，即使这意味着要处理一些误报。如果你处于不太关键的情况下，请使用“平衡的法官”（阈值 2）以节省时间和精力。

简而言之： 当你需要一台机器告诉你它生病了，或者当它被一种新疾病搞糊涂了，或者当麦克风坏了的时候，雇佣**一支多元化的专家团队（深度集成）**比依赖一个试图瞎猜的专家或一个对自己掌握的事实感到不确定的专家效果更好。

技术摘要：评估用于故障诊断的深度学习模型中的认知不确定性与偶然不确定性

问题陈述
旋转机械（如电机和涡轮机）对工业运营至关重要，但容易发生故障，从而导致重大的经济损失和安全隐患。虽然深度学习（DL）通过自动特征提取改进了故障诊断，但大多数现有方法都基于一个假设，即训练数据与未来的预测数据具有相同的分布。在实践中，这一假设经常被**分布外（Out-of-Distribution, OOD）**数据所违反。OOD 数据主要源于两种不确定性：

认知不确定性（Epistemic Uncertainty，知识不确定性）： 由知识缺乏引起，例如遇到训练集中不存在的未知故障类型。
偶然不确定性（Aleatoric Uncertainty，数据不确定性）： 由固有的数据变异性引起，例如传感器噪声（高斯或非高斯噪声）或测量误差。

目前的深度学习模型往往无法量化这种不确定性，导致其在面对未见的故障或噪声数据时，可能会给出看似自信但错误的分类结果。因此，需要对具备不确定性感知能力的深度学习架构进行全面的比较研究，以确定哪些方法能在不同条件下有效区分分布内（In-Distribution, ID）数据和分布外（OOD）数据。

研究方法
作者使用**西储大学（CWRU）**轴承数据集进行了对比研究。该研究评估了三种最先进的具有不确定性感知能力的深度学习架构：

ConvLSTM-D： 一种带有伯努利丢弃（Bernoulli dropout）的卷积 LSTM，在推理阶段利用蒙特卡洛（MC）丢弃来生成预测分布。
贝叶斯神经网络（BNN）： 一种将权重视为服从高斯分布随机变量的网络，通过多次权重采样生成结果分布。
深度集成（Deep Ensemble）： 测试了两种配置：
- De1： 四个并行训练的相同基学习器。
- De2： 四个具有混合架构的基学习器（两个与 De1 相同，另外两个结合了卷积+池化与 LSTM）。

实验设计：

认知场景： 通过留出策略创建，即在训练中排除一个故障类别，并将其作为验证/测试阶段的 OOD 数据。共生成了六个场景，每个类别对应一个。
偶然场景： 通过向数据中注入噪声来创建。测试了四种噪声类型：高斯（Gaussian）、脉冲（Impulse）、瑞利（Rayleigh）和韦伯（Weibull）。这些噪声应用于三个强度水平（信噪比分别为 -5 dB、0 dB 和 5 dB）。
不确定性量化： 使用熵（Entropy）作为不确定性的度量指标。应用了两个阈值来区分 ID 和 OOD 数据：
- $\tau_1$ （不确定性异常检测）： 基于 ID 验证数据中熵值的四分位距（IQR）。
- $\tau_2$ （不确定性 F1 分数）： 本文提出的一种新型阈值，通过平衡真阳性（检测到 OOD）和真阴性（正确识别 ID）来最大化验证集上的 F1 分数。

关键结果

认知不确定性： 所有模型都能检测到部分 OOD 数据，但**深度集成模型（De1 和 De2）**表现出了卓越的性能。特别是 De2，无论使用何种阈值，都展现出了卓越的 OOD 数据检测能力。ConvLSTM-D 和 BNN 则表现出明显的局限性，尤其是在特定场景下（例如排除 Class 0 或 Class 2）。
- 阈值权衡： 使用 $\tau_1$ 会导致更高的 OOD 检测率，但也会产生更高的假阳性（将 ID 数据误判为不可靠）。 $\tau_2$ 提供了一个更务实的平衡点，减少了对误分类 ID 数据进行大规模人工重新评估的需求。
偶然不确定性： 噪声水平显著影响性能。
- 高噪声（强噪声）： 随着噪声放大预测熵，所有模型的 OOD 检测能力都显著提高。深度集成模型保持了领先地位，能够检测出 80%–100% 的 OOD 数据。
- 低噪声（轻微噪声）： 所有模型的性能均大幅下降，因为 ID 和 OOD 的熵分布发生了重叠。然而，深度集成模型仍然优于 ConvLSTM-D 和 BNN，其性能退化程度较轻。
- 噪声类型： 在强噪声条件下，深度集成模型对韦伯噪声和瑞利噪声的检测能力通常更强。
计算效率：
- 训练： 由于需要并行训练多个基学习器，深度集成（De1/De2）所需的训练时间较长。
- 推理： 深度集成在预测阶段的速度明显更快（约 3 倍），而 ConvLSTM-D 和 BNN 由于需要进行 $K=10$ 次重复的前向传播进行 MC 采样，速度较慢。

意义与贡献
本文声称是首个针对旋转机械故障诊断的先进不确定性感知深度学习架构的全面对比研究，解决了包括非高斯噪声在内的多种形式的偶然不确定性问题。

主要贡献包括：

经验指导： 研究确定了深度集成架构（特别是 De2）是实际部署的首选。它们在 OOD 检测精度、对不同噪声水平的鲁棒性以及推理速度方面提供了卓越的平衡。
新型阈值设定： 引入的 $\tau_2$ （基于 F1 分数的）阈值 为标准的异常检测方法（ $\tau_1$ ）提供了一个实用的替代方案，有助于从业者最大限度地减少假阳性并降低后期处理的人工干预成本。
现实对齐： 通过在测试高斯噪声的同时测试非高斯噪声类型（脉冲、瑞利、韦伯），本研究弥合了理论不确定性分析与实际工业传感器数据中复杂噪声环境之间的差距。

结论
作者得出结论，虽然具备不确定性感知能力的深度学习对于可靠的故障诊断至关重要，但架构和阈值的选择至关重要。推荐使用深度集成模型，因为它们具有鲁棒性和高效性。熵阈值的选择应取决于应用的严苛程度：在无法接受遗漏 OOD 数据的极高风险环境下使用保守阈值（ $\tau_1$ ）；而在优先考虑最小化误报的场景下使用平衡阈值（ $\tau_2$ ）。未来的工作建议将这些发现扩展到其他数据集（如帕德博恩大学数据集），并研究涉及领域专家的主动学习方法。