💻 computer science

Continuous Degradation Representation Learning for Remaining Useful Life Prediction

该论文提出了CoDeR，一种连续退化表示学习框架，该框架通过集成双轴耦合Transformer编码器和时间感知对比学习模块，旨在克服现有深度学习模型中表示碎片化的局限性，从而实现对航空发动机剩余寿命更准确的预测。

原作者： Wei Li, Ruitao Ning, Shilin He, Bo Li, Zhidong Zhang

发布于 2026-07-14

📖 1 分钟阅读☕ 轻松阅读

原作者： Wei Li, Ruitao Ning, Shilin He, Bo Li, Zhidong Zhang

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在观看一辆赛车引擎在向终点冲刺的过程中，动力逐渐流失的过程。“剩余使用寿命”（RUL）预测的目标，就是猜测在引擎熄火停止之前，还剩下多少圈。长期以来，计算机科学家们一直试图通过观察引擎的传感器——比如记录热量、压力和速度的仪表盘——来教会机器做出这种猜测。

然而，来自华北理工大学的李伟及其团队发现，大多数计算机在处理这个问题时存在一个问题。他们发现，现有方法通常将引擎的寿命视为一个破碎的拼图，观察的是彼此脱节的数据快照。这就像是通过观察随机、零散的帧来理解一部电影；你可能会看到一辆车，然后是一朵云，接着是一个轮胎，但你会错过比赛那流畅的故事。这些“碎片化”的视角使得计算机很难捕捉到引擎逐渐老化的连续且平稳的过程。

为了解决这个问题，该团队构建了一个名为 CoDeR（连续退化表示学习）的新系统。把 CoDeR 想象成一个超级聪明的侦探，它不仅能观察线索，还能理解线索背后的“故事”。

侦探的两大超能力

CoDeR 使用两个主要技巧来破解引擎寿命之谜：

双轴耦合 Transformer 编码器 (DCTE)： 想象引擎的传感器是一组巨大的舞者阵列。有些舞者随时间移动（时间维度），展示引擎如何随秒变化。另一些舞者则在空间中移动（空间维度），展示引擎的不同部件（如风扇或燃油泵）如何相互依赖。旧方法试图分别观察时间舞者和空间舞者，然后将结果强行合并。而 CoDer 则采用“双轴”方法。它将舞者们放在一起观察，理解此时此刻燃油泵的变化如何影响一秒钟后的压力。这使其能够捕捉到引擎退化的完整、耦合的“舞蹈”。
时间感知对比学习 (TACL)： 这是其中的秘诀。想象你正在墙上排列引擎的照片。旧方法可能只是将“好”的引擎归为一类，将“坏”的引擎归为另一类，但它们可能会不小心混淆那些正处于比赛中段的引擎。CoDeR 使用了一条特殊规则：它知道第 100 圈拍摄的照片应该与第 101 圈的照片非常相似，而与第 500 圈的照片截然不同。它迫使计算机对数据进行排列，使“故事”流动得更加平滑。这就像是确保如果你沿着一廊引擎照片走下去，图像的变化是渐进的，而不是跳跃式的。这保持了“退化轨迹”（即引擎变老的路径）的连续性和易于追踪性。

结果：更平稳的运行

团队在著名的引擎数据集 C-MAPSS 和 N-CMAPSS 上测试了 CoDeR。这些数据集包含了数百台在不同条件下运行的模拟引擎数据。

在 C-MAPSS 测试中： 团队进行了 10 次独立试验以确保结果并非偶然。他们发现 CoDeR 始终优于旧方法。例如，在最难的测试集 (FD004) 上，旧方法的误差 (RMSE) 为 16.71，而 CoDeR 将其降低到了 15.68。在惩罚错误严重的“得分”（Score）指标上，CoDeR 将得分从 1291 降到了 1023。数值越低越好！
在 N-CMAPSS 测试中： 这个数据集更加棘手，因为它模拟了具有变化速度和高度的真实、杂乱的飞行条件。在这里，CoDer 实现了 3.41 的误差 (RMSE)，击败了排名第二的方法 (CPI-GAN)，后者的误差为 3.82。

作者还观察了“特征图”（即计算机如何看待数据的可视化）。他们发现 CoDeR 为引擎的生命创建了一个更加平滑、更有序的路径，而旧方法留下的数据则是零散且混乱的。这表明，通过保持退化故事的连续性，计算机可以做出更加可靠的预测。

CoDeR 不是什么

需要注意的是，本文并未声称解决了“实时”部署的问题。作者明确指出，他们尚未解决实时部署问题。他们承认，由于使用了复杂的 Transformer 架构，该系统计算成本很高。这就像是拥有一位才华横溢但破案耗时较长的侦探；他们还没有找到让这位侦探在真实的工厂中进行实时、瞬间决策的方法。此外，他们也没有在机库中的实际物理引擎上进行测试；研究结果是基于模拟和基准数据集的。

核心结论

该论文表明，通过教计算机将引擎的生命视为一个连续、流动的故事，而非一系列破碎的快照，我们可以更准确地预测引擎何时失效。虽然该系统仍需变得更快才能投入实际应用，但作者的实验表明，这种“连续性”方法是保障飞行安全的重要进步。

技术摘要：用于剩余使用寿命预测的连续退化表示学习

1. 问题陈述

预测航空发动机的剩余使用寿命（RUL）对于航空安全和维护调度至关重要。虽然深度学习已成为 RUL 预测的主流范式，但现有方法面临两个主要局限性：

碎片化表示： 现有的深度学习模型往往从多变量传感器数据中学习到不连续或碎片化的退化表示。它们难以准确建模退化轨迹的渐进且连续的特性，通常依赖于先进行独立的时空特征提取再进行融合的方法，这可能会丢失细粒度的交互信息。
无序的特征空间： 即使拥有强大的骨干网络，来自不同退化阶段的样本在特征空间中也可能表现出较弱的有序性或重叠的分布。这种与连续退化过程缺乏结构化对齐的现象阻碍了准确的 RUL 估计。
现有对比学习的局限性： 虽然对比学习已被用于提高特征可分性，但大多数方法依赖于离散的正负样本对构建。这会对样本实施均匀的分离，未能捕捉到退化轨迹的连续性和渐进性，而在退化过程中，时间上的接近性应当与特征相似性相关联。

2. 方法论：CoDeR 框架

作者提出了 CoDeR（连续退化表示学习），这是一个旨在学习时间相干退化表示的框架。该架构由三个主要阶段组成：数据准备、联合学习和 RUL 预测。

2.1 双轴耦合 Transformer 编码器 (DCTE)

为了解决建模多变量传感器数据中复杂依赖关系的需求，作者引入了 DCTE。与分别处理时间轴和空间维度的标准模型不同，DCTE 对两者进行联合建模：

并行位置编码： 模型沿时间轴 ( $P_t$ ) 和传感器（空间）轴 ( $P_s$ ) 注入位置嵌入，以保留两个维度的序列顺序。
轴内建模： 对称的 Transformer 编码器（$Enct $和$ Encs$）分别在其各自的维度内处理时间动态和传感器维度的依赖关系。
双向跨轴注意力机制： 为了捕捉互补性，模型采用了双向跨轴注意力。它通过可学习的线性映射（ $P_{s \to t}$ 和 $P_{t \to s}$ ）将空间表示投影到时间域，反之亦然，从而实现每一层的动态信息交换。
特征融合： 最终的联合表示通过融合时间轴和空间轴的输出形成，随后被展平以用于下游回归任务。

2.2 时间感知对比学习 (TACL)

为了增强所学特征空间的连续性，作者提出了 TACL 模块，该模块将时间先验集成到对比学习中：

采样策略：
- 正样本： 从锚点样本（排除锚点本身）的局部时间邻域中选择。
- 负样本： 从剩余序列中选择，并将其划分为连续的子区间，以确保覆盖不同的退化阶段。
时间-距离加权目标： 与标准的对比损失不同，TACL 引入了基于时间距离的自适应权重。
- 正权重 ( $\alpha_i$ )： 随着锚点与正样本之间时间距离的增加而减小，从而鼓励在时间上接近的样本具有更强的吸引力。
- 负权重 ( $\beta_j$ )： 随着时间距离的增加而增加，从而加强对来自远端退化阶段样本的排斥力。
损失函数： 对比损失被定义为一个加权和，其中吸引力和排斥力随时间距离连续变化，从而确保嵌入空间的平滑过渡。

2.3 联合优化

该框架采用多目标损失函数，结合了：

回归损失 ( $L_{MSE}$ )： 用于 RUL 预测的均方误差。
连续性约束 ( $L_{TACL}$ )： 时间感知对比损失。
总损失为 $L = L_{MSE} + \mu \cdot \frac{1}{|B|} \sum L^{(i)}_{TACL}$ ，其中 $\mu$ 用于平衡预测精度和时间一致性。

3. 核心贡献

本文声称了以下贡献：

CoDeR 框架： 一种新型的航空发动机 RUL 预测框架，明确旨在提高从多变量传感器数据中学习到的退化表示的连续性。
DCTE 架构： 一种双轴耦合 Transformer 编码器，能够同时对时间维度和特征维度进行依赖性建模，从而实现更具信息量的特征提取。
TACL 模块： 一种时间感知对比学习模块，将时间演进先验融入对比学习，使退化表示在特征空间中具有更好的时间连续性。
实验验证： 在 C-MAPSS 和 N-CMAPSS 基准数据集上的演示表明，与现有方法相比，该方法具有更具竞争力的预测精度以及更有序、连续的退化表示。

4. 实验结果

作者在 C-MAPSS (FD001–FD004) 和 N-CMAPSS (DS02) 基准数据集上对 CoDeR 进行了评估。

在 C-MAPSS 上的表现：
- CoDeR 在所有子集上均一致优于 DCTE 基线（未添加 TACL）以及各种先进方法（包括 CNN、LSTM 以及其他 Transformer 变体如 MACPTD、MSMT-FDA 和 DAST）。
- 在极具挑战性的多工况子集（FD002 和 FD004）上，Co-DeR 在对比方法中取得了最低的 RMSE 和 Score 值。
- 消融研究： 移除 DCTE 中的跨注意力机制、空间分支或时间分支都会导致性能下降，其中时间分支的影响最大。将 TACL 替换为标准 InfoNCE 损失会导致性能显著下降，且特征分布的结构性变差。
在 N-CMAPSS 上的泛化能力：
- 在具有更真实、高频且动态变化的运行工况的 N-CMAPSS 数据集上，CoDeR 取得了最佳的整体 RMSE (3.41)，优于其他方法。
- 该模型在不同发动机单元和飞行阶段均保持了稳定的预测行为。
特征可视化：
- t-SNE 可视化显示，与基线模型的散乱和重叠分布相比，Co-DeR 生成了更平滑、更紧凑且连续的特征轨迹。
- 注意力图分析表明，DCTE 成功学习到了有意义的时空特征选择模式，重点关注压力相关变量、风扇/核心转速以及燃油流量比。

5. 重要性与局限性

重要性：
论文指出，准确的 RUL 预测不仅需要信息丰富的特征提取，还需要一个能够反映退化物理过程连续性的结构化表示空间。通过耦合时间与空间建模 (DCTE) 并通过加权对比学习 (TACL) 强制执行时间连续性，CoDeR 解决了现有方法中离散建模和均匀分离的问题。结果表明，通过构建使潜在特征空间镜像连续退化过程，可以实现更可靠、更鲁棒的 RUL 估计，特别是在复杂的运行条件下。

局限性：
作者坦诚地承认了几个局限性：

计算成本： 基于 Transformer 的架构和 TACL 模块引入了额外的优化开销和计算成本，这可能会对实时部署构成挑战。
未来工作： 作者表示，未来的工作将侧重于提高计算效率，以促进实际的工业部署。

本文并未声称解决了所有的 RUL 预测挑战，也未提出航空发动机领域之外的应用，亦未对实现工业部署效率这一既定目标之外的未来影响进行推测。