PEFT-MuTS: A Multivariate Parameter-Efficient Fine-Tuning Framework for Remaining Useful Life Prediction based on Cross-domain Time Series Representation Model
本文介绍了 PEFT-MuTS，这是一个参数高效微调框架，它利用跨域预训练时间序列模型和一种新型的多变量融合机制，在目标设备数据量少于 1% 的情况下实现准确的剩余使用寿命预测，从而有效地克服了少样本场景下数据稀缺的局限性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
从驱动客机的喷气发动机到工厂机器人内部的轴承，每一台机器最终都会磨损。准确预测设备何时失效是维护领域的“圣杯”，它能让工程师在灾难发生前进行维修，而不是在等待灾难或过早更换零件。这种被称为“剩余使用寿命”的预测，依赖于倾听机器在老化过程中的传感器信号。几十年来，教计算机进行此类预测最准确的方法是向其喂入海量数据，展示一台机器从运行第一天直到最终停止工作的整个生命周期。然而，在现实世界中，收集如此完整的历史记录通常是不可能的。许多机器运行数十年，这意味着完整的生命周期记录是一个耗费一生的工程。另一些则是定制制造或全新的，这意味着根本没有历史数据可以研究。当数据匮避时，最聪明的计算机模型通常也会失效，留下工程师只能靠猜测。
一个研究小组开发了一种新方法来解决这个问题，其核心在于改变了计算机学习的方式。他们并没有尝试教模型如何专门针对某台喷气发动机或某个轴承进行磨损建模，而是首先教它一个更广泛的课题：时间本身是如何运作的。他们在一个包含大量无关时间序列数据的集合上训练了一个计算机模型，例如人类在睡眠期间记录的脑电波。该模型学会了识别事物随时间变化的普遍模式——趋势、节奏和突然的变化——而从未见过任何机械部件。一旦模型理解了这些通用的时间语言，研究人员只需向其展示极少数特定机器的样本。由于模型已经理解了时间的语言，即使在仅拥有通常所需数据不到 1% 的情况下，它也能立即识别出新机器上的磨损迹象。
研究人员将这种方法称为 PEFT-MuTS，这是一个旨在实现高效性和适应性的系统。其核心思想是采用一个已经从数百万条无关时间记录中学习过的强大“骨干”模型，并对其进行轻微调整以胜任特定工作。过去，尝试用极少数样本去适配这样一个庞大的模型，就像试图用一个小舵来操控一艘巨轮；模型要么会感到困惑并忘记所学知识，要么会过度死记硬背这几个样本，从而无法预测未来。为了防止这种情况，研究人员在大型模型与最终预测之间构建了一个特殊的轻量级适配器。这个适配器允许模型独立处理机器上的每个传感器，从而保留其学到的关于时间的细致规律，同时又拥有一个专门的通道来整合来自所有不同传感器的数据信息。这种结合使得系统能够观察到机器健康状况的全貌，而不至于被缺乏数据的现状所压垮。
这项工作中的一个关键发现是，最终预测的设置方式与数据本身同样重要。当研究人员使用标准设置开始训练过程时，结果并不稳定，预测值会剧烈波动。他们发现，通过将最终预测层的初始值设为零，可以使整个过程趋于稳定。这一简单的调整起到了如“定海神针”般的作用，让模型能够从极少数样本中稳步学习，而不被噪声干扰。结果显示，该系统非常稳定且准确，即使在从未见过特定机器、且仅有当前状态的寥寥数个快照的情况下，依然表现出色。
团队在两种完全不同类型的设备上测试了这种方法：一个航空发动机数据集和一个工业轴承数据集。在两种情况下，他们都模拟了一种几乎没有训练数据的场景，即代表机器是全新的或历史记录非常短的情况。新方法始终优于现有的依赖寻找相似机器或使用复杂元学习策略的技术。当其他方法在处理有限数据时显得力不从心（往往误判机器要么是全新的，要么已经损坏）时，新系统能够正确识别磨损的中期阶段。它仅利用传统方法所需数据的一小部分，就能高精度地预测设备的剩余寿命。
这项工作表明，我们在对待工业安全机器学习方面需要发生根本性的转变。多年来，关注点一直在于寻找与受监测机器相似的机器，希望它们的磨损模式能够匹配。而这种新方法认为，最有用的知识并非关于特定机器，而是关于时间和变化的普遍行为。通过学习各种无关的时间序列，模型可以成为一个通用的退化专家，能够以极小的代价应用于任何新机器。研究结果表明，我们不需要等待数十年的数据来建立可靠的维护系统；相反，我们可以构建理解时间节奏的模型，并将这种理解应用于未来的机器，确保它们即使在历史刚刚开始时也能安全、高效地运行。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。