Research on Rolling Bearing Degradation Modeling and Remaining Useful Life Prediction Based on TCN and an Improved Transformer Algorithm

Technische Samenvatting: Modellering van Degradatie van Waaierlagers en RUL-voorspelling op basis van TCN en een Verbeterde Transformer

Probleemstelling
Het artikel behandelt drie kritieke uitdagingen bij het voorspellen van de resterende bruikbare levensduur (Remaining Useful Life, RUL) van waaierlagers onder complexe operationele omstandigheden:

1. Computationele Complexiteit: Standaard Transformer-modellen vertonen een kwadratische computationele complexiteit ($O(T^2)$) ten opzichte van de sequentielengte, wat zorgt voor efficiëntieproblemen bij het modelleren van ultra-lange degradatieverloop die typerend zijn voor volledige levenscyclus-gegevens van lagers.
2. Gevoeligheid voor Lokale Kenmerken: Transformer-architecturen, die vertrouwen op globale zelf-aandacht (self-attention), missen vaak de inductieve bias die nodig is om korte-termijn fluctuaties, transiënte impact en lokale degradatiepatronen te vangen, welke cruciaal zijn voor vroege foutdetectie.
3. Zwakke Generalisatie in Scenario's met Kleine Samples: In industriële omgevingen is gelabelde data voor nieuwe operationele omstandigheden (bijv. verschillende belastingen of snelheden) vaak schaars. Standaard deep learning-modellen hebben moeite om zich snel aan te passen aan deze onbekende omstandigheden zonder uitgebreide hertraining, wat leidt tot prestatievermindering.

Methodologie
De auteurs stellen een hybride framework voor dat een Temporal Convolutional Network (TCN) integreert met een verbeterd Transformer-algoritme, aangevuld met een Model-Agnostic Meta-Learning (MAML) strategie.

• TCN-integratie voor Lokale Kenmerken: Een eendimensionale convolutionele laag wordt in de invoerfase ingebed. Door gebruik te maken van causale en gedilateerde convoluties, extraheert deze module lokale temporele kenmerken en korte-termijn fluctuatiepatronen, waardoor de gevoeligheid van het model voor transiënte schokgebeurtenissen wordt verbeterd voordat de data de Transformer ingaat.
• Verbeterde Transformer-architectuur:
  • Gesegmenteerde Sparse Attention: Om de $O(T^2)$ complexiteit te beperken, wordt de invoersequentie verdeeld in niet-overlappende segmenten. Dichte zelf-aandacht wordt binnen segmenten toegepast om fijnmazige lokale evolutie te vangen. Tussen segmenten faciliteert een gecomprimeerde geheugenmatrix sparse interacties. Dit vermindert de computationele complexiteit naar bijna lineair ($O(S^2 + SL)$, waarbij $S$ het aantal segmenten is) terwijl de perceptie van globale trends behouden blijft.
  • Lokaal Versterkte Convolutie: Een Temporal Convolution Enhancement (TCE) module wordt geïntroduceerd om het gebrek aan lokale inductieve bias van de Transformer te compenseren, waardoor wordt gewaarborgd dat korte-termijn afhankelijkheden effectief worden gemodelleerd.
• Meta-Learning Strategie (MAML): Om de adaptatie bij kleine samples aan te pakken, gebruikt de methode MAML. Data van verschillende operationele omstandigheden worden behandeld als meta-taken. Het model leert een taak-generieke initialisatieparameter via bi-niveau optimalisatie, wat snelle adaptatie naar nieuwe doelgebieden mogelijk maakt met slechts enkele gradiënt-update stappen en minimale gelabelde data.

Belangrijkste Bijdragen

1. Verenigd Framework: Het artikel presenteert een nieuwe architectuur die de lokale inductieve bias van TCN verenigt met de globale modelleringscapaciteit van een verbeterde Transformer, waardoor een evenwicht wordt gevonden tussen het vangen van lokale details en het modelleren van langetermijn-afhankelijkheden.
2. Efficiënte Modellering van Lange Sequenties: Het voorgestelde gesegmenteerde sparse attention-mechanisme vermindert de computationele complexiteit succesvol van kwadratisch naar lineair, wat volledige levenscyclus-modellering haalbaar maakt voor industriële implementatie.
3. Adaptatie bij Kleine Samples: Door de integratie van MAML demonstreert de methode het vermogen om generaliseerbare initialisatieparameters te leren, waardoor snelle transfer learning naar nieuwe operationele omstandigheden mogelijk is met beperkte data.

Experimentele Resultaten
De methode werd gevalideerd met behulp van 2.400 volledige levenscyclus vibratie-datasets verzameld met een zelfgebouwde versnelde levensduurtestopstelling onder drie verschillende operationele omstandigheden (variërende snelheden en belastingen).

• Voorspellingsnauwkeurigheid: Onder de doeldomein-operationele conditie bereikte de voorgestelde methode een Mean Absolute Error (MAE) van 0,13, een Root Mean Square Error (RMSE) van 0,22 en een Mean Squared Error (MSE) van 0,05, met een determinatiecoëfficiënt ($R^2$) van 0,99.
• Vergelijking: Deze resultaten vertegenwoordigen een verbetering van meer dan twee orde van grootte in nauwkeurigheid vergeleken met de baseline CNN, LSTM en GRU modellen. Specifiek werden foutmetrieken met respectievelijk 96,24% (MAE), 94,01% (RMSE) en 99,63% (MSE) verminderd vergeleken met de best presterende baseline (LSTM).
• Efficiëntie: De trainingstijd was 34,36 seconden, slechts iets hoger dan de baselines (24–28 seconden), wat wijst op een marginale toename van de computationele overhead voor een aanzienlijke winst in nauwkeurigheid.
• Generalisatie: Cross-conditie transfer tests bevestigden het vermogen van het model om zich aan te passen aan nieuwe scenario's met behulp van slechts kleine support sets (5%–20% van de doeldata).

Significantie en Claims
De auteurs beweren dat dit onderzoek een hoog-nauwkeurige en sterk generaliseerbare oplossing biedt voor de RUL-voorspelling van waaierlagers in complexe industriële omgevingen. Door lokale kenmerkextractie te integreren met efficiënte globale modellering en meta-learning, overwint de voorgestelde methode de trade-offs tussen computationele kosten, lokale gevoeligheid en dataschaarste. De studie suggereert dat deze aanpak bijzonder geschikt is voor intelligente onderhoudsscenario's waar gelabelde data beperkt is en operationele omstandigheden variëren, waarbij een verenigd framework wordt geboden voor efficiënte berekening, langetermijnperceptie en snelle adaptatie.