⚡ electrical engineering

Deep Hierarchical Knowledge Loss for Fault Intensity Diagnosis

Dit paper introduceert een nieuw raamwerk met diepe hiërarchische kennisverlies (DHK) voor de diagnose van foutintensiteit, dat door middel van hiërarchische boom- en triplet-verliesfuncties de afhankelijkheden tussen doelklassen modelleert en zo de prestaties op industriële datasets significant verbetert.

Oorspronkelijke auteurs: Yu Sha, Shuiping Gou, Bo Liu, Haofan Lu, Ningtao Liu, Jiahui Fu, Horst Stoecker, Domagoj Vnucec, Nadine Wetzstein, Andreas Widl, Kai Zhou

Gepubliceerd 2026-04-21

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yu Sha, Shuiping Gou, Bo Liu, Haofan Lu, Ningtao Liu, Jiahui Fu, Horst Stoecker, Domagoj Vnucec, Nadine Wetzstein, Andreas Widl, Kai Zhou

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer ervaren monteur bent die luistert naar het geluid van een enorme, complexe machine. Als de machine een beetje piept, is dat misschien niets. Maar als hij gaat grommen, is er misschien een lek. En als hij begint te schreeuwen, is er een ernstig defect.

Het probleem is dat moderne computers (kunstmatige intelligentie) vaak slecht zijn in dit soort subtiele onderscheidingen. Ze zien "piepen" en "grommen" vaak als twee totaal verschillende, losstaande geluiden, terwijl ze in werkelijkheid deel uitmaken van één groot verhaal: de intensiteit van een storing.

Dit artikel introduceert een slimme nieuwe methode, genaamd DHK (Deep Hierarchical Knowledge Loss), die computers helpt om dit verhaal te begrijpen. Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Probleem: De "Vlakkarte" vs. De "Stamboom"

Stel je voor dat je een computer leert om dieren te herkennen.

De oude manier (Vlakkarte): Je leert de computer dat een "Goudhaas" en een "Hond" twee totaal verschillende dingen zijn. Je zegt: "Dit is een hond, dat is een haas." Maar je vertelt de computer niet dat ze allebei honden zijn (of in dit geval, dat ze beide 'honden' zijn). Als de computer twijfelt tussen een hond en een haas, maakt hij misschien een domme fout.
De nieuwe manier (DHK): Je geeft de computer een stamboom. Je leert hem: "Eerst is het een dier. Dan is het een zoogdier. Dan is het een hond. En pas dan is het een Goudhaas."

In de wereld van industriële machines werkt het hetzelfde. Een storing begint vaak klein (een beginnend defect), wordt groter (constant defect) en kan uiteindelijk leiden tot een ernstig probleem (verstopping). De oude methoden zagen deze stappen als losse vakjes. DHK dwingt de computer om te begrijpen dat deze stappen met elkaar verbonden zijn, net als takken aan een boom.

2. De Oplossing: Twee Slimme Trucs

De auteurs van het artikel hebben twee nieuwe "regels" (verliesfuncties) bedacht om de computer te trainen:

Truc A: De "Gezinsrekenaar" (De Hiërarchische Boom)

Stel je voor dat je een kind leert rekenen. Als het kind zegt dat 5 + 5 = 12, zeg je niet alleen "Fout". Je zegt: "Kijk, 5 + 5 moet in de buurt van 10 liggen, want 10 is het 'oudergetal' van 12."

DHK doet dit met storingen:

Als de computer denkt dat er een ernstige verstopping is, moet hij ook denken dat er een algemene storing is.
Als de computer denkt dat er geen storing is, kan er ook geen ernstige verstopping zijn.

Deze regel zorgt ervoor dat de antwoorden van de computer logisch consistent blijven. Hij kan niet zeggen "Er is een ernstig lek" terwijl hij tegelijkertijd zegt "Alles is perfect". Dit heet in het artikel de Focal Hierarchical Tree Loss. Het is alsof je de computer een "logische kompas" geeft die hem nooit in de war laat raken.

Truc B: De "Dynamische Afstandsmeter" (De Groepstriplet)

Stel je hebt een klas vol leerlingen. Je wilt dat de leerlingen die op elkaar lijken (bijvoorbeeld alle kinderen met rood haar) dicht bij elkaar zitten, en dat ze ver weg zitten van de kinderen met blond haar.

Maar hier is de twist: niet alle roodharigen lijken evenveel op elkaar. Sommige roodharigen hebben ook nog blauwe ogen, andere groene.

De oude methode: Zegt "Zet alle roodharigen bij elkaar, en alle blondjes bij elkaar."
De nieuwe methode (DHK): Zegt: "Zet de roodharigen met blauwe ogen heel dicht bij elkaar, en de roodharigen met groene ogen iets verder weg, maar nog steeds dichter bij elkaar dan bij de blondjes."

Dit heet de Group Tree Triplet Loss. De computer leert niet alleen dat A en B verschillend zijn, maar hoe verschillend ze zijn op basis van hun plaats in de stamboom. Dit helpt de computer om de allerfijnste verschillen te zien, zoals het verschil tussen een "beginnend piepje" en een "licht grommen".

3. Waarom is dit zo belangrijk?

In de echte wereld (zoals bij de fabriek van SAMSON AG waar ze dit getest hebben) is het cruciaal om te weten hoe ernstig een probleem is.

Als je weet dat het een beginnend probleem is, kun je de machine misschien gewoon in de gaten houden.
Als je weet dat het een ernstig probleem is, moet je de machine direct uitzetten om schade te voorkomen.

De oude methoden waren vaak goed in het zeggen "Er is een probleem", maar slecht in het zeggen "Hoe erg is het?". DHK is als een super-intelligente monteur die niet alleen roept "Er is iets kapot!", maar ook precies weet: "Het is een klein lekje, maar het wordt groter, we moeten binnen 2 uur ingrijpen."

4. Het Resultaat

De auteurs hebben hun methode getest op echte geluidsopnames van machines en trillingen van lagers.

De uitkomst: DHK was overal beter dan de beste bestaande methoden.
De snelheid: Het kostte bijna geen extra tijd om te rekenen. Het is alsof je een auto een nieuwe navigatiekaart geeft; hij rijdt net zo snel, maar komt veel sneller en veiliger bij zijn bestemming.

Samenvatting in één zin

Deze paper introduceert een slimme manier om kunstmatige intelligentie te leren dat storingen in machines geen losse vakjes zijn, maar een logisch verhaal met een begin, een midden en een eind, waardoor ze veel beter kunnen voorspellen hoe ernstig een defect is.

Hieronder volgt een gedetailleerde technische samenvatting van het artikel "Deep Hierarchical Knowledge Loss for Fault Intensity Diagnosis" in het Nederlands.

Titel: Deep Hierarchical Knowledge Loss voor Foutintensiteitsdiagnose

1. Het Probleem

Foutintensiteitsdiagnose (FID) is een cruciale technologie voor intelligent manufacturing en de vierde industriële revolutie, met name voor het detecteren van subtiele fouten zoals cavitatie in complexe industriële systemen. Bestaande diepe leermethoden (zoals CNN's en Transformers) behandelen foutklassen vaak als onafhankelijke, disjuncte labels. Dit negeert de inherente hiërarchische afhankelijkheden tussen deze klassen (bijvoorbeeld: als een systeem "cavitatie" heeft, heeft het automatisch ook een subklasse zoals "beginnende cavitatie").

De huidige aanpak van data-gedreven input-output mapping (DFM) faalt om deze hiërarchische kennis te benutten. Methoden die kennis proberen in te bedden in de dataflow (EFM) leiden vaak tot ongewenste ruis en domeinoverschrijdende problemen. Er is behoefte aan een methode die hiërarchische kennis direct in de objectieve functie (de loss-functie) integreert om consistente voorspellingen te garanderen.

2. Methodologie: DHK Framework

De auteurs stellen een nieuw raamwerk voor: Deep Hierarchical Knowledge (DHK). In plaats van de dataflow te wijzigen, wordt hiërarchische kennis geïntegreerd in de loss-functie van het model. Dit wordt gedaan via twee kerncomponenten:

A. Hiërarchische Boom Loss (HT Loss) en Focal HT Loss

Concept: De auteurs definiëren een hiërarchische boom $T$ waar knopen foutklassen vertegenwoordigen en randen decompositierelaties.
Kennis: Er worden twee soorten kennis gebruikt:
- Positieve T-kennis: Als een kindknop positief is gelabeld, moeten alle ouderknopen ook positief zijn.
- Negatieve T-kennis: Als een ouderknop negatief is, moeten alle kindknopen negatief zijn.
Implementatie: De klassieke Binary Cross-Entropy (BCE) loss wordt aangepast om deze constraints te respecteren. De voorspelling voor een knop wordt begrensd door de minimale score van zijn ouders (voor positieve labels) of de maximale score van zijn kinderen (voor negatieve labels).
Focal HT Loss: Om het probleem van onbalans tussen makkelijke en moeilijke voorbeelden aan te pakken, wordt een modulerende factor (inspiratie uit Focal Loss) toegevoegd om de focus te leggen op moeilijk te classificeren samples.
Adaptieve Weegschemes: Twee strategieën worden voorgesteld om gewichten toe te kennen op basis van de hoogte van de boom:
- Normalized Height Weight (NHW): Focus meer op fijne-granulariteit knopen onderaan.
- Proportional Height Weight (PHW): Een gebalanceerde verdeling om te voorkomen dat specifieke niveaus te veel of te weinig aandacht krijgen.

B. Groep Boom Triplet Loss (GTT Loss) met Dynamische Margin

Concept: Om de grensstructuren tussen verschillende klassen binnen dezelfde hiërarchie te modelleren, wordt een triplet loss gebruikt.
Groepen: Samples worden gegroepeerd op basis van hun "superklasse" in de boom.
Dynamische Margin: In tegenstelling tot traditionele triplet loss met een vaste margin, wordt hier een hiërarchische dynamische margin gebruikt. Deze margin is gebaseerd op de boomafstand ( $\psi$ $ψ$ ) tussen de anker-, positieve en negatieve samples.
- De margin wordt groter naarmate de semantische afstand tussen de negatieve en positieve samples in de boom groter is. Dit helpt het model om de complexe grensstructuren tussen klassen nauwkeuriger te leren.

Totale Doelfunctie:
De totale loss is een combinatie van de Focal HT Loss (met adaptieve weging) en de GTT Loss, waarbij een schalingsfactor $\alpha$ de bijdrage van de triplet loss reguleert.

3. Belangrijkste Bijdragen

Nieuw Raamwerk: Een algemeen framework voor FID dat hiërarchische kennis in de loss-functie integreert, toepasbaar op elke representatieleraanpak (CNN, Transformer, etc.).
Focal Hiërarchische Boom Loss: Een nieuwe loss-functie die voorspellingconsistentie met de hiërarchische structuur garandeert, aangevuld met twee adaptieve weegschemes (NHW en PHW).
Groep Boom Triplet Loss: Een innovatieve triplet loss met een dynamische margin die gebaseerd is op boomafstanden, wat de leerprestaties van klassengrenzen aanzienlijk verbetert.
Uitgebreide Validatie: Succesvolle toepassing op vier real-world datasets uit verschillende industriële domeinen, met superieure resultaten ten opzichte van de state-of-the-art (SOTA).

4. Resultaten

De methode werd getest op drie datasets van SAMSON AG (cavitatie in kleppen: Cavitation-Short, Cavitation-Long, Cavitation-Noise) en één publieke dataset (PUB voor lagerschade).

Algemene Prestaties: DHK overtrof consistent bestaande methoden (zoals HKG, LiftingNet, en standaard CNN/Transformer baselines) op alle metrics (Accuracy, Precision, Recall, F1-score).
- Op Cavitation-Short steeg de nauwkeurigheid met ongeveer 5% ten opzichte van de beste baseline (ResNet34).
- Op Cavitation-Noise bereikte DHK+UniFormer-B een nauwkeurigheid van 99,94%.
- Op de PUB dataset bereikte DHK+PerViT-B een algehele nauwkeurigheid van 99,57%, met 100% nauwkeurigheid op specifieke subklassen zoals "Health" en "IR-2".
Subtiele Fouten: De methode bleek bijzonder effectief in het detecteren van "incipient cavitation" (beginnende cavitatie), een subtiele toestand die vaak wordt gemist door traditionele methoden.
Robuustheid: DHK bleek robuust tegen labelruis (tot 10% ruis) en presteerde goed zelfs bij verlaagde sample-frequenties (relevant voor mobiele sensoren).
Efficiëntie: De extra rekentijd voor training en inferentie is verwaarloosbaar in vergelijking met standaard cross-entropy loss.

5. Betekenis en Impact

Dit onderzoek is significant voor de industriële toepassing van AI op de volgende manieren:

Verbeterde Betrouwbaarheid: Door hiërarchische kennis te respecteren, worden fysisch onmogelijke voorspellingen (bijv. "beginnende cavitatie" zonder "cavitatie") voorkomen, wat de betrouwbaarheid van industriële monitoringssystemen verhoogt.
Generalisatie: Het framework is niet beperkt tot cavitatie; het kan worden toegepast op elk probleem met een hiërarchische structuur, zoals medische diagnose (ziektestadien), biologische functievoorspelling of beeldherkenning.
Praktische Toepasbaarheid: De methode werkt goed met bestaande backbone-netwerken (ResNet, ViT, etc.) zonder dat er complexe nieuwe architecturen nodig zijn, wat de implementatie in bestaande industriële systemen vergemakkelijkt.
AI + Industrie: Het draagt bij aan de "vierde industriële revolutie" door het vermogen van systemen om subtiele, progressieve fouten te diagnosticeren, wat leidt tot proactief onderhoud en verhoogde veiligheid.

Kortom, DHK biedt een elegante en effectieve oplossing voor het probleem van het negeren van class-dependencies in deep learning, wat leidt tot een aanzienlijke verbetering in de diagnose van foutintensiteit in complexe industriële omgevingen.