Deep Hierarchical Knowledge Loss for Fault Intensity Diagnosis

Titolo: Deep Hierarchical Knowledge Loss for Fault Intensity Diagnosis (DHK)

1. Il Problema

La diagnosi dell'intensità dei guasti (Fault Intensity Diagnosis - FID) è fondamentale per la manutenzione predittiva e l'industria 4.0, in particolare per il rilevamento di fenomeni complessi come la cavitazione in sistemi meccanici industriali.
Tuttavia, i metodi tradizionali basati sul deep learning (come CNN e Transformer) presentano due limitazioni critiche:

1. Ignorano le dipendenze gerarchiche: Trattano le classi di guasto come etichette disgiunte, non considerando le relazioni semantiche e strutturali tra stati di guasto simili (es. "cavitazione iniziale" è un sottoinsieme di "cavitazione").
2. Mappatura Input-Output rigida: Si basano su flussi di dati standard (Data Flow Mapping - DFM) che non integrano la conoscenza di dominio nel processo di apprendimento, portando a una scarsa capacità di generalizzare su guasti sottili o in presenza di rumore.

L'obiettivo è sviluppare un framework che sfrutti la conoscenza gerarchica intrinseca tra le classi per migliorare la rappresentazione e la previsione, garantendo coerenza strutturale nelle predizioni.

2. Metodologia: Il Framework DHK

Gli autori propongono un nuovo framework chiamato Deep Hierarchical Knowledge (DHK). L'approccio trasforma la mappatura del flusso di dati in una "mappatura del flusso frattale" (Fractal Flow Mapping - FFM), dove i nodi rappresentano stati di guasto e gli archi le relazioni gerarchiche.

Il cuore del metodo è una funzione di perdita (Loss Function) composita che integra vincoli di conoscenza gerarchica:

• Hierarchical Tree Loss ($L_{HT}$):

  • Sfrutta due tipi di conoscenza: Positiva (se un nodo figlio è positivo, anche l'antenato deve esserlo) e Negativa (se un nodo genitore è negativo, anche i discendenti devono esserlo).
  • Modifica la Cross-Entropy Binaria (BCE) imponendo vincoli di coerenza: la probabilità di un nodo non può superare quella del suo genitore (se positivo) e non può essere inferiore a quella del suo figlio (se negativo).
  • Adaptive Weight Schemes: Vengono introdotte due strategie di ponderazione basate sull'altezza dell'albero (Normalized Height Weight e Proportional Height Weight) per bilanciare l'apprendimento tra nodi a diversi livelli di granularità.
  • Focal Hierarchical Tree Loss ($L_{FHT}$): Estende $L_{HT}$ con un fattore di focalizzazione (simile alla Focal Loss) per concentrarsi sui campioni difficili da classificare.

• Group Tree Triplet Loss ($L_{GTT}$):

  • Progettata per modellare la conoscenza strutturale dei confini tra classi diverse all'interno della stessa gerarchia.
  • Utilizza il concetto di "gruppo gerarchico" (T-group): campioni positivi provengono dallo stesso supergruppo, mentre quelli negativi da supergruppi diversi.
  • Hierarchical Dynamic Margin: A differenza dei margini fissi nelle triplet loss classiche, il margine è dinamico e calcolato in base alla distanza nell'albero ($\psi$) tra i nodi, permettendo di adattare la separazione in base alla similarità semantica.

La funzione di obiettivo finale è una combinazione di $L_{FHT}$ e $L_{GTT}$, ottimizzata tramite discesa del gradiente.

3. Contributi Chiave

1. Framework Generale: Introduzione di un framework DHK applicabile a qualsiasi approccio di apprendimento di rappresentazione (CNN, Transformer, LNN) per la diagnosi di guasti.
2. Nuove Funzioni di Perdita: Sviluppo della Focal Hierarchical Tree Loss con schemi di ponderazione adattiva e della Group Tree Triplet Loss con margini dinamici gerarchici.
3. Integrazione della Conoscenza: Trasformazione del problema di classificazione in un compito multi-etichetta gerarchico che guida il modello a imparare sia le relazioni interne (padre-figlio) che i confini strutturali tra classi.
4. Validazione Estensiva: Sperimentazione su quattro dataset reali provenienti da diversi domini industriali, dimostrando superiorità rispetto agli stati dell'arte (SOTA).

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su:

• Tre dataset di cavitazione reali forniti da SAMSON AG (Cavitation-Short, Cavitation-Long, Cavitation-Noise), contenenti segnali acustici da valvole industriali.
• Un dataset pubblico (PUB) per la diagnosi di danni ai cuscinetti (University of Paderborn).

Risultati principali:

• Performance Superiori: DHK ha superato tutti i metodi di confronto (inclusi LiftingNet, MIPLCNet, e varianti con knowledge embedding precedenti come HKG) su tutti i backbones testati (ResNet, DenseNet, ConvNeXt, ViT, Swin, UniFormer).
• Accuratezza: Su Cavitation-Long, DHK ha raggiunto un'accuratezza superiore al 94% con diversi backbone, con miglioramenti fino al 17.57% rispetto alle baseline su metriche specifiche. Su Cavitation-Noise, ha raggiunto quasi il 100% di accuratezza.
• Diagnosi di Guasti Sottili: Il metodo ha mostrato miglioramenti significativi nel rilevamento della "cavitazione iniziale" (incipient cavitation), uno stato critico e difficile da distinguere, superando le baseline di diversi punti percentuali.
• Robustezza: DHK mantiene prestazioni elevate anche in presenza di rumore di fondo reale e ha dimostrato una buona robustezza contro il rumore nelle etichette (label noise).
• Efficienza: L'analisi della complessità computazionale mostra che l'aggiunta dei vincoli gerarchici introduce un costo di calcolo e tempo di inferenza trascurabile rispetto alle loss standard.

5. Significato e Impatto

Il lavoro di Yu Sha et al. rappresenta un passo avanti significativo nell'intersezione tra Intelligenza Artificiale e Industria 4.0.

• Affidabilità Industriale: Migliorando la capacità di diagnosticare l'intensità dei guasti (non solo la presenza/assenza), il metodo permette interventi di manutenzione più precisi e tempestivi, riducendo i tempi di fermo e i costi operativi.
• Generalizzabilità: La natura generale del framework DHK lo rende applicabile non solo alla cavitazione, ma anche ad altri scenari di classificazione gerarchica complessa, come la diagnosi medica (grading delle malattie), il riconoscimento di scene e la previsione di funzioni proteiche.
• Approccio Ibrido: Il paper dimostra che integrare la conoscenza di dominio (struttura gerarchica) direttamente nella funzione di perdita è più efficace rispetto all'embedding forzato della conoscenza nei dati o nelle architetture, offrendo un equilibrio migliore tra flessibilità del modello e vincoli fisici/semantici.

In sintesi, DHK risolve il problema della mancanza di coerenza strutturale nelle diagnosi di guasti attuali, fornendo uno strumento robusto, efficiente e ad alte prestazioni per il monitoraggio della salute delle macchine industriali.