Deep Hierarchical Knowledge Loss for Fault Intensity Diagnosis

Resumen Técnico: Deep Hierarchical Knowledge Loss (DHK) para Diagnóstico de Intensidad de Fallos

1. Planteamiento del Problema

El Diagnóstico de Intensidad de Fallos (FID) es crucial en la manufactura inteligente, especialmente para detectar fallos sutiles como la cavitación en sistemas mecánicos industriales complejos. Sin embargo, los métodos actuales basados en aprendizaje profundo (como CNNs y Transformers) suelen tratar las clases de fallos como etiquetas independientes y disjuntas.

El problema central identificado es que estos enfoques ignoran las dependencias jerárquicas naturales entre las clases de fallos (por ejemplo, la relación entre "cavitación" y "cavitación incipiente"). Ignorar esta estructura conduce a:

• Representaciones inconsistentes dentro de la jerarquía de clases.
• Dificultad para distinguir fallos sutiles o de baja intensidad.
• Pérdida de conocimiento estructural sobre las relaciones entre estados físicos.

2. Metodología Propuesta: Marco DHK

Los autores proponen un marco general llamado Deep Hierarchical Knowledge (DHK). En lugar de simplemente inyectar conocimiento en el flujo de datos (lo que puede introducir ruido), DHK integra el conocimiento jerárquico directamente en la función de pérdida (loss function) del modelo. Esto guía al modelo a aprender representaciones consistentes con la estructura de árbol de las clases.

El marco se compone de dos pérdidas principales combinadas:

A. Pérdida de Árbol Jerárquico (Hierarchical Tree Loss - $L_{HT}$ y $L_{FHT}$)
Esta componente asegura la consistencia entre las predicciones y la estructura del árbol de conocimiento.

• Conocimiento Positivo y Negativo: Si una clase hija se etiqueta como positiva, todos sus padres deben ser positivos (conocimiento positivo). Si un padre es negativo, todos sus hijos deben ser negativos (conocimiento negativo).
• Restricciones: Se imponen restricciones donde la puntuación de un nodo padre debe ser mayor o igual a la de sus hijos si el hijo es positivo, y viceversa para los negativos.
• Pérdida Focal Jerárquica ($L_{FHT}$): Se introduce un factor de modulación (inspirado en Focal Loss) para enfocarse en muestras difíciles de clasificar.
• Esquemas de Ponderación Adaptativa: Se proponen dos estrategias para equilibrar el aprendizaje en diferentes niveles del árbol:
  • Peso de Altura Normalizada (NHW): Da más peso a los nodos finos (hojas).
  • Peso de Altura Proporcional (PHW): Ajusta dinámicamente los pesos para evitar sesgos hacia niveles específicos.

B. Pérdida de Terna de Árbol de Grupo (Group Tree Triplet Loss - $L_{GTT}$)
Esta componente modela el conocimiento estructural de los límites entre clases dentro de la misma jerarquía.

• Grupos Jerárquicos: Define "grupos" basados en nodos padres comunes (supergrupos).
• Márgenes Dinámicos Jerárquicos: A diferencia de las pérdidas de terna tradicionales con márgenes fijos, esta propuesta utiliza la distancia en el árbol ($\psi$) para calcular un margen dinámico.
  • La distancia entre una muestra ancla y una negativa (de diferentes supergrupos) es mayor que la distancia entre la ancla y una positiva (del mismo supergrupo).
  • El margen se ajusta según la profundidad y la distancia en el árbol, permitiendo al modelo aprender fronteras de decisión más precisas.

Fórmula de Objetivo Final:
El entrenamiento minimiza una pérdida conjunta:
$$\mathcal{L} = \left( \frac{h_i}{\sum h_i} \times L_{FHT} \right) + \alpha L_{GTT}$$
Donde $h_i$ es la altura de la jerarquía y $\alpha$ es un factor de escala.

3. Contribuciones Clave

1. Marco General DHK: Un nuevo enfoque para el FID que convierte el mapeo de flujo de datos tradicional en un "mapeo de flujo fractal" (Fractal Flow Mapping), integrando restricciones de conocimiento jerárquico en la función objetivo.
2. Pérdida de Árbol Focal Jerárquico: Garantiza la consistencia entre las predicciones y la estructura jerárquica, con esquemas de ponderación adaptativa (NHW y PHW) para equilibrar el aprendizaje en diferentes niveles de granularidad.
3. Pérdida de Terna de Grupo con Margen Dinámico: Captura las relaciones estructurales de los límites entre clases dentro de la misma jerarquía, mejorando significativamente el aprendizaje de fronteras de decisión.
4. Validación Exhaustiva: Demostración de superioridad sobre métodos estatales (SOTA) en múltiples arquitecturas (CNNs, Lightweight Networks, Transformers) y dominios industriales.

4. Resultados Experimentales

Los experimentos se realizaron en cuatro conjuntos de datos del mundo real:

• 3 Conjuntos de Datos de Cavitación (SAMSON AG): Cavitation-Short, Cavitation-Long y Cavitation-Noise (con ruido real).
• 1 Conjunto de Datos Público (PUB): Datos de vibración de rodamientos de la Universidad de Paderborn.

Hallazgos Principales:

• Rendimiento Superior: DHK superó consistentemente a los métodos SOTA (incluyendo LiftingNet, MIPLCNet, y variantes de ResNet/ViT sin conocimiento jerárquico) en todas las métricas (Precisión, Recall, F1-score).
  • En Cavitation-Short, DHK+ResNet34 alcanzó un 93.57% de precisión, superando a la línea base en ~5%.
  • En Cavitation-Noise, se lograron precisiones superiores al 99% en varios backbones.
• Mejora en Fallos Sutiles: La mejora más notable se observó en la detección de cavitación incipiente (un estado de fallo temprano y difícil de detectar), donde DHK superó a los métodos baselines en un 7.5% en algunos casos.
• Robustez: El método mantuvo un rendimiento alto (>80% de precisión) incluso con frecuencias de muestreo reducidas (simulando sensores de baja calidad) y bajo ruido de etiquetas.
• Eficiencia: El costo computacional adicional de DHK es mínimo en comparación con la pérdida de entropía cruzada estándar (CCE), tanto en tiempo de entrenamiento como de inferencia.

5. Significado e Impacto

• Avance en IA Industrial: El trabajo demuestra que incorporar conocimiento de dominio (la jerarquía física de los fallos) directamente en la función de pérdida es más efectivo que tratar las clases como entidades aisladas.
• Diagnóstico Preventivo Mejorado: Al mejorar la detección de fallos incipientes (como la cavitación temprana), el método permite intervenciones de mantenimiento más oportunas, evitando fallos catastróficos en sistemas industriales críticos.
• Generalidad: Aunque se probó en cavitación y rodamientos, el marco DHK es agnóstico al dominio y puede aplicarse a cualquier tarea de clasificación jerárquica (diagnóstico médico, reconocimiento de escenas, clasificación de imágenes naturales).
• Interpretabilidad: Al forzar la consistencia jerárquica, el modelo produce predicciones que son lógicamente coherentes con la estructura del sistema físico, aumentando la confianza en su despliegue en entornos de alta seguridad.

En conclusión, DHK representa un cambio de paradigma en el diagnóstico de fallos, pasando de la extracción de características puramente basada en datos a un aprendizaje profundo guiado por la estructura jerárquica del conocimiento del dominio, logrando un rendimiento superior y una mayor robustez en escenarios industriales reales.