Neural Network Implementation of the Renormalization Group for Fault Diagnosis with Class Imbalance

Resumen Técnico: Implementación de Redes Neuronales del Grupo de Renormalización para el Diagnóstico de Fallas con Desequilibrio de Clases

Planteamiento del Problema
El artículo aborda dos desafíos primordiales en el mantenimiento predictivo (PdM) mediante el aprendizaje automático:

1. Desequilibrio Severo de Clases: En los conjuntos de datos industriales, los ejemplos de fallas suelen constituir menos del 5% del total de los datos. Los algoritmos estándar que optimizan la precisión general tienden a ignorar la clase de falla poco frecuente, lo que conduce a omisiones catastróficas en la detección de fallas.
2. Ruido Multiescala y Complejidad de los Datos: Las señales de falla suelen manifestarse simultáneamente en diversas escalas. Analizar los datos en una sola escala puede suprimir estas señales frente al ruido de fondo. Además, la escasez de datos de fallas raras etiquetados limita el despliegue de modelos complejos.

Si bien se utilizan comúnmente métodos de ensamble (por ejemplo, XGBoost, LightGBM) y técnicas de remuestreo, existe una brecha en la aplicación de arquitecturas de granulación gruesa en cascada explícitas para datos de ingeniería tabulares. Además, los métodos existentes de IA explicable suelen explicar predicciones individuales sin ofrecer una comprensión global de la estructura de los datos a través de diferentes escalas.

Metodología: Arquitectura RGNet
Los autores proponen RGNet, una arquitectura de red neuronal fundamentada en el concepto del Grupo de Renormalización (RG) de la física matemática. La filosofía central es que el comportamiento de un sistema complejo depende de la escala de observación, y las propiedades colectivas esenciales pueden extraerse mediante la "granulación gruesa" (coarse-graining) secuencial de variables.

• Granulación Gruesa Jerárquica: RGNet implementa una serie de bloques RG donde grupos de variables de escala fina son reemplazados por variables efectivas de escala gruesa. A diferencia de PCA, que maximiza la varianza, las capas RG se entrenan para preservar la información crítica para la tarea de clasificación objetivo.
• Concatenación de Escalas: Para evitar la pérdida de detalles de grano fino (que pueden contener indicadores tempranos de falla), RGNet concatena las salidas de todas las escalas (desde la entrada bruta hasta la representación más gruesa) antes de la capa de clasificación final. Esto imita las "conexiones de salto" (skip connections) presentes en arquitecturas como U-Net.
• Flujos-RG (RG-Flows): Las salidas intermedias de los bloques RG se denominan "flujos-RG". Estos sirven como representaciones interpretables y de baja dimensión de los datos en escalas específicas.
• Entrenamiento y Regularización: El modelo utiliza Normalización por Lotes (Batch Normalization) y Dropout para prevenir el colapso representacional y mejorar la generalización. Se entrena utilizando el optimizador Adam con una pérdida de entropía cruzada binaria ponderada para manejar el desequilibrio de clases.
• Fundamento Teórico: El artículo proporciona un Lema que demuestra que si las capas RG preservan la pertenencia a la clase (mapeando estados normales y de falla hacia atractores compactos disjuntos en cada escala), las clases siguen siendo distinguibles incluso después de una fuerte compresión. La arquitectura asegura la robustez al ruido y preserva la separabilidad de clases con la profundidad.

Contribuciones Clave

1. Arquitectura RGNet: Una novedosa implementación de red neuronal del grupo de renormalización diseñada específicamente para datos tabulares, modelando explícamente la granulación gruesa jerárquica.
2. Estrategia de Concatenación de Escalas: Demostración de que la compresión en cascada combinada con la concatenación de todas las escalas produce una alta sensibilidad a las fallas raras al capturar tanto anomalías locales como patrones globales.
3. Flujos-RG e Interpretabilidad: Introducción de los "flujos-RG" como herramienta de visualización. El artículo muestra que la visualización de estos flujos mediante t-SNE revela una estructura curvilínea discreta, ofreciendo un puente entre la "caja negra" de las redes neuronales y la comprensión física del proceso.

Resultados Experimentales
El estudio evalúa RGNet en dos conjuntos de datos:

1. Conjunto de Datos Sintético Balanceado:

   • RGNet alcanzó una precisión de 0.98, superando a XGBoost (0.92), LightGBM (0.90), Random Forest (0.89) y un MLP estándar (0.96). Esto valida la capacidad de la arquitectura en datos balanceados.

2. Conjunto de Datos Industriales AI4I2020 (Desbalanceado):

   • Conjunto de Datos: 10,000 registros con una tasa de falla del 3.4%.
   • Configuración de Alta Sensibilidad/Recall (Umbral 0.5): RGNet alcanzó un Recall de 0.9265, superando significativamente a XGBoost (0.750) y LightGBM (0.764). Esto indica una capacidad superior para detectar fallas raras, aunque a costa de una menor precisión (0.2582) y PR-AUC (0.670) en comparación con los métodos de potenciación de gradiente (gradient boosting).
   • Configuración Balanceada (Umbral 0.92): Al calibrar el umbral de decisión, el modelo logró un equilibrio entre Recall 0.588, Precisión 0.678 y F1-score 0.630.
   • Visualización de Flujo-RG: Las proyecciones t-SNE de los flujos-RG más gruesos mostraron que los estados normales se alinean a lo largo de una "autopista" suave (estructura curvilínea), mientras que las fallas o bien se fusionan con esta autopista (requiriendo escalas más finas para su detección) o forman cúmulos aislados. Esta estructura no se observó en las salidas de un MLP estándar ni en las proyecciones de características brutas.

Significancia y Reivindicaciones
El artículo afirma que RGNet es una solución universal, interpretable y competitiva para la predicción de fallas en escenarios desbalanceados.

• Rendimiento: Demuestra que la granulación gruesa explícita puede producir una mayor sensibilidad a las fallas raras que los métodos de ensamble tradicionales, particularmente cuando la prioridad es minimizar las detecciones omitidas (alto recall).
• Interpretabilidad: La visualización del flujo-RG proporciona a los ingenieros una visión global de la estructura de los datos. Permite la formulación de reglas de umbral basadas en la posición de los puntos de datos en el espacio del flujo-RG (por ejemplo, entrar en un cúmulo aislado señala un alto riesgo), una capacidad que no ofrecen los modelos clásicos de caja negra.
• Validez Teórica: El trabajo establece que el concepto del grupo de renormalización puede traducirse con éxito en una arquitectura de red neuronal entrenable que mantiene la separabilidad de clases bajo compresión.

Los autores concluyen que, si bien el método es prometedor, el trabajo futuro debería centrarse en la selección automática de las dimensiones de las capas RG y la integración de RGNet en sistemas de tiempo real con aprendizaje en línea.