Resumen Técnico: De Grafos a Gradientes: Atribución Estructural Inspirada en la Física para Sistemas IoT Ciber-Físicos y Más Allá

1. Planteamiento del Problema

La Inteligencia Artificial (IA) interpretable es crítica para dominios de alto riesgo como los Sistemas Ciber-Físicos (CPS) y el Internet de las Cosas Industrial (IIoT), donde comprender las causas raíz de los comportamientos del sistema es esencial para la seguridad y el diagnóstico. Los métodos tradicionales de explicabilidad suelen depender de asociaciones correlacionales o Modelos Causales Estructurales (SCM) que requieren grafos causales dirigidos explícitos. Sin embargo, la recuperación de tales grafos dirigidos es frecuentemente impracticable en entornos de CPS híbridos y a gran escala caracterizados por:

• Bucles de retroalimentación y observabilidad parcial: Lo que dificulta la identificación de la direccionalidad causal a partir de datos observacionales.
• Tipos de variables híbridas: Mezcla de variables continuas (p. ej., lecturas de sensores) y discretas (p. ej., estados de actuadores).
• Problemas de escalabilidad: Las herramientas de explicabilidad basadas en grafos existentes (p. ej., GNNExplifier) presentan dificultades de complejidad computacional y robustez a medida que aumenta la dimensionalidad del sistema.
• Mala especificación del modelo: Sensibilidad a los cambios de distribución y condiciones adversarias.

El artículo sostiene que, si bien la inferencia causal es deseable, el requisito estricto de recuperar una estructura causal dirigida limita la aplicabilidad en entornos industriales complejos del mundo real.

2. Metodología

Los autores proponen un nuevo marco de atribución basado en la energía inspirado en la mecánica estadística. En lugar de modelar cadenas causales dirigidas, el sistema se representa como un modelo gráfico no dirigido definido por un paisaje de energía.

Conceptos Clave

• Función de Energía ($E(x)$): El estado del sistema $x$ se modela utilizando una distribución de Boltzmann $p(x) = \frac{1}{Z} \exp(-\beta E(x))$.
  • Los valores de baja energía corresponden a configuraciones consistentes con el comportamiento normal del sistema.
  • Los valores de alta energía corresponden a estados anormales, adversarios o desviados.
  • La función de energía se descompone en potenciales unarios $\phi_i(x_i)$ (restricciones intrínsecas) y potenciales de pares $\phi_{ij}(x_i, x_j)$ (interacciones), lo que permite al modelo manejar dominios híbridos continuos y discretos.
• Mecanismos de Atribución: El marco cuantifica la influencia de las variables a través de tres lentes complementarias:
  1. Sensibilidad Local (Primer Orden): Calcula la magnitud del gradiente de la función de energía con respecto a una variable ($\Delta_i = |\frac{\partial E(x)}{\partial x_i}|$). Esto mide qué tan sensible es el estado de energía del sistema ante perturbaciones locales.
  2. Atribución Global (Energía Libre y Entropía): Utiliza conceptos de energía libre ($F(x_i)$) y entropía condicional para evaluar cómo el fijar una variable $x_i$ reconfigura la distribución de probabilidad global. Esto captura variables que consistentemente impulsan al sistema hacia regímenes estables o inestables a través de la distribución completa, no solo en un punto único.
  3. Curvatura de Segundo Orden: Analiza la matriz Hessiana de la función de energía para medir la estabilidad de las influencias y los efectos de interacción entre variables ($\gamma_{ij}$). Esto se aplica selectivamente a las variables con mayor rango para equilibrar el costo computacional y la interpretabilidad.

Flujo de Trabajo Computacional

El marco emplea estimación de Monte Carlo (específicamente Metropolis-Hastings) para aproximar las expectativas condicionales y las entropas, las cuales son intratables en espacios híbridos de alta dimensión. El algoritmo procede en tres fases:

1. Calcular las sensibilidades de gradiente local para todas las variables.
2. Estimar las contribuciones de energía libre y entropía global mediante muestreo.
3. Refinar las explicaciones para las $k$ variables más influyentes utilizando puntuaciones de curvatura de segundo orden.

3. Contribuciones Principales

El artículo describe tres contribuciones primarias:

1. Formulación de un Marco Basado en la Energía: Un método de atribución dependiente de la estructura, fundamentado en representaciones gráficas no dirigidas y mecánica estadística. Proporciona explicaciones interpretables para sistemas ciber-físicos híbridos sin requerir la recuperación de un grafo causal dirigido.
2. Evaluación Empírica en SWaT: Una evaluación exhaustiva en el banco de pruebas industrial Secure Water Treatment (SWaT). El estudio demuestra la capacidad del marco para identificar con precisión las variables contribuyentes dominantes y sus efectos derivados durante ataques ciber-físicos realistas (p. ej., el spoofing de sensores que conduce al desbordamiento de un tanque).
3. Escalabilidad y Precisión Superior: Un análisis comparativo que muestra que el método propuesto logra una mayor precisión explicativa y una escalabilidad computacional significativamente mejor que los métodos basados en grafos de última generación como GNNExplainer, particularmente a medida que aumenta el tamaño del sistema.

4. Resultados Experimentales

El marco fue probado en el conjunto de datos SWaT, que incluye mediciones heterogéneas de sensores, estados de actuadores y señales de control.

• Precisión de Atribución:
  • Precision@k: El método basado en energía logró una Precision@1 casi perfecta a medida que el tamaño del sistema aumentaba, identificando correctamente la causa raíz (el sensor comprometido) en el primer rango. En contraste, la Precision@1 de GNNExplainer se mantuvo cercana a cero en todos los tamaños de sistema.
  • AUC-PR: El método propuesto mantuvo consistentemente un Área Bajo la Curva de Precisión-Recall (AUC-PR) más alta en comparación con GNNExplainer. Mientras que el rendimiento de GNNExplainer se degradó drásticamente con el aumento de la dimensionalidad del sistema, el método basado en energía se mantuvo robusto.
• Robustez a Perturbaciones:
  • Al ser sometido a ruido Gaussiano aditivo, el marco basado en energía mantuvo un alto puntaje de robustez (estabilidad de las puntuaciones de atribución).
  • GNNExplifer exhibió una rápida deterioro en su robustez y una mayor variabilidad, probablemente debido a su dependencia de la optimización de máscaras específicas de instancia sobre datos ruidosos.
• Escalabilidad:
  • Tiempo de Ejecución: El marco propuesto demostró una escalabilidad lineal $O(nMd)$ (donde $n$ es el número de variables, $M$ es el número de muestras, $d$ es el grado del grafo) en grafos dispersos.
  • Comparación: GNNExplainer exhibió una escalabilidad supercuadrática $O(Kn^2)$, lo que resultó en tiempos de ejecución significativamente más largos a medida que crecía el número de variables.

5. Significado y Reivindicaciones

El artículo posiciona su contribución como un cambio de la explicabilidad centrada en el modelo (explicar un predictor entrenado) a la explicabilidad centrada en el sistema (explicar la dinámica generativa subyacente del sistema físico).

• Interpretabilidad Basada en Principios: Al aprovechar la mecánica estadística, el marco ofrece un mecanismo unificado de atribución que es robusto al ruido y a las condiciones adversarias, evitando la naturaleza de "caja negra" de los explicadores dependientes del entrenamiento.
• Manejo de Sistemas Híbridos: El método acomoda naturalmente variables mixtas continuas y discretas, un desafío común en la IIoT que muchos métodos existentes tienen dificultades para abordar.
• Utilidad Práctica: Los autores afirman que el marco permite diagnósticos de fallos más rápidos y fiables en infraestructuras críticas, reduendo potencialmente los tiempos de inactividad y los riesgos de seguridad. Proporciona explicaciones "conscientes de la dependencia" que apoyan la interpretación humana y las tareas de diagnóstico posteriores.
• Limitaciones y Alcance: Los autores declaran explícitamente que las atribaciones resultantes no tienen la intención de recuperar completamente la dinámica generativa subyacente del sistema o un grafo causal dirigido en el sentido de Pearl. En su lugar, proporcionan explicaciones estructurales valiosas donde la direccionalidad causal se infiere a través del conocimiento del dominio y la progresión temporal de los incidentes, en lugar de aprenderse únicamente de los datos observacionales.

El trabajo concluye que este enfoque ofrece una alternativa escalable e interpretable para la atribución estructural en entornos complejos del mundo real, extendiéndose más allá del IoT industrial hacia otros sistemas sociotécnicos.