🤖 machine learning

OperatorSHAP: Fast and Accurate Shapley Value Estimation for Neural Operators

El artículo presenta OperatorSHAP, un método agnóstico a la rejilla que permite una estimación rápida y precisa de los valores de Shapley para operadores neuronales mediante el establecimiento de un marco teórico en el espacio de funciones y la demostración de explicaciones consistentes y transferibles a través de diversas resoluciones y tamaños de rejilla.

Autores originales: Joshua Stiller, Santo M. A. R. Thies, Felix Czaja, Eyke Hüllermeier

Publicado 2026-06-29

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Joshua Stiller, Santo M. A. R. Thies, Felix Czaja, Eyke Hüllermeier

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El Gran Problema: El Pronosticador del Clima de "Caja Negra"

Imagina que tienes una IA superinteligente que predice el clima o calcula cuánto peso puede soportar un puente. Esta IA es como un Operador Neuronal. A diferencia de una IA normal que observa una cuadrícula fija de píxeles (como una foto), esta IA es especial: puede entender formas y patrones ya sea que estén dibujados en una servilleta diminuta o en una valla publicitaria gigante. No le importa el tamaño de la cuadrícula; simplemente entiende el flujo de los datos.

Sin embargo, hay un inconveniente. Cuando esta IA hace una predicción (por ejemplo, "Este puente soportará 5 toneladas"), nadie sabe por qué. ¿Qué parte de la entrada fue la importante? ¿Fue la velocidad del viento? ¿La forma del puente? ¿La temperatura?

En el mundo de la IA, utilizamos una herramienta llamada Valores de Shapley para responder a esto. Piensa en los Valores de Shapley como una forma de repartir un "premio" (la predicción) de manera justa entre todos los "jugadores" (los puntos de datos de entrada) basándose en cuánto contribuyó cada uno.

El Problema:

Es demasiado lento: Calcular el reparto justo para cada uno de los puntos de datos toma una eternidad. Es como intentar contar cada grano de arena en una playa para ver cuáles son los más importantes.
Es demasiado rígido: Las herramientas rápidas existentes (como FastSHAP) solo funcionan si la arena está dispuesta en una cuadrícula perfecta y uniforme. Pero en el mundo real (física, ingeniería), los datos suelen provenir de formas desordenadas e irregulares (como un cilindro con sensores colocados al azar). Las herramientas actuales fallan cuando la cuadrícula no es perfecta.

La Solución: OperatorSHAP

Los autores presentan OperatorSHAP. Piensa en esto como un "traductor universal" que puede explicar instantáneamente las decisiones de la IA, sin importar cuán desordenada o irregular sea la cuadrícula de los datos.

Así es como lo hicieron, dividido en tres conceptos simples:

1. El Juego del "Jugador Infinito" (Aumann–Shapley)

Normalmente, los valores de Shapley cuentan jugadores discretos (Jugador 1, Jugador 2, Jugador 3). Pero en la física, el espacio es continuo. No tienes el "Punto 1" y el "Punto 2"; tienes un flujo suave de aire o calor.

Los autores se dieron cuenta de que, en lugar de contar jugadores, debían tratar la entrada como un fluido continuo. Utilizaron un concepto matemático llamado valores de Aumann–Shapley, que es como medir la "densidad" de la importancia a través de un río en lugar de contar peces individuales. Esto les permite manejar cualquier forma o tamaño de cuadrícula sin confundirse.

2. El "Detective Entrenado" (Explicador Amortizado)

Normalmente, para explicar una predicción, tienes que realizar un cálculo masivo. Eso es como contratar a un detective para resolver un crimen específico, y luego contratar a un nuevo detective para el siguiente crimen.

OperatorSHAP entrena a un único "Detective de IA" (un modelo explicador).

Entrenamiento: Enseñan a este detective mostrándole miles de ejemplos y preguntándole: "Si ocultamos esta parte de la entrada, ¿cuánto cambia la predicción?".
La Magia: Una vez entrenado, este detective puede mirar cualquier nueva entrada (incluso en una cuadrícula extraña e irregular) y escupir instantáneamente la explicación en un segundo. No necesita recalcular desde cero cada vez.

3. Agnosticismo de Cuadrícula (El "Cambiaformas")

La mayoría de los explicadores son como un par de zapatos que solo sirven para la talla 10. Si tienes un pie de talla 8 o de talla 12 (una diferente resolución de cuadrícula), el zapato no encaja.

OperatorSHAP es como un par de zapatos mágicos que se estiran para adaptarse a cualquier pie. Debido a que fue entrenado con el concepto de "fluido" de los valores de Aumann–Shapley, puede tomar una entrada con 16 puntos de datos, 1,024 puntos de datos, o una malla desordenada con 5,000 puntos, y darte una explicación correcta sin necesidad de ser reentrenado.

Lo que Encontraron (Los Resultados)

El artículo probó esto en varios problemas de física, como el flujo de calor a través del metal, el aire moviéndose alrededor de un cilindro y las olas del agua.

Velocidad: OperatorSHAP es órdenes de magnitud más rápido que los métodos antiguos. Mientras que otros métodos podrían tardar horas en explicar una sola simulación compleja, OperatorSHAP lo hace en una fracción de segundo.
Precisión: Aunque es rápido, es tan preciso como los métodos lentos y perfectos.
Flexibilidad: Lo entrenaron en un tamaño de cuadrícula y funcionó perfectamente en cuadrículas mucho más grandes o pequeñas sin trabajo adicional. Incluso funcionó en el conjunto de datos de "flujo de cilindro", donde los sensores estaban colocados en cuadrículas irregulares y cambiantes.

La Conclusión

El artículo afirma que OperatorSHAP es una nueva forma de hacer comprensibles los modelos de IA de física compleja. Combina una teoría matemática profunda (tratar el espacio como un flujo continuo) con un truco de entrenamiento práctico (enseñar a una sola IA a explicar todas las cuadrículas).

Esto significa que en campos como la ingeniería estructural o la previsión meteorológica, donde los datos suelen ser desordenados y las decisiones son críticas, ahora podemos obtener explicaciones rápidas, fiables e independientes de la cuadrícula sobre por qué una IA tomó una predicción específica.

Resumen Técnico: OperatorSHAP

Planteamiento del Problema

Los operadores neuronales están diseñados para aprender mapeos entre espacios de funciones, ofreciendo una flexibilidad agnóstica a la rejilla esencial para aplicaciones físicas que involucran ecuaciones diferenciales parciales (PDE). Estos modelos pueden aceptar entradas muestreadas en rejillas irregulares o resoluciones variables (por ejemplo, 128 frente a 1,024 puntos) sin necesidad de reentrenamiento. Sin embargo, interpretar estos modelos sigue siendo un desafío significativo.

En dominios físicos críticos para la seguridad (por ejemplo, evaluación de carga estructural, alertas meteorológicas), comprender las predicciones del modelo es vital. Si bien los valores de Shapley proporcionan un método de atribución teóricamente sólido que satisface axiomas deseables, su costo computacional durante la inferencia es prohibitivo. Los explicadores amortizados existentes, como FastSHAP, están limitados a entradas homogéneas (rejillas fijas y regulares). No pueden manejar directamente las rejillas heterogéneas y las geometrías irregulares comunes en datos científicos (por ejemplo, mallas no estructuradas de colocación de sensores o refinamiento adaptativo). Además, definir valores de Shapley amortizados en rejillas heterogéneas no es trivial porque las atribuciones dependen tanto del número total de jugadores como de las distancias espaciales entre jugadores vecinos.

Metodología

Los autores introducen OperatorSHAP, un método de atribución y un procedimiento de entrenamiento agnóstico a la rejilla que extiende la estimación de Shapley amortizada a los operadores neuronales. El enfoque cierra la brecha entre los valores de Shapley discretos y los espacios de funciones continuas a través de los siguientes pasos:

1. Marco Teórico: Valores de Aumann–Shapley

El artículo establece una base teórica conectando los juegos de operadores neuronales con el valor de Aumann–Shapley, una extensión de los valores de Shapley a juegos con jugadores infinitos (espacios de medida no atómicos).

Juegos de Operadores Suaves: Los autores definen un "juego de operador suave" donde el espacio de entrada es un espacio de Sobolev $H^s$ (con $s > d/2$ ). Al utilizar máscaras suaves (funciones de campana o bump functions) para particionar el dominio espacial, aseguran que el operador sea Fréchet diferenciable.
Clase pNA: Demuestran que estos juegos de operadores suaves pertenecen a la clase pNA (juegos con representaciones de dimensión finita mediante medidas no atómicas). Esto garantiza la existencia de un valor de Aumann–Shapley único, calculable mediante una fórmula diagonal que involucra la derivada de Fréchet.
Conexión con Gradientes Integrados: Se muestra que el valor de Aumann–Shapley derivado es equivalente a una fórmula de Gradiente Integrado (IG) con valores de función, donde la atribución es la integral de la derivada direccional a lo largo de un camino desde una línea base hasta la entrada.

2. Explicador Agnóstico a la Rejilla y Amortizado

Para hacer que estos valores sean computacionalmente factibles, los autores proponen entrenar un explicador de operador neuronal (por ejemplo, un FNO) para aproximar la densidad de Aumann–Shapley.

Objetivo de Entrenamiento: El explicador $\Phi_\theta$ se entrena utilizando una pérdida similar a FastSHAP. En lugar de calcular los valores de Shapley para cada muestra individualmente, el explicador devuelve un campo de atribución continuo $\phi$ para una entrada $u$ dada.
Discretización: Durante el entrenamiento, el campo de salida continuo se integra sobre regiones de coalición específicas (particiones) para producir valores discretos. La pérdida minimiza el Error Cuadrático Medio (MSE) ponderado entre estos valores integrados y los valores de coalición reales $v(S)$ .
Agnosticismo a la Rejilla: Debido a que el explicador es un operador neuronal, aprende un mapeo de espacios de funciones a espacios de funciones. Puede ser entrenado en muestras con variaciones en la resolución de la rejilla y mallas irregulares. Una vez entrenado, el mismo modelo puede generar atribuciones para entradas en cualquier resolución de rejilla sin reentrenamiento, aprendiendo efectivamente la densidad de Aumann–Shapley subyacente.

Contribuciones Clave

Fundamentos Teóricos: El artículo proporciona un marco matemático riguroso para las atribuciones en espacios de funciones, demostrando que los juegos de operadores suaves admiten valores de Aumann–Shapley bien definidos. Conecta estos valores con la fórmula diagonal y los Gradientes Integrados.
Explicador Agnóstico a la Rejilla y Amortizado: Los autores proponen un procedimiento de entrenamiento (Algoritmo 1) que permite el entrenamiento de explicadores tipo FastSHAP en rejillas irregulares y heterogéneas. Esto permite la generación de atribuciones tipo Shapley para operadores neuronales a través de resoluciones arbitrarias.
Validación Empírica: El método se valida en nueve conjuntos de datos de PDE (incluyendo rejillas estructuradas 1D/2D y referentes de MeshGraphNets). Los resultados muestran que OperatorSHAP produce atribuciones consistentes con los aproximadores de Shapley discretos de última generación (RegressionMSR) a través de las resoluciones, ofreciendo al mismo tiempo velocidades de inferencia significativamente más rápidas.

Resultados Experimentales

Los autores evaluaron OperatorSHAP frente a KernelSHAP, RegressionMSR e Integrated Gradients en varias PDE (Burgers, Heat, Shallow Water, etc.) y conjuntos de datos de MeshGraphNets.

Calidad de la Atribución: A través de resoluciones que van desde $n=16$ hasta $n=1024$ , OperatorSHAP logró correlaciones de Pearson y RMSE Normalizado (NRMSE) comparables o mejores que RegressionMSR. Notablemente, mientras que los métodos clásicos requerían volver a ejecutarse en cada resolución, OperatorSHAP utilizó un único modelo entrenado para todas las resoluciones.
Velocidad de Inferencia: OperatorSHAP es órdenes de magnitud más rápido que los modelos de referencia. Devuelve atribuciones completas en una sola pasada hacia adelante (forward pass) con un presupuesto por muestra de cero, mientras que los modelos de referencia requieren miles de evaluaciones del backbone por muestra.
Transferibilidad: El explicador entrenado se transfirió con éxito a través de tamaños de rejilla sin reentrenamiento, manteniendo una alta fidelidad a las atribuciones de referencia incluso cuando la estructura de la rejilla de entrada cambió (por ejemplo, de 64 a 1024 puntos).
Limitaciones: Los autores señalan que, si bien la amortización ahorra tiempo de inferencia, el costo inicial de entrenamiento es significativo. Además, para conteos de jugadores muy bajos, los métodos clásicos con presupuestos bajos pueden superar a OperatorSHAP, pero esta brecha se amplía significamente a medida que la resolución aumenta.

Significado

El artículo afirma que OperatorSHAP permite la aplicación práctica de las explicaciones de los valores de Shapley en las ciencias físicas, donde los datos son inherentemente heterogéneos y agnósticos a la rejilla. Al conectar el valor de Shapley discreto con el valor de Aumann–Shapley continuo, los autores proporcionan una justificación teórica para entrenar explicadores en espacios de funciones. Esto permite la interpretación de operadores neuronales en mallas irregulares y resoluciones variables, una capacidad que antes no estaba disponible para los explicadores amortizados. El trabajo sugiere que para aplicaciones industriales que requieren soporte de decisión de alto rendimiento y alto riesgo (por ejemplo, alertas meteorológicas en tiempo real o monitoreo estructural), los explicadores amortizados como OperatorSHAP son un paso necesario hacia la interpretabilidad de la IA escalable y confiable en sistemas dinámicos.