Resumo Técnico: OperatorSHAP

Declaração do Problema

Os operadores neurais são projetados para aprender mapeamentos entre espaços de funções, oferecendo uma flexibilidade agnóstica à grade essencial para aplicações físicas envolvendo equações diferenciais parciais (PDEs). Esses modelos podem aceitar entradas amostradas em grades irregulares ou resoluções variáveis (por exemplo, 128 vs. 1.024 pontos) sem necessidade de retreinamento. No entanto, interpretar esses modelos continua sendo um desafio significativo.

Em domínios físicos de missão crítica (ex.: avaliação de carga estrutural, alertas meteorológicos), compreender as previsões do modelo é vital. Embora os valores de Shapley forneçam um método de atribuição teoricamente sólido que satisfaz axiomas desejáveis, seu custo computacional durante a inferência é proibitivo. Explicadores amortizados existentes, como o FastSHAP, são limitados a entradas homogêneas (grades fixas e regulares). Eles não podem lidar diretamente com as grades heterogêneas e geometrias irregulares comuns em dados científicos (ex.: malhas não estruturadas de posicionamentos de sensores ou refinamento adaptativo). Além disso, definir valores de Shapley amortizados em grades heterogêneas é não trivial porque as atribuições dependem tanto da contagem total de jogadores quanto das distâncias espaciais entre jogadores vizinhos.

Metodologia

Os autores introduzem o OperatorSHAP, um método de atribuição e um procedimento de treinamento agnóstico à grade que estende a estimativa de Shapley amortizada para operadores neurais. A abordagem faz a ponte entre os valores de Shapley discretos e os espaços de funções contínuas através dos seguintes passos:

1. Estrutura Teórica: Valores de Aumann–Shapley

O artigo estabelece uma fundação teórica conectando jogos de operadores neurais ao valor de Aumann–Shapley, uma extensão dos valores de Shapley para jogos com jogadores infinitos (espaços de medida não atômicos).

• Jogos de Operadores Suaves: Os autores definem um "jogo de operador suave" onde o espaço de entrada é um espaço de Sobolev $H^s$ (com $s > d/2$). Ao usar máscaras suaves (funções de bump) para particionar o domínio espacial, eles garantem que o operador seja Fréchet diferenciável.
• Classe pNA: Eles provam que esses jogos de operadores suaves pertencem à classe pNA (jogos com representações de dimensão finita via medidas não atômicas). Isso garante a existência de um valor de Aumann–Shapley único, calculável via uma fórmula diagonal envolvendo a derivada de Fréchet.
• Conexão com Gradientes Integrados: O valor de Aumann–Shapley derivado é mostrado como equivalente a uma fórmula de Gradiente Integrado (IG) baseada em funções, onde a atribuição é a integral da derivada direcional ao longo de um caminho de uma linha de base até a entrada.

2. Explicador Agnóstico à Grade Amortizado

Para tornar esses valores computacionalmente viáveis, os autores propõem treinar um explicador de operador neural (ex.: um FNO) para aproximar a densidade de Aumann–Shapley.

• Objetivo de Treinamento: O explicador $\Phi_\theta$ é treinado usando uma perda do tipo FastSHAP. Em vez de calcular valores de Shapley para cada amostra individualmente, o explicador produz um campo de atribuição contínuo $\phi$ para uma determinada entrada $u$.
• Discretização: Durante o treinamento, o campo de saída contínuo é integrado sobre regiões de coalizão específicas (partições) para produzir valores discretos. A perda minimiza o Erro Quadrático Médio (MSE) ponderado entre esses valores integrados e os valores reais da coalizão $v(S)$.
• Agnosticismo à Grade: Como o explicador é um operador neural, ele aprende um mapeamento de espaços de funções para espaços de funções. Ele pode ser treinado em amostras com variadas resoluções de grade e malhas irregulares. Uma vez treinado, o mesmo modelo pode gerar atribuições para entradas em qualquer resolução de grade sem retreinamento, aprendendo efetivamente a densidade de Aumann–Shapley subjacente.

Principais Contribuições

1. Fundamentos Teóricos: O artigo fornece um arcabouço matemático rigoroso para atribuições em espaços de funções, demonstrando que jogos de operadores neurais suaves admitem valores de Aumann–Shapley bem definidos. Ele conecta esses valores à fórmula diagonal e aos Gradientes Integrados.
2. Explicador Agnóstico à Grade Amortizado: Os autores propõem um procedimento de treinamento (Algoritmo 1) que permite o treinamento de explicadores do tipo FastSHAP em grades irregulares e heterogêneas. Isso possibilita a geração de atribuições do tipo Shapley para operadores neurais em resoluções arbitrárias.
3. Validação Empírica: O método é validado em nove conjuntos de dados de PDE (incluindo grades estruturadas 1D/2D e benchmarks de MeshGraphNets). Os resultados mostram que o OperatorSHAP produz atribuições consistentes com os aproximadores de Shapley discretos de última geração (RegressionMSR) através das resoluções, enquanto oferece velocidades de inferência significativamente maiores.

Resultados Experimentais

Os autores avaliaram o OperatorSHAP contra KernelSHAP, RegressionMSR e Gradientes Integrados em várias PDEs (Burgers, Heat, Shallow Water, etc.) e conjuntos de dados MeshGraphNets.

• Qualidade da Atribuição: Em resoluções variando de $n=16$ a $n=1024$, o OperatorSHAP alcançou correlações de Pearson e RMSE Normalizado (NRMSE) comparáveis ou superiores ao RegressionMSR. Notavelmente, enquanto os métodos clássicos exigiam a execução novamente em cada resolução, o OperatorSHAP utilizou um único modelo treinado para todas as resoluções.
• Velocidade de Inferência: O OperatorSHAP é ordens de magnitude mais rápido que os baselines. Ele retorna atribuições completas em uma única passagem direta (forward pass) com orçamento zero por amostra, enquanto os baselines exigem milhares de avaliações do backbone por amostra.
• Transferibilidade: O explicador treinado transferiu-se com sucesso entre tamanhos de grade sem retreinamento, mantendo alta fidelidade às atribuições de referência mesmo quando a estrutura da grade de entrada mudou (ex.: de 64 para 1024 pontos).
• Limitações: Os autores observam que, embora a amortização economize tempo de inferência, o custo inicial de treinamento é significativo. Além disso, para contagens de jogadores muito baixas, métodos clássicos com orçamentos baixos podem superar o OperatorSHAP, mas essa lacuna aumenta significativamente conforme a resolução cresce.

Significância

O artigo afirma que o OperatorSHAP permite a aplicação prática de explicações de valores de Shapley nas ciências físicas, onde os dados são inerentemente heterogêneos e agnósticos à grade. Ao conectar o valor de Shapley discreto ao valor de Aumann–Shapley contínuo, os autores fornecem uma justificativa teórica para o treinamento de explicadores em espaços de funções. Isso permite a interpretação de operadores neurais em malhas irregulares e resoluções variáveis — uma capacidade anteriormente indisponível para explicadores amortizados. O trabalho sugere que, para aplicações industriais que exigem suporte à decisão de alto rendimento e alto risco (ex.: avisos meteorológicos em tempo real ou monitoramento estrutural), explicadores amortizados como o OperatorSHAP são um passo necessário para a interpretabilidade de IA escalável e confiável em sistemas dinâmicos.