Explaining Temporal Graph Predictions With Shapley Values

Resumo Técnico: Explicando Predições de Grafos Temporais com Valores de Shapley

Título Original: Explaining Temporal Graph Predictions With Shapley Values
Autores: Lea-Marie Sussek e Stefan Heindorf (Universidade de Paderborn)

1. O Problema

As Redes Neurais de Grafos Temporais (TGNNs) têm demonstrado desempenho superior ao combinar informações espaciais (estrutura do grafo) e temporais (evolução no tempo). No entanto, essas redes operam como "caixas-pretas", tornando difícil entender como elas utilizam os eventos para realizar previsões.

Os métodos de explicabilidade atuais enfrentam limitações significativas:

• Explicadores de GNNs estáticas: Não capturam efeitos temporais.
• Explicadores de TGNNs de tempo discreto: Frequentemente dependem de modelos auxiliares treináveis, o que os torna lentos, sensíveis a hiperparâmetros e dependentes de arquiteturas específicas (como modelos diferenciáveis em relação às atenções).
• Falta de granularidade: Muitos métodos fornecem apenas escores de importância, sem indicar se um evento tem impacto positivo ou negativo na predição.

2. Metodologia Proposta

O trabalho introduz dois novos explicadores agnósticos ao modelo (podem ser aplicados a qualquer TGNN) baseados na Teoria dos Jogos Cooperativos, especificamente utilizando valores de Shapley e valores de Owen.

A. Event Explainer (Nível de Evento):

• Conceito: Trata cada evento no subgrafo computacional como um "jogador" em um jogo cooperativo. O objetivo é quantificar a contribuição média de cada evento para a predição final.
• Técnica: Utiliza o algoritmo KernelSHAP para estimar os valores de Shapley.
• Tratamento de Máscaras: Para evitar que a remoção de um evento desconecte o grafo (o que alteraria artificialmente o comportamento do modelo), os autores propõem substituir eventos removidos por um "evento médio" ($\bar{e}$), que mantém a conectividade e a consistência temporal.

B. Feature Explainer (Nível de Atributo):

• Conceito: Estende a explicação para uma granularidade mais fina, decompondo o valor de Shapley de um evento em suas características (features), seu tempo (timestamp) e sua função como transportador de informação de nós vizinhos.
• Técnica: Utiliza os Valores de Owen, que são uma extensão dos valores de Shapley para estruturas hierárquicas. Isso resolve o problema da inconsistência (onde a soma das partes não igualava o todo) e permite que a soma das contribuições das features de um evento seja exatamente igual ao valor de Shapley do próprio evento.
• Eficiência: Para tornar o cálculo tratável, utilizam uma formulação de "dois passos" combinada com amostragem de Monte Carlo e KernelSHAP, reduzindo a complexidade de exponencial para $O(k \cdot l)$.

3. Principais Contribuições

1. Novos Métodos de Explicabilidade: Introdução do Event Explainer e do Feature Explainer, que são leves, agnósticos ao modelo e hierárquicos.
2. Consistência Hierárquica: Demonstração de que o uso de valores de Owen garante que a explicação detalhada (features) seja matematicamente consistente com a explicação macro (evento).
3. Capacidade de Diagnóstico: O método provou ser capaz de identificar falhas de implementação em modelos de estado da arte (como o TGAT), revelando vazamentos de informação indesejados.

4. Resultados

Os autores avaliaram os métodos em datasets reais (MOOC, Wikipedia, Reddit) e sintéticos, comparando-os com os estados da arte (TempME e TGNN-Explainer).

• Desempenho Quantitativo: Os novos explicadores superaram os baselines na maioria das métricas de fidelidade (Fidelity, Deviation, GEF). O Feature Explainer destacou-se especialmente em tarefas de regressão.
• Eficiência Computacional: Embora o Feature Explainer seja mais lento que o Event Explainer devido à amostragem adicional, ambos são competitivos e evitam o custo de treinar redes neurais auxiliares (como exige o TempME).
• Descoberta de Erro (Insight Qualitativo): O Feature Explainer detectou que uma implementação comum de TGAT estava "trapaceando": devido à forma como o mecanismo de atenção lida com eventos inexistentes (normalização do softmax), o modelo conseguia inferir o timestamp absoluto, algo que não deveria ser possível em modelos baseados em deltas temporais.

5. Significância

Este trabalho é significativo porque move a explicabilidade de grafos temporais de métodos baseados em "heurísticas de importância" para métodos baseados em "atribuição de contribuição justa". Ao fornecer uma base matemática sólida (Shapley/Owen), os autores permitem que desenvolvedores de IA em áreas críticas (saúde, finanças, cibersegurança) não apenas saibam quais eventos são importantes, mas por que e como cada componente do evento influencia a decisão do modelo, além de servirem como ferramentas poderosas para depuração (debugging) de modelos de grafos.