Resumo Técnico: TreeX - Explicações de Nível de Modelo em GNNs via Leitura de Regra para Gráfico

Declaração do Problema

Embora as Redes Neurais em Grafos (GNNs) alcancem desempenho preditivo robusto, compreender sua lógica de decisão permanece desafiador. As abordagens existentes focam principalmente em explicações de nível de instância, identificando nós ou subgrafos específicos responsáveis por uma única previsão. No entanto, explicações locais não revelam se evidências são usadas sistematicamente em todo um conjunto de dados, se os modelos dependem de atalhos espúrios ou como múltiplos conceitos definem conjuntamente os limites de decisão de nível de classe.

Os explicadores de nível de modelo atuais geralmente tentam identificar padrões de grafos ou regras simbólicas associadas a uma classe específica. Uma limitação crítica desses métodos é que eles tratam regras como descritores de classe post-hoc em vez de unidades computacionais funcionais. Eles não explicam como múltiplas regras produzem conjuntamente a decisão final da GNN ou reconstroem os logits brutos de previsão do modelo. Consequentemente, carecem da capacidade de realizar análise de contribuição em nível de regra no momento do teste ou de explicar a supressão de classes concorrentes.

Metodologia: TreeX

Os autores propõem o TreeX, um novo framework de explicação de GNNs de nível de modelo que desloca o alvo da explicação da extração de regras por classe para a reconstrução de logits baseada em regras. O TreeX intervém na interface de leitura de uma GNN pré-treinada, mantendo as camadas de passagem de mensagens e a cabeça do classificador congeladas, enquanto substitui a leitura original de nó para gráfico por uma leitura ponderada de regra para gráfico.

A metodologia consiste em quatro etapas principais:

1. Mineração de Conceitos Inspirada em Subárvores

Para fundamentar regras globais em instâncias locais, o TreeX minera conceitos de subgrafos a partir dos estados ocultos da GNN:

• Mineração Local: Os embeddings de nós dentro de um gráfico são agrupados. Cada cluster é convertido em um subgrafo de suporte agregando os campos receptivos de $l$-hop de seus nós membros (subárvores). Isso viabiliza conceitos em direção a evidências estruturalmente estáveis em vez de ruído.
• Mineração Global: Os embeddings de conceitos locais são agrupados novamente para formar um banco de conceitos global. Subgrafos representativos são selecionados usando um filtro majoritário lexicográfico em duas etapas (baseado em assinaturas de forma e grau), seguido por um desempate baseado na distância ao centróide.
• Justificativa Teórica: O artigo argumenta que, para MPNNs maximamente poderosas (como GIN), o embedding do nó na $l$-ésima camada é uma "Representação de Árvore Enraizada Perfeita" da subárvore completa de $l$-hop, justificando o uso de embeddings de nós para representar subestruturas.

2. Aprendizado de Regras Neuro-Simbólicas

O TreeX aprende regras simbólicas sobre os conceitos de subgrafos globais usando uma estrutura CNF (Forma Normal Conjuntiva), especificamente uma relaxação OU-de-CNF:

• Descoberta por Classe: As regras são inicialmente aprendidas de forma um-contra-resto para cada classe-alvo. Literais positivos ($P[k]$) e literais negativos ($\neg P[k]$) são instanciados com base no poder discriminativo dos conceitos globais.
• Lógica Diferenciável: É utilizada uma parametrização de lógica diferenciável hierárquica. Cláusulas são satisfeitas via uma conorma de Gödel (máximo sobre literais gateados) e regras são formadas via uma operação AND suave estilo produto entre cláusulas. A previsão final de classe utiliza uma soma probabilística (OU-ruído) sobre regras candidatas.
• Fusão: Candidatos de regras específicos de classe são fundidos em um banco de regras compartilhado unificado. Este design em duas etapas garante a descoberta de regras discriminativas por classe, mantendo uma estrutura compartilhada para reconstrução multiclasse.

3. Leitura de Regra para Gráfico

A inovação central é redefinir a camada de leitura:

• Embeddings de Regra: Os embeddings de regra são computados agregando os embeddings de seus literais constituintes (ponderados por ativações de gate). Literais negativos são representados como os embeddings negados de seus contrapartes positivos.
• Reconstrução de Logits: Regras ativas são ponderadas por um vetor de pesos global aprendido $w$. A combinação ponderada dos embeddings de regras ativas é passada pela cabeça do classificador congelada da GNN base para reconstruir os logits brutos multiclasse ($\hat{o}_G$).
• Objetivo: O modelo é treinado para minimizar o Erro Quadrático Médio (MSE) entre os logits reconstruídos e os logits brutos originais da GNN.

4. Fundamentação e Análise no Momento do Teste

No momento do teste, o TreeX projeta gráficos não vistos no espaço de conceitos compartilhado, avalia as regras fixas e produz explicações específicas de instância. Ele permite:

• Fundamentação: Mapear literais satisfeitos para evidências concretas de subgrafos locais (para literais positivos) ou a ausência de conceitos (para literais negativos).
• Ablação: Medir a contribuição de cada regra zerando seu peso e observando a mudança nos logits reconstruídos ($\Delta_{g,r}$).

Contribuições Principais

1. Novo Alvo de Explicação: Formula a explicação de GNNs de nível de modelo como reconstrução de logits baseada em regras, indo além da simples associação de padrões com rótulos para explicar a geração de logits brutos de previsão.
2. Interface de Leitura Simbólica: Introduz uma leitura de regra para gráfico onde regras lógicas fundamentadas atuam como unidades computacionais. Embeddings de regras ativas são agregados e passados pelo classificador congelado para reconstruir logits multiclasse.
3. Construção de Regras Fundamentada e Composicional: Minera conceitos de subgrafos inspirados em subárvores para embeddings contínuos e evidências concretas. Aprende regras OU-de-CNF, que preservam realizações alternativas dentro de restrições necessárias, oferecendo maior expressividade estrutural do que formulações estilo DNF sob o mesmo orçamento de regras.
4. Explicações Funcionais e Fieis: Demonstra que regras críticas identificadas suportam ativamente a classe prevista e suprimem classes não-alvo, atuando como unidades funcionais em vez de meros artefatos post-hoc.

Resultados Experimentais

O TreeX foi avaliado em três conjuntos de dados sintéticos (BA-2Motifs, BAMultiShapes, BA-Neg) e dois conjuntos de dados moleculares do mundo real (Mutagenicity, NCI1).

• Fidelidade de Logits: O TreeX reconstrói fielmente os logits brutos multiclasse da GNN base, alcançando alta Fidelidade de Probabilidade Absoluta (APF) (ex: >97% no BA-2Motifs, >75% em conjuntos de dados do mundo real).
• Impacto da Regra: Estudos de ablação mostram que as regras ativas principais aumentam consistentemente o logit da classe-alvo enquanto suprimem classes não-alvo, confirmando seu papel funcional no processo de decisão.
• Necessidade do Design: Ablações confirmam que remover o módulo de regras, a etapa de fusão ou literais negativos degrada significativamente o desempenho, particularmente na reconstrução de logits brutos.
• Eficiência e Comparação: Em comparação com explicadores anteriores baseados em regras por classe (LogicXGNN, GLGExplainer, GraphTrail), o TreeX alcança Acordo de Previsão (PA) competitivo ou superior, sendo até 20× mais rápido. Diferentemente das linhas de base, o TreeX fornece pesos de regras, fundamentação no momento do teste e análise de contribuição em nível de logit.

Significado e Alegações

O artigo afirma que o TreeX fornece um framework de explicação global, instanciável no momento do teste e fundamentado em subgrafos. Ao deslocar o foco para a reconstrução de logits, o TreeX oferece uma avaliação mais rigorosa da explicabilidade: as regras não são apenas descritivas, mas são mostradas como unidades funcionais que moldam ativamente a margem de decisão.

Os autores enfatizam que o TreeX não é meramente uma ferramenta de resumo post-hoc, mas um mecanismo que revela como a lógica de decisão de uma GNN pode ser decomposta em regras simbólicas reutilizáveis e ponderadas. Essa abordagem permite a análise de como as regras suportam classes previstas e suprimem concorrentes, abordando uma lacuna na interpretabilidade de nível de modelo atual onde a interação entre múltiplas regras e o limite de decisão final permanece opaca. O framework sugere uma rota mais ampla para explicar modelos neurais identificando conceitos interpretáveis por humanos, compondo-os em regras simbólicas e usando essas regras como unidades em nível de leitura para reconstruir o comportamento do modelo.