💻 computer science

A Completion-Aware Framework for Impactful Counterfactual Explainability in Graph Neural Networks

Este artigo propõe um novo framework agnóstico ao modelo para gerar explicações contrafatuais de alta qualidade em Redes Neurais de Grafos, integrando explicabilidade fatual com modelos de predição de arestas ausentes, demonstrando desempenho superior em relação aos baselines do estado da arte através de diversos benchmarks de classificação de grafos.

Autores originais: Maria Myrto Villia, Filippos Gouidis, Theodore Patkos, Panos Trahanias

Publicado 2026-06-23

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Maria Myrto Villia, Filippos Gouidis, Theodore Patkos, Panos Trahanias

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um robô superinteligente (uma Rede Neural de Grafos) que observa uma rede complexa de conexões — como uma rede social, uma molécula ou um mapa de amizades — e toma uma decisão, como "Esta molécula é tóxica" ou "Este tweet está irritado".

O problema é que o robô é uma "caixa preta". Ele dá a resposta, mas não diz o porquê. Você quer saber: "Que pequena mudança faria o robô mudar de ideia?" Isso é chamado de Explicação Contrafactual. É como perguntar: "Se eu não tivesse dito aquela coisa, o resultado seria diferente?"

Este artigo apresenta uma nova ferramenta chamada DR-CFGNN para responder a essa pergunta melhor do que as ferramentas anteriores. Veja como ela funciona, usando analogias simples:

O Problema com as Ferramentas Antigas

Ferramentas anteriores tentavam explicar a decisão do robô de duas formas:

Retirando coisas: Como um escultor que vai lascando a pedra para ver qual forma resta. Elas só conseguiam remover conexões (arestas) do grafo.
Adivinhando aleatoriamente: Tentando adicionar ou remover conexões jogando dardos no escuro.

Os autores dizem que esses métodos são limitados. Às vezes, para mudar a opinião do robô, você não precisa apenas remover uma conexão ruim; você pode precisar adicionar uma conexão que estava faltando. É como tentar consertar um quebra-cabeça quebrado: às vezes você precisa tirar uma peça errada, mas outras vezes precisa encontrar a peça que falta para completar a imagem.

A Nova Solução: O Framework "Consciente da Completude" (Completion-Aware)

Os autores construíram um framework que trata o grafo como um quebra-cabeça com peças faltando. Eles o chamam de "Consciente da Completude" porque ele sabe como preencher as lacunas.

O processo acontece em quatro etapas, como uma oficina de quatro estágios:

1. O Filtro de Ruído (Denoising)

Dados do mundo real são bagunçados. Imagine uma rede social onde algumas amizades foram adicionadas por erro (spam).

O que a ferramenta faz: Antes de analisar o grafo, ela usa um "filtro de ruído" para limpar a bagunça. Ela remove conexões fracas ou improváveis que provavelmente não importam. Isso torna o quebra-cabeça mais claro antes de você começar a trabalhar nele.

2. A Desconstrução (Encontrando o Culpado)

Agora, a ferramenta observa o grafo limpo para encontrar a parte específica que convenceu o robô a tomar sua decisão original.

A Analogia: Imagine que o robô decidiu que um filme é "Assustador" por causa de uma cena específica. Este passo isola essa cena. Ele não olha para o filme inteiro; ele apenas foca na parte assustadora. Em seguida, tenta "quebrar" essa cena específica removendo algumas conexões chave para ver se o robô deixa de ficar assustado.

3. A Reconstrução (A Magia da Predição de Links)

Esta é a grande inovação do artigo. Em vez de apenas quebrar coisas, a ferramenta pergunta: "E se nós adicionássemos algo para mudar a história?"

A Analogia: Pense em um detetive que conhece as "regras do bairro". Se o robô acha que uma molécula é tóxica, este passo pergunta: "E se adicionássemos uma ligação química específica que geralmente torna as coisas seguras?"
A ferramenta utiliza uma técnica chamada Predição de Links (geralmente usada para adivinhar quem será amigo de quem no futuro) para sugerir, de forma inteligente, novas conexões. Ela não apenas adivinha aleatoriamente; ela procura padrões que logicamente levariam o robô a uma conclusão diferente (por exemplo, de "Tóxico" para "Seguro").

4. A Classificação (Otimização Post-Hoc)

A ferramenta pode gerar muitas maneiras diferentes de mudar o grafo. Algumas mudanças são minúsculas e precisas; outras são enormes e bagunçadas.

O que a ferramenta faz: Ela classifica essas opções. Ela prefere as mudanças "mínimas" — as edições mais pequenas e lógicas que invertem a decisão do robô. É como um editor que prefere mudar uma única palavra em vez de reescrever o parágrafo inteiro.

Por que isso é melhor?

Os autores testaram sua ferramenta em muitos tipos diferentes de grafos (desde quebra-cabeças sintéticos artificiais até dados do mundo real, como moléculas e tweets) e a compararam com as melhores ferramentas existentes.

Edições mais inteligentes: A ferramenta deles encontrou as "peças faltantes" muito melhor do que as outras. Ela não apenas removeu coisas; ela soube exatamente o que adicionar para mudar o resultado.
Mudanças menores: As explicações eram "compactas". Em vez de sugerir que você mudasse 50 conexões, ela frequentemente descobria que mudar apenas 2 ou 3 era o suficiente. Isso torna a explicação mais fácil de ser entendida por humanos.
Mais precisa: As mudanças que ela sugeriu estavam muito próximas da "verdade fundamental" (o motivo real pelo qual o robô estava tomando sua decisão).
Mais rápida: Como utiliza uma amostragem inteligente (olhando nos lugares certos) em vez de verificar todas as possibilidades, ela roda muito mais rápido do que as ferramentas pesadas e lentas que tentam explorar tudo.

O Ponto Principal

Este artigo apresenta uma nova maneira de explicar decisões de IA em grafos. Em vez de apenas lascar os dados ou adivinhar aleatoriamente, ela age como um mestre em resolver quebra-cabeças: ela limpa o tabuleiro, encontra a peça crítica e, então, adiciona inteligentemente a peça que faltava para mudar a imagem final. Isso resulta em explicações mais curtas, mais precisas e mais fáceis de serem confiadas pelos seres humanos.

Resumo Técnico: Um Framework de Consciência de Completude para Explicabilidade Contrafactual Impactante em Redes Neurais de Grafos

Declaração do Problema

As Redes Neurais de Grafos (GNNs) estão sendo cada vez mais implantadas em diversos domínios, mas sua natureza de "caixa-preta" impõe desafios significativos de interpretabilidade. Embora os explicadores fatuais (que identificam subgrafos cruciais para uma previsão) sejam bem estabelecidos, as Explicações Contrafatuais (CfXs) — que sugerem mudanças mínimas em um grafo de entrada para alterar a previsão do modelo — permanecem subdesenvolvidas.

Os métodos de CfX existentes enfrentam várias limitações:

Apenas Remoção de Arestas: Muitas abordagens iniciais (ex: CF-GNNExplainer, CFExplainer) restringem as explicações à remoção de arestas, limitando seu poder expressivo e resultando frequentemente em sugestões fora da distribuição (OOD).
Eficiência e Generalização: Métodos capazes de tanto adicionar quanto remover arestas (ex: LEGIT, MEG, D4Explainer) frequentemente sofrem com alta complexidade computacional, requerem amplo conhecimento de domínio ou dependem de modelos causais específicos que nem sempre estão disponíveis.
Falta de Análise Comparativa: Há uma escassez de avaliações abrangentes comparando frameworks de ponta que suportem tanto a adição quanto a remoção de arestas.

O desafio central abordado é gerar CfXs de nível local, genéricos e agnósticos ao modelo que sejam eficientes, robustos e intuitivamente significativos (ou seja, sugerindo mudanças estruturais plausíveis em vez de edições arbitrárias).

Metodologia: O Framework DR-CFGNN

Os autores propõem o DR-CFGNN (De/Re-construction-driven Counterfactual GNN), um pipeline que integra insights de predição de links para aumentar a qualidade e a robustez da geração de CfX. O framework opera em quatro fases distintas:

1. Denoising (Fase I)

Grafos do mundo real frequentemente contêm ruído (links irrelevantes). O framework utiliza um modelo de predição de links treinado (sem condicionamento de classe) para estimar as probabilidades das arestas. As arestas com a menor probabilidade são removidas, desde que sua remoção não altere a previsão original do oráculo. Este passo refina o grafo de entrada ( $G_{DeN}$ ) antes da geração da explicação.

2. Deconstruction (Fase II)

Em vez de buscar em todo o grafo por arestas para deletar, o framework primeiro extrai um subgrafo factual ( $G_F$ ) usando um explicador factual existente (ex: SubgraphX). Ele então remove seletivamente arestas apenas deste subgrafo factual. Esta estratégia enfraquece o suporte para a previsão original sem necessariamente invertê-la imediatamente, focando a busca nos padrões específicos que impulsionam a decisão do oráculo.

3. Reconstruction (Fase III)

Este é o componente central de "consciência de completude". O framework treina um modelo de expansão de grafos (uma arquitetura encoder-decoder) para prever arestas ausentes que levari-iam a uma classe contrafactual alvo ( $y_{CF}$ ).

Arquitetura: Um encoder de Rede Convolucional de Grafos (GCN) gera embeddings de nós. Um embedding específico da classe (derivado de um vetor one-hot da classe alvo) é concatenado com os embeddings dos nós. Um decoder de Perceptron Multicamadas (MLP) então prevê a probabilidade de arestas entre pares de nós.
Aprendizado Indutivo: Diferente da predição de links transdutiva tradicional, este modelo é treinado indutivamente em uma coleção de grafos para generalizar para grafos de teste e padrões não vistos.
Restrições de Domínio: O processo de treinamento pode incorporar conhecimento de domínio ao fixar certas arestas (ex: ligações químicas) como sempre presentes ou impossíveis, garantindo explicações plausíveis.
Inferência: O modelo estima a probabilidade de arestas não existentes no grafo desconstruído. As arestas que excedem um limiar são adicionadas para gerar contrafatuais candidatos.

4. Otimização Post-hoc (Fase IV)

Para gerenciar o conjunto potencialmente grande de CfXs gerados, uma função de pontuação equilibra a fidelidade (queda de confiança na classe original) e o tamanho da explicação (número de edições). Uma função de decaimento suave penaliza conjuntos de edição maiores, priorizando explicações compactas e de alta confiança sem adicionar restrições complexas ao loop de otimização em si.

Estratégia de Amostragem

Para garantir eficiência, o framework emprega um esquema de amostragem probabilística (baseado em uma função de decaimento do tipo Gaussiana) para determinar o número de arestas a remover ( $r$ ) e adicionar ( $k$ ). Isso permite o ajuste específico ao domínio, tipicamente favorecendo menos remoções (já que a remoção de uma única aresta crítica pode ser impactante) e contagens de adição mais flexíveis.

Principais Contribuições

Metodologia de Deconstruction/Reconstruction: Um pipeline inovador que separa as tarefas de enfraquecer a previsão original e fortalecer a previsão alvo. Esta abordagem melhora o desempenho para a geração de CfX in-distribution e aumenta significativamente a compactação e a relevância de motivos (motifs) das explicações.
Integração de Predição de Links: O primeiro estudo a acoplar explicitamente a pesquisa de predição de links com a explicabilidade contrafatual de GNN, aproveitando a capacidade dos preditores de links de sugerir posicionamentos de arestas bem direcionados em grafos complexos.
Eficiência e Controlabilidade: O framework permite o ajuste via parâmetros de amostragem e asserção de conhecimento de domínio, alcançando alta eficiência sem sacrificar o desempenho.
Avaliação Abrangente: O artigo apresenta o primeiro estudo comparativo multifacetado de explicadores CF locais proeminentes (incluindo aqueles que suportam adição de arestas) em tarefas de classificação binária e multi-label em conjuntos de dados sintéticos e do mundo real.

Resultados Experimentais

O framework foi avaliado em conjuntos de dados sintéticos (BA-Motifs), de sentimento (Graph-Twitter, Graph-SST5) e de moléculas (BBBP).

Validade e Compactação: Variantes do DR-CFGNN alcançaram altos escores de validade (frequentemente comparáveis a baselines globais) enquanto geravam explicações significativamente menores. Por exemplo, no dataset BBBP, alcançou 0,81 de validade com uma média de apenas 3 edições, enquanto os baselines exigiram de 3,5x a 5,6x mais arestas.
Proximidade de Motivos: O framework superou significativamente os baselines em proximidade de motivos, o que significa que as edições sugeridas concentraram-se em torno dos motivos fundamentais responsáveis pela previsão original, em vez de edições distantes arbitrárias.
Minimalidade: O DR-CFGNN alcançou escores de minimalidade excepcionalmente altos (próximos de 1,0), indicando que as explicações geradas contêm apenas as edições necessárias e poucas redundâncias.
Robustez: Sob ruído de entrada (perturbações de arestas/nós), o DR-CFGNN demonstrou o desempenho mais consistente entre os explicadores de nível local, mantendo alta validade e estabilidade estrutural (medida por Consistência de Aresta após Ruído).
Eficiência: O framework exibiu baixos tempos de treinamento e inferência em comparação com métodos baseados em difusão (D4Explainer) ou de busca exaustiva. O passo de denoising sozinho reduziu o tempo de execução em até 50% em alguns casos.

Significância e Alegações

O artigo afirma que a perspectiva de consciência de completude (integrando a predição de links) é crucial para gerar contrafatuais impactantes. Ao desacoplar a desconstrução da reconstrução, o framework evita as armadilhas da otimização end-to-end que frequentemente leva a edições OOD ou complexidade excessiva.

Os autores enfatizam que sua abordagem alcança um trade-off superior entre cobertura (validade), qualidade (fidelidade, proximidade de motivo, minimalidade) e eficiência. Eles argumentam que, embora um approach universalmente superior seja difícil devido à natureza multifacetada do problema, o DR-CFGNN produz consistentemente explicações altamente qualitativas, compactas e robustas sem exigir engenharia complexa de funções de perda. O estudo destaca a importância de avaliar diversos métricas de qualidade além da simples validade e sugere que trabalhos futuros podem estender esta abordagem para grafos temporais e IA neuro-simbólica para verificação formal.