Counterfactual Explanations for Hypergraph Neural Networks

Problema
Redes Neurais de Hipergrafos (HGNNs) são modelos poderosos capazes de capturar interações de ordem superior (HOIs) em sistemas complexos, como equipes de coautoria ou complexos bioquímicos, onde os resultados dependem de grupos de entidades e não apenas de relações pares. No entanto, apesar de sua eficácia, as HGNNs sofrem de interpretabilidade limitada, o que impede sua implantação em cenários de alto risco. Embora explicações contrafactuais (CF)—que identificam alterações mínimas de entrada necessárias para alterar a previsão de um modelo—tenham avançado significativamente para Redes Neurais de Grafos (GNNs) padrão, elas não podem ser aplicadas diretamente a hipergrafos. Métodos existentes baseados em grafos dependem de matrizes de adjacência que representam links pares, enquanto hipergrafos utilizam estruturas de incidência para codificar conjuntos de nós de tamanho arbitrário. Reduzir diretamente hiperarestas a links pares altera o significado semântico das interações. Consequentemente, há uma falta de ferramentas dedicadas para gerar contrafactuais estruturais válidos e mínimos para HGNNs que respeitem sua natureza discreta e de ordem superior.

Metodologia
Os autores propõem o CF-HyperGNNExplainer, o primeiro método de explicação contrafactual especificamente projetado para HGNNs. A abordagem adapta o framework de otimização do CF-GNNExplainer ao domínio de hipergrafos, buscando a menor edição estrutural na matriz de incidência que inverte a previsão de um modelo treinado.

O método opera introduzindo uma matriz de perturbação aprendível, $\Pi$, que atua como uma máscara diferenciável sobre a estrutura de incidência do hipergrafo. A otimização central minimiza uma função de perda composta por dois termos: uma perda de previsão que incentiva o modelo a inverter sua previsão original e um termo de regularização de distância que garante que o hipergrafo perturbado permaneça próximo ao original. Para lidar com a natureza discreta dos hipergrafos, o método otimiza um relaxamento contínuo da máscara (usando uma função sigmoide) e aplica um limiar (0,5) no momento da avaliação para produzir edições binárias acionáveis.

O artigo introduz duas variantes distintas do método, que diferem na granularidade das edições estruturais:

1. Perturbação Nó-Hiperaresta (NHP): Esta variante visa incidências específicas de nó-hiperaresta. Ela aprende um vetor de coeficientes para um nó alvo, permitindo remover seletivamente a participação desse nó em hiperarestas específicas sem alterar as incidências de outros nós.
2. Perturbação de Hiperaresta (HP): Esta variante visa hiperarestas inteiras dentro da vizinhança de $n$-hops de um nó alvo. Ela aprende um coeficiente para cada hiperaresta, removendo efetivamente a hiperaresta inteira e suprimindo todas as interações mediadas por ela para todos os nós participantes.

O processo de otimização recalcula dinamicamente os graus de nós e hiperarestas sempre que a estrutura de incidência é modificada para manter uma normalização consistente. Os autores também empregam uma estratégia de taxa de aprendizado adaptativa para lidar com instâncias onde o modelo é excessivamente confiante, ajustando a taxa de aprendizado com base no panorama da perda e nos épocas de otimização restantes.

Principais Contribuições

1. Primeiro Método CF para HGNNs: O artigo introduz o CF-HyperGNNExplainer, a primeira técnica de explicação contrafactual adaptada especificamente às restrições estruturais das redes neurais de hipergrafos.
2. Variantes Granulares: Os autores propõem e avaliam duas variantes (NHP e HP) que oferecem diferentes níveis de controle, variando de edições finas de nó-hiperaresta até remoções grosseiras de hiperarestas.
3. Avaliação Empírica: O método é avaliado em uma ampla gama de conjuntos de dados de referência de hipergrafos (incluindo Cora, Citeseer, Pubmed, DBLP e outros) da coleção AllSet.
4. Análise Comparativa: O estudo fornece comparações extensas contra:
   • Baselines baseadas em grafos: Especificamente o CF-GNNExplainer aplicado a hipergrafos expandidos em estrelas.
   • Baselines nativas de hipergrafos: Métodos existentes de explicabilidade como HyperEX e SHypX (embora estes sejam explicadores factuais, não contrafactuais).
5. Código Aberto: Os autores liberam a base de código completa para incentivar a reprodutibilidade.

Resultados
Experimentos extensivos demonstram que o CF-HyperGNNExplainer gera contrafactuais válidos e concisos:

• Vs. Métodos Baseados em Grafos: Quando comparado ao CF-GNNExplainer (aplicado a grafos expandidos em estrelas), a abordagem nativa de hipergrafos alcança taxas de sucesso significativamente maiores na inversão de previsões e produz tamanhos de explicação menores (menos edições estruturais). A abordagem nativa também é geralmente mais rápida, evitando problemas de escalabilidade e sobrecarga de memória associados à expansão de hipergrafos em grafos grandes.
• Vs. Métodos Nativos de Hipergrafos: Comparado a explicadores factuais como HyperEX e SHypX, o CF-HyperGNNExplainer alcança desempenho superior em métricas específicas de contrafactuais, particularmente a taxa de sucesso de inversão de rótulo ($Fid_{acc}^+$). Enquanto explicadores factuais se destacam em encontrar sub-hipergrafos que preservam a previsão original (baixo $Fid_{acc}^-$), o CF-HyperGNNExplainer é otimizado para alterar a previsão com intervenção mínima. A variante HP, em particular, mostra desempenho forte na alteração da distribuição preditiva enquanto mantém tamanhos de explicação pequenos.
• Sensibilidade a Hiperparâmetros: O estudo constata que taxas de aprendizado mais altas e mais épocas de otimização geralmente aumentam a taxa de sucesso de encontrar contrafactuais válidos, embora ao custo de tamanhos de explicação maiores. Uma estratégia de taxa de aprendizado adaptativa (especificamente a estratégia "1E" para NHP e "Po2" para HP) demonstra equilibrar efetivamente as taxas de sucesso e os tamanhos de explicação.

Significado
O artigo afirma que o CF-HyperGNNExplainer aborda uma lacuna crítica na IA Explicável (XAI) para dados relacionais de ordem superior. Ao fornecer um método que respeita a estrutura combinatória e a semântica das hiperarestas, ele permite que os usuários compreendam quais relações de ordem superior específicas são mais críticas para a decisão de uma HGNN. A capacidade de gerar contrafactuais mínimos e estruturalmente significativos (por exemplo, "Quais interações de ordem superior devem ser removidas para que o modelo altere sua decisão?") aumenta a confiança e a interpretabilidade, potencialmente facilitando a implantação de HGNNs em domínios de alto risco onde a compreensão do comportamento do modelo é essencial. O trabalho sublinha que transferir técnicas de explicação baseadas em grafos para hipergrafos não é trivial e requer formulações especializadas que levem em conta as propriedades únicas das interações de ordem superior.