Counterfactual Explanations for Hypergraph Neural Networks

Problema
Las Redes Neuronales de Hipérgrafos (HGNNs) son modelos potentes capaces de capturar interacciones de orden superior (HOIs) en sistemas complejos, como equipos de coautoría o complejos bioquímicos, donde los resultados dependen de grupos de entidades y no únicamente de relaciones binarias. Sin embargo, a pesar de su eficacia, las HGNNs sufren de una interpretabilidad limitada, lo que obstaculiza su despliegue en entornos de alto riesgo. Aunque las explicaciones contrafactuales (CF)—que identifican los cambios mínimos en la entrada necesarios para alterar la predicción de un modelo—han avanzado significativamente para las Redes Neuronales de Grafos (GNNs) estándar, no pueden aplicarse directamente a los hipérgrafos. Los métodos basados en grafos existentes dependen de matrices de adyacencia que representan enlaces binarios, mientras que los hipérgrafos utilizan estructuras de incidencia para codificar conjuntos de nodos de tamaño arbitrario. Reducir directamente las hiperaristas a enlaces binarios altera el significado semántico de las interacciones. En consecuencia, existe una falta de herramientas dedicadas para generar contrafactuales estructurales válidos y mínimos para HGNNs que respeten su naturaleza discreta y de orden superior.

Metodología
Los autores proponen CF-HyperGNNExplainer, el primer método de explicación contrafactual diseñado específicamente para HGNNs. El enfoque adapta el marco de optimización de CF-GNNExplainer al dominio de los hipérgrafos mediante la búsqueda de la edición estructural más pequeña en la matriz de incidencia que invierta la predicción de un modelo entrenado.

El método opera introduciendo una matriz de perturbación aprendible, $\Pi$, que actúa como una máscara diferenciable sobre la estructura de incidencia del hipérgrafo. La optimización central minimiza una función de pérdida compuesta por dos términos: una pérdida de predicción que fomenta que el modelo invierta su predicción original, y un término de regularización de distancia que asegura que el hipérgrafo perturbado permanezca cercano al original. Para manejar la naturaleza discreta de los hipérgrafos, el método optimiza una relajación continua de la máscara (utilizando una función sigmoide) y aplica un umbral (0.5) en el momento de la evaluación para producir ediciones binarias accionables.

El artículo introduce dos variantes distintas del método, que difieren en la granularidad de las ediciones estructurales:

1. Perturbación Nodo-Hiperarista (NHP): Esta variante apunta a incidencias específicas nodo-hiperarista. Aprende un vector de coeficientes para un nodo objetivo, permitiéndole eliminar selectivamente la participación de dicho nodo en hiperaristas específicas sin alterar las incidencias de otros nodos.
2. Perturbación de Hiperarista (HP): Esta variante apunta a hiperaristas completas dentro del vecindario de $n$-saltos de un nodo objetivo. Aprende un coeficiente para cada hiperarista, eliminando efectivamente toda la hiperarista y suprimiendo todas las interacciones mediadas por ella para todos los nodos participantes.

El proceso de optimización vuelve a calcular dinámicamente los grados de los nodos y las hiperaristas cada vez que se modifica la estructura de incidencia para mantener una normalización consistente. Los autores también emplean una estrategia de tasa de aprendizaje adaptativa para manejar casos en los que el modelo es excesivamente confiado, ajustando la tasa de aprendizaje en función del paisaje de pérdida y las épocas de optimización restantes.

Contribuciones Clave

1. Primer método CF para HGNNs: El artículo introduce CF-HyperGNNExplainer, la primera técnica de explicación contrafactual adaptada específicamente a las restricciones estructurales de las redes neuronales de hipérgrafos.
2. Variantes Granulares: Los autores proponen y evalúan dos variantes (NHP y HP) que ofrecen diferentes niveles de control, desde ediciones nodo-hiperarista de alta granularidad hasta la eliminación de hiperaristas de baja granularidad.
3. Evaluación Empírica: El método se evalúa en una amplia gama de conjuntos de datos de referencia de hipérgrafos (incluyendo Cora, Citeseer, Pubmed, DBLP y otros) de la colección AllSet.
4. Análisis Comparativo: El estudio proporciona comparaciones extensas contra:
   • Líneas base basadas en grafos: Específicamente CF-GNNExplainer aplicado a hipérgrafos expandidos en estrellas.
   • Líneas base nativas de hipérgrafos: Métodos existentes de explicabilidad como HyperEX y SHypX (aunque estos son explicadores fácticos, no contrafactuales).
5. Código Abierto: Los autores liberan la base de código completa para fomentar la reproducibilidad.

Resultados
Experimentos extensos demuestran que CF-HyperGNNExplainer genera contrafactuales válidos y concisos:

• Vs. Métodos basados en grafos: Al compararse con CF-GNNExplainer (aplicado a grafos expandidos en estrellas), el enfoque nativo de hipérgrafos logra tasas de éxito significativamente más altas en la inversión de predicciones y produce tamaños de explicación más pequeños (menos ediciones estructurales). El enfoque nativo también es generalmente más rápido, evitando los problemas de escalabilidad y la sobrecarga de memoria asociadas con la expansión de hipérgrafos en grafos grandes.
• Vs. Métodos nativos de hipérgrafos: En comparación con explicadores fácticos como HyperEX y SHypX, CF-HyperGNNExplainer logra un rendimiento superior en métricas específicas de contrafactuales, particularmente la tasa de éxito de inversión de etiquetas ($Fid_{acc}^+$). Mientras que los explicadores fácticos destacan en encontrar sub-hipergrafos que preservan la predicción original (baja $Fid_{acc}^-$), CF-HyperGNNExplainer está optimizado para alterar la predicción con una intervención mínima. La variante HP, en particular, muestra un rendimiento sólido en la alteración de la distribución predictiva manteniendo tamaños de explicación pequeños.
• Sensibilidad a Hiperparámetros: El estudio encuentra que tasas de aprendizaje más altas y más épocas de optimización generalmente aumentan la tasa de éxito de encontrar contrafactuales válidos, aunque a costa de tamaños de explicación más grandes. Una estrategia de tasa de aprendizaje adaptativa (específicamente la estrategia "1E" para NHP y "Po2" para HP) demuestra equilibrar efectivamente las tasas de éxito y los tamaños de explicación.

Significado
El artículo afirma que CF-HyperGNNExplainer aborda una brecha crítica en la Inteligencia Artificial Explicable (XAI) para datos relacionales de orden superior. Al proporcionar un método que respeta la estructura combinatoria y la semántica de las hiperaristas, permite a los usuarios comprender qué relaciones de orden superior específicas son más críticas para la decisión de una HGNN. La capacidad de generar contrafactuales mínimos y estructuralmente significativos (por ejemplo, "¿Qué interacciones de orden superior deben eliminarse para que el modelo cambie su decisión?") mejora la confianza y la interpretabilidad, facilitando potencialmente el despliegue de HGNNs en dominios de alto riesgo donde comprender el comportamiento del modelo es esencial. El trabajo subraya que transferir técnicas de explicación basadas en grafos a hipérgrafos no es trivial y requiere formulaciones especializadas que tengan en cuenta las propiedades únicas de las interacciones de orden superior.