Resumen Técnico: TreeX - Explicaciones a Nivel de Modelo para GNN mediante Lectura de Reglas a Grafo

Enunciado del Problema

Aunque las Redes Neuronales de Grafos (GNN) logran un rendimiento predictivo sólido, comprender su lógica de decisión sigue siendo un desafío. Los enfoques existentes se centran principalmente en explicaciones a nivel de instancia, identificando nodos o subgrafos específicos responsables de una única predicción. Sin embargo, las explicaciones locales no revelan si la evidencia se utiliza sistemáticamente en todo un conjunto de datos, si los modelos dependen de atajos espurios o cómo múltiples conceptos definen conjuntamente los límites de decisión a nivel de clase.

Los explicadores a nivel de modelo actuales suelen intentar identificar patrones de grafos o reglas simbólicas asociadas a una clase específica. Una limitación crítica de estos métodos es que tratan las reglas como descriptores de clase a posteriori en lugar de unidades computacionales funcionales. No explican cómo múltiples reglas producen conjuntamente la decisión final de la GNN ni reconstruyen los logits de predicción crudos del modelo. En consecuencia, carecen de la capacidad de realizar un análisis de contribución a nivel de regla durante la prueba o de explicar la supresión de clases competidoras.

Metodología: TreeX

Los autores proponen TreeX, un nuevo marco de explicación para GNN a nivel de modelo que desplaza el objetivo de la explicación desde la extracción de reglas por clase hacia la reconstrucción de logits basada en reglas. TreeX interviene en la interfaz de lectura (readout) de una GNN preentrenada, manteniendo congeladas las capas de paso de mensajes y la cabeza del clasificador, mientras reemplaza la lectura original de nodo a grafo por una lectura ponderada de regla a grafo.

La metodología consta de cuatro etapas principales:

1. Minería de Conceptos Inspirada en Subárboles

Para fundamentar las reglas globales en instancias locales, TreeX extrae conceptos de subgrafos desde los estados ocultos de la GNN:

• Minería Local: Los embebidos de nodos dentro de un grafo se agrupan. Cada grupo se convierte en un subgrafo de soporte agregando los campos receptivos de $l$-hop de sus nodos miembros (subárboles). Esto sesga los conceptos hacia evidencia estructuralmente estable en lugar de ruido.
• Minería Global: Los embebidos de conceptos locales se agrupan nuevamente para formar un banco de conceptos global. Se seleccionan subgrafos representativos utilizando un filtro lexicográfico mayoritario de dos etapas (basado en firmas de forma y grado) seguido de un desempate por distancia al centroide.
• Justificación Teórica: El artículo argumenta que para las MPNN más potentes (como GIN), el embebido del nodo en la $l$-ésima capa es una "Representación Perfecta de Árbol Raíz" del subárbol completo de $l$-hop, lo que justifica el uso de embebidos de nodos para representar subestructuras.

2. Aprendizaje de Reglas Neuro-Simbólicas

TreeX aprende reglas simbólicas sobre los conceptos globales de subgrafos utilizando una estructura CNF (Forma Normal Conjuntiva), específicamente una relajación OR-de-CNF:

• Descubrimiento por Clase: Las reglas se aprenden inicialmente de manera uno-contra-resto para cada clase objetivo. Los literales positivos ($P[k]$) y los literales negativos ($\neg P[k]$) se instancian basándose en el poder discriminatorio de los conceptos globales.
• Lógica Diferenciable: Se utiliza una parametrización de lógica diferenciable jerárquica. Las cláusulas se satisfacen mediante una t-conorma de Gödel (máximo sobre literales con puerta) y las reglas se forman mediante una operación AND suave de estilo producto entre cláusulas. La predicción de clase final utiliza una suma probabilística (OR-ruidoso) sobre las reglas candidatas.
• Fusión: Los candidatos de reglas específicos por clase se fusionan en un banco de reglas compartido unificado. Este diseño de dos etapas asegura el descubrimiento de reglas discriminatorias por clase mientras mantiene una estructura compartida para la reconstrucción multiclase.

3. Lectura de Regla a Grafo

La innovación central es reformular la capa de lectura:

• Embebidos de Reglas: Los embebidos de reglas se calculan agregando los embebidos de sus literales constituyentes (ponderados por las activaciones de las puertas). Los literales negativos se representan como los embebidos negados de sus contrapartes positivas.
• Reconstrucción de Logits: Las reglas activas se ponderan mediante un vector de pesos globales aprendido $w$. La combinación ponderada de los embebidos de reglas activas se pasa a través de la cabeza del clasificador congelada de la GNN base para reconstruir los logits multiclase crudos ($\hat{o}_G$).
• Objetivo: El modelo se entrena para minimizar el Error Cuadrático Medio (MSE) entre los logits reconstruidos y los logits crudos originales de la GNN.

4. Fundamentación y Análisis en Tiempo de Prueba

En tiempo de prueba, TreeX proyecta grafos no vistos en el espacio de conceptos compartido, evalúa las reglas fijas y produce explicaciones específicas para la instancia. Esto permite:

• Fundamentación: Mapear los literales satisfechos a evidencia concreta de subgrafos locales (para literales positivos) o a la ausencia de conceptos (para literales negativos).
• Ablación: Medir la contribución de cada regla anulando su peso y observando el cambio en los logits reconstruidos ($\Delta_{g,r}$).

Contribuciones Clave

1. Nuevo Objetivo de Explicación: Formula la explicación de GNN a nivel de modelo como reconstrucción de logits basada en reglas, yendo más allá de la simple asociación de patrones con etiquetas para explicar la generación de logits de predicción crudos.
2. Interfaz de Lectura Simbólica: Introduce una lectura de regla a grafo donde las reglas lógicas fundamentadas actúan como unidades computacionales. Los embebidos de reglas activas se agregan y se pasan a través del clasificador congelado para reconstruir logits multiclase.
3. Construcción de Reglas Fundamentada y Composicional: Extrae conceptos de subgrafos inspirados en subárboles para obtener embebidos continuos y evidencia concreta. Aprende reglas OR-de-CNF, que preservan realizaciones alternativas dentro de restricciones requeridas, ofreciendo mayor expresividad estructural que las formulaciones estilo DNF bajo el mismo presupuesto de reglas.
4. Explicaciones Funcionales y Fieles: Demuestra que las reglas críticas identificadas apoyan activamente la clase predicha y suprimen las clases no objetivo, actuando como unidades funcionales en lugar de meros artefactos a posteriori.

Resultados Experimentales

TreeX fue evaluado en tres conjuntos de datos sintéticos (BA-2Motifs, BAMultiShapes, BA-Neg) y dos conjuntos de datos moleculares del mundo real (Mutagenicity, NCI1).

• Fidelidad de Logits: TreeX reconstruye fielmente los logits multiclase crudos de la GNN base, logrando una alta Fidelidad de Probabilidad Absoluta (APF) (por ejemplo, >97% en BA-2Motifs, >75% en conjuntos de datos del mundo real).
• Impacto de las Reglas: Los estudios de ablación muestran que las reglas activas principales aumentan consistentemente el logit de la clase objetivo mientras suprimen las clases no objetivo, confirmando su papel funcional en el proceso de decisión.
• Necesidad del Diseño: Las ablaciones confirman que eliminar el módulo de reglas, el paso de fusión o los literales negativos degrada significativamente el rendimiento, particularmente en la reconstrucción de logits crudos.
• Eficiencia y Comparación: En comparación con explicadores basados en reglas por clase anteriores (LogicXGNN, GLGExplainer, GraphTrail), TreeX logra una Concordancia de Predicción (PA) competitiva o superior, siendo hasta 20 veces más rápido. A diferencia de las líneas base, TreeX proporciona pesos de reglas, fundamentación en tiempo de prueba y análisis de contribución a nivel de logits.

Significado y Afirmaciones

El artículo afirma que TreeX proporciona un marco de explicación global, instantiable en tiempo de prueba y fundamentado en subgrafos. Al desplazar el enfoque hacia la reconstrucción de logits, TreeX ofrece una evaluación más rigurosa de la explicabilidad: las reglas no son solo descriptivas, sino que se demuestra que son unidades funcionales que moldean activamente el margen de decisión.

Los autores enfatizan que TreeX no es meramente una herramienta de resumen a posteriori, sino un mecanismo que revela cómo la lógica de decisión de una GNN puede descomponerse en reglas simbólicas reutilizables y ponderadas. Este enfoque permite analizar cómo las reglas apoyan las clases predichas y suprimen a los competidores, abordando una brecha en la interpretabilidad a nivel de modelo actual donde la interacción entre múltiples reglas y el límite de decisión final permanece opaca. El marco sugiere una ruta más amplia para explicar modelos neuronales mediante la identificación de conceptos interpretables por humanos, su composición en reglas simbólicas y el uso de estas reglas como unidades a nivel de lectura para reconstruir el comportamiento del modelo.