TACENR: Task-Agnostic Contrastive Explanations for Node Representations

1. Planteamiento del Problema

El aprendizaje de representaciones de grafos (Graph Representation Learning) ha tenido un éxito notable al codificar datos estructurados en espacios vectoriales latentes para tareas como clasificación de nodos o predicción de enlaces. Sin embargo, estas representaciones son "cajas negras":

• Falta de interpretabilidad: Las dimensiones de los vectores resultantes no corresponden a estructuras significativas del grafo de entrada.
• Limitaciones de los métodos existentes: Las técnicas actuales de explicabilidad se centran principalmente en:
  1. Escenarios supervisados: Explicar predicciones específicas (ej. por qué un nodo fue clasificado como "A").
  2. Dimensiones individuales: Explicar por qué un valor específico en un vector es alto, en lugar de explicar la representación del nodo como un todo.
  3. Alcance parcial: Suelen enfocarse solo en una tipo de relación (proximidad, estructura o atributos), ignorando la integración de los tres factores que definen la representación de un nodo.

Existe una brecha crítica en la capacidad de explicar la estructura global de las representaciones de nodos de manera independiente a cualquier tarea downstream (task-agnostic).

2. Metodología: TACENR

Los autores proponen TACENR (Task-Agnostic Contrastive Explanations for Node Representations), un método de explicación local que identifica qué características contribuyen más a la posición de un nodo en el espacio de representación.

Componentes Clave:

• Enfoque de Contraste: TACENR no explica el nodo aislado, sino su relación con otros nodos. Construye un modelo interpretable que aprende una función de similitud en el espacio de representación.
• Conjunto de Características Explicativas: Para explicar la representación de un nodo $v$, el método enriquece la información con tres tipos de características:
  1. Atributos del nodo: Características originales (ej. texto, propiedades biológicas).
  2. Características de Proximidad: Métricas de distancia o difusión (ej. distancia de camino más corto, PageRank Personalizado - PPR).
  3. Características Estructurales: Rol del nodo en la topología (ej. grado, coeficiente de agrupamiento, triángulos, grado promedio de vecinos).
• Mecanismo de Aprendizaje:
  • Se define un conjunto de afinidad ($S^+_v$): nodos con representaciones similares a $v$.
  • Se define un conjunto de divergencia ($S^-_v$): nodos con representaciones muy diferentes a $v$.
  • Se entrena un modelo sustituto (por defecto, Regresión Lineal) para predecir la similitud entre $v$ y otros nodos basándose en sus características combinadas ($h_{v,u}$).
  • El objetivo es minimizar la discrepancia entre la similitud real en el espacio latente y la similitud predicha por el modelo interpretable.

Función de Similitud Ponderada:

Para mejorar la calidad de la explicación, TACENR introduce una variante ponderada de la similitud coseno:

• En entornos supervisados: Los pesos se derivan de los gradientes del modelo GNN entrenado, priorizando las dimensiones más correlacionadas con la etiqueta predicha.
• En entornos no supervisados: Los pesos se basan en la varianza global de cada dimensión, priorizando aquellas que distinguen mejor a los nodos en ausencia de etiquetas.

3. Contribuciones Clave

1. Explicación Task-Agnostic: Es el primer método diseñado para explicar la representación completa de un nodo sin depender de una tarea específica downstream.
2. Integración Holística: A diferencia de trabajos previos que se centran en subgrafos o dimensiones aisladas, TACENR cuantifica simultáneamente la importancia de la proximidad, la estructura y los atributos.
3. Versatilidad: Funciona tanto con modelos no supervisados (como node2vec, role2vec) como supervisados (GCN, GAT, GraphSAGE).
4. Análisis de Arquitectura: Permite entender cómo diferentes arquitecturas de aprendizaje (ej. caminatas aleatorias vs. agregación de vecinos) codifican información estructural.

4. Resultados Experimentales

Los autores evaluaron TACENR en conjuntos de datos reales (Cora, CiteSeer, PubMed, PPI) y sintéticos (BA-Shapes).

• Descubrimientos sobre la Estructura de Representación:

  • Las características estructurales y de proximidad juegan un papel fundamental, a menudo superando a los atributos del nodo.
  • node2vec: La proximidad es dominante, confirmando que captura patrones de co-ocurrencia local.
  • GNNs (GCN, GAT, GraphSAGE): Las características relacionadas con el vecindario local (grado promedio de vecinos, coeficiente de agrupamiento) son las más influyentes, lo cual es coherente con su mecanismo de agregación.
  • BA-Shapes: El método logró distinguir correctamente entre nodos de "motivos" (estructura local densa) y nodos de la red base (roles globales), identificando que los primeros dependen de triángulos y grado, mientras que los segundos dependen de medidas de difusión global (PPR).

• Comparación con Métodos Específicos de Tarea:

  • Se comparó la variante supervisada de TACENR contra métodos como GNNExplainer, GraphLIME y GraphSVX.
  • Métrica AOPC (Area Over the Perturbation Curve): TACENR demostró un rendimiento comparable o superior, indicando que las características identificadas son realmente críticas para el modelo.
  • Filtrado de Ruido: TACENR fue más efectivo asignando importancia a características ruidosas (añadidas artificialmente), manteniendo su puntuación de importancia cerca de cero, lo que demuestra robustez.

• Estudio de Ablación:

  • La ponderación de la similitud (basada en gradientes o varianza) mejora significativamente la calidad de la explicación (menor MSE).
  • La composición de los conjuntos de afinidad/divergencia es crucial: los entornos supervisados requieren más nodos similares (afinidad), mientras que los no supervisados se benefician de más nodos disímiles (divergencia) para capturar patrones estructurales.
  • La Regresión Lineal simple resultó ser el modelo sustituto más efectivo y interpretable en la mayoría de los casos.

5. Significado e Impacto

TACENR representa un avance significativo en la IA Explicable (XAI) para grafos al:

• Desmitificar el espacio latente de los modelos de grafos, permitiendo a los investigadores y practicantes entender qué información (estructural, de proximidad o atributos) está siendo codificada realmente.
• Proporcionar una herramienta de diagnóstico para validar si un modelo de aprendizaje de representaciones está capturando las propiedades del grafo que se esperan (ej. si un modelo diseñado para roles estructurales realmente aprende roles estructurales).
• Ofrecer un marco general que no requiere reentrenamiento del modelo original ni acceso a etiquetas de tareas downstream, facilitando su aplicación en escenarios de aprendizaje no supervisado y semi-supervisado.

En resumen, TACENR cierra la brecha entre la capacidad de los modelos de grafos para aprender representaciones complejas y la necesidad humana de comprender la lógica subyacente de esas representaciones de manera integral.