Resumen Técnico: Aprendizaje Semántico de Resolución Cruzada para la Adaptación de Dominios en Grafos

Definición del Problema

El artículo aborda la Adaptación de Dominios en Grafos (GDA), la tarea de transferir conocimiento predictivo de un dominio de grafo etiquetado de origen a un dominio de destino no etiquetado bajo cambios de distribución. Mientras que los métodos existentes se centran en alinear representaciones o regularizar estructuras de grafos, los autores identifican una limitación crítica y no abordada: el Desplazamiento de Resolución Semántica.

En GDA, la "resolución de propagación" se refiere al rango de vecindad codificado por una representación de grafo (por ejemplo, 0 saltos para características de nodos, 1 salto para vecinos inmediatos, etc.). Los autores observan que la resolución de propagación en la que la evidencia discriminativa de clase es más fuerte suele diferir entre los dominios de origen y de destino. Por ejemplo, una característica aprendida a un rango de 1 salto en el dominio de origen podría ser más informativa a un rango de 2 saltos en el dominio de destino. Los métodos existentes suelen imponer una transferencia implícita de misma resolución, asumiendo que el conocimiento aprendido en la resolución $r$ en el origen se aplica mejor en la resolución $r$ en el destino. Esta suposición conduce a un rendimiento subóptimo y a la transferencia negativa cuando las resoluciones óptimas no coinciden.

El desafío central es aprender una correspondencia de resolución suave de origen-a-destino sin etiquetas de destino, mientras se gestionan tres dificultades específicas:

1. Representaciones de Resolución Comparables: Preservar evidencia distinta para diferentes resoluciones dentro de un espacio latente compartido sin borrar la identidad de la resolución.
2. Correspondencia sin Etiquetas de Destino: Inferir la compatibilidad de resolución sin información de verdad fundamental, evitando el problema de la "estimación acoplada" donde las asignaciones rígidas prematuras refuerzan los errores.
3. Transferencia a Nivel de Instancia bajo Incertidumbre de Clase: Aplicar la correspondencia de resolución global a grafos de destino individuales cuya pertenencia de clase es incierta, evitando asignaciones rígidas que desplacen las representaciones hacia regiones semánticas incorrectas.

Metodología: CReSL

Los autores proponen Aprendizaje Semántico de Resolución Cruzada (CReSL), un marco diseñado para aprender y explotar correspondencias de resolución cruzada. El método consta de tres componentes principales:

1. Banco de Representaciones Multiresolución con Expertos de Origen

Para capturar evidencia a través de diferentes rangos de vecindad, CReSL construye un banco de representaciones utilizando un codificador de Red Neuronal de Grafo (GNN) compartido y embeddings de resolución aprendibles.

• Codificación de Resolución: Para un grafo $G$, las características se propagan en múltiples órdenes predefinidos $R = \{r_0, \dots, r_J\}$ (por ejemplo, 0, 1, 2, 4 saltos).
• Espacio Compartido: Un codificador compartido $\Phi_\theta$ procesa estas entradas multiresolución. Para mantener la identidad de la resolución, se concatenan embeddings aprendibles $E_{res}$ con las características de los nodos antes de la codificación.
• Expertos de Origen: Cada resolución de origen $j$ está asociada con un experto lineal ligero $h_j$. Un peso de mezcla global $\alpha_j$ determina la contribución de cada experto. Esta configuración permite al modelo evaluar las representaciones de destino en cualquier resolución $k$ utilizando el experto entrenado en la resolución de origen $j$, permitiendo el enrutamiento de resolución cruzada.

2. Transporte de Prototipos de Resolución Cruzada (CRPT)

Este módulo aprende la correspondencia suave entre las resoluciones de origen y destino analizando las estructuras condicionales de clase.

• Construcción de Prototipos: Los prototipos de clase-resolución se construyen para el origen (usando etiquetas de verdad fundamental) y el destino (usando posteriores suaves).
  • Prototipo de origen $\mu^s_{c,j}$: Media de las representaciones de origen para la clase $c$ en la resolución $j$.
  • Prototipo de destino $\mu^t_{c,k}$: Media ponderada por probabilidad de las representaciones de destino para la clase $c$ en la resolución $k$.
• Medición de Discrepancia: La compatibilidad entre la resolución de origen $j$ y la resolución de destino $k$ se mide mediante la distancia euclidiana promedio por clase de sus prototipos ($D_{j,k}$).
• Matriz de Enrutamiento: Una matriz de enrutamiento suave $\Gamma$ se actualiza mediante la normalización softmax por fila de las discrepancias negativas. Esta matriz dicta cuánto peso debe dar el experto de origen $h_j$ a la resolución de destino $k$.
• Objetivo: La pérdida CRPT minimiza la discrepancia de prototipos ponderada por el enrutamiento, fomentando que el modelo enrute los expertos hacia las resoluciones de destino compatibles.

3. Injerto de Destino de Resolución Cruzada (CRTG)

Para adaptar grafos de destino individuales bajo incertidumbre de clase, el CRTG traduce la correspondencia global en ajustes específicos de instancia.

• Desplazamiento de Prototipo: Para cada clase $c$ y par de resolución $(j, k)$, se calcula un vector de desplazamiento $\Delta^{j \leftarrow k}_c = \mu^s_{c,j} - \mu^t_{c,k}$, que representa el cambio desde el prototipo de destino hacia el de origen.
• Mezcla Ponderada por Posterior: Para un grafo de destino $G^t_i$, el desplazamiento es una suma ponderada de desplazamientos condicionados por la clase basada en el posterior predicho actual $p^t_{i,c}$. Esto evita la asignación rígida de clases.
• Injerto (Grafting): La representación de destino en la resolución $k$ se "injerta" hacia la estructura de origen añadiendo el desplazamiento ponderado: $\tilde{z}^{j \leftarrow k}_{G^t_i} = z^{(k)}_{G^t_i} + \beta \Delta^{j \leftarrow k}_i$.
• Objetivo de Consistencia: Una pérdida de divergencia KL impone que la predicción de la representación injertada (a través del experto $h_j$) se alinee con el posterior agregado del destino, ponderado por la matriz de enrutamiento $\Gamma$.

Contribuciones Clave

1. Formulación del Problema: El artículo define formalmente el Desplazamiento de Resolución Semántica en GDA como el cambio trans-dominio en el perfil de resolución de la evidencia discriminativa de clase, identificando las limitaciones de la transferencia de misma resolución fija.
2. Marco CReSL: Los autores proponen un método novedoso que presenta:
   • Un banco de representaciones multiresolución con expertos específicos de resolución.
   • CRPT: Un mecanismo para aprender la correspondencia suave de resolución cruzada utilizando prototipos de clase-resolución sin etiquetas de destino.
   • CRTG: Un mecanismo de injerto condicionado por el posterior que realiza la adaptación a nivel de instancia bajo incertidumbre de clase.
3. Validación Empírica: Experimentos extensos en tareas de clasificación de grafos bajo diversos desplazamientos de dominio (estructurales y basados en características) demuestran que CReSL supera a los estados del arte de referencia.

Resultados Experimentales

Los autores evaluaron CReSL en varios conjuntos de datos, incluyendo Mutagenicity, PROTEINS, NCI1, ogbg-molhiv, DD, BZR y COX2, bajo desplazamientos de densidad de nodos/bordes y desplazamientos de distribución de características.

• Rendimiento: CReSL logró el mejor rendimiento en la mayoría de los escenarios, superando a bases sólidas como GAA, TDSS, DEAL y GNN estándar (GCN, GIN).
• Estudios de Ablación: Eliminar el banco multiresolución (CReSL w/o MR) o el enrutamiento aprendido (CReSL w/o CRR) degradó significamente el rendimiento, confirmando la necesidad de manejar los desplazamientos de resolución. Eliminar CRPT o CRTG también provocó caídas en el rendimiento, validando sus roles complementarios en la alineación de estructuras de clase y el refinamiento de representaciones a nivel de instancia.
• Análisis:
  • Correspondencia: Las visualizaciones mostraron que la matriz de enrutamiento aprendida $\Gamma$ coincidía estrechamente con una matriz "oráculo" (calculada con etiquetas de destino), identificando correctamente que, por ejemplo, los expertos de origen de 0 y 1 salto deben enrutar hacia resoluciones de destino de 2 saltos.
  • Injerto (Grafting): Las visualizaciones de t-SNE demostraron que CRTG mueve eficazmente las representaciones de destino dispersas hacia cúmulos de clase compactos y alineados con el origen sin una traslación uniforme, preservando los matices específicos de cada instancia.

Significado y Reivindicaciones

El artículo afirma que CReSL hace avanzar el campo de la Adaptación de Dominios en Grafos al modelar explícitamente el desajuste en las resoluciones de propagación entre dominios. A diferencia de los métodos anteriores que alinean representaciones a un solo nivel de dominio o asumen pares de resolución fijos, CReSL aprende una correspondencia suave y basada en datos que enruta el conocimiento de origen hacia las resoluciones de destino más compatibles.

Los autores enfatizan que su enfoque:

• Evita la transferencia negativa causada por forzar que el conocimiento aprendido en una resolución se aplique a la misma resolución en el destino.
• Gestiona la incertidumbre de clase en el dominio de destino utilizando posteriores suaves tanto para el aprendizaje de la correspondencia como para el injerto a nivel de instancia, en lugar de depender de etiquetas pseudo-etiquetas rígidas.
• Proporciona un límite teórico sobre el riesgo de destino, mostrando que minimizar la discrepancia de prototipos de resolución cruzada y la inconsistencia de injerto estrecha el límite de generalización.

El trabajo concluye que abordar explícitamente el desplazamiento de resolución semántica es crucial para una GDA efectiva y sugiere direcciones futuras para extender estos conceptos a espacios de resolución continuos.