Resumen Técnico: Nunca saltes un lote: Aprendizaje denso de TGNs mediante supervisión pseudo-adaptativa

1. Planteamiento del problema

Las Redes de Grafos Temporales (TGNs) son modelos de vanguardia para tareas de grafos dinámicos, pero su eficiencia de entrenamiento se ve gravemente perjudicada por la escasez de supervisión en conjuntos de datos del mundo real. En muchos problemas aplicados (p. ej., recomendación, detección de fraude), las interacciones etiquetadas constituyen menos del 2% del total de eventos. En consecuencia, las implementaciones estándar de TGN procesan los lotes en dos modos distintos:

1. Lotes supervisados: Pasos de entrenamiento completos que involucran actualizaciones de gradiente y actualizaciones de memoria.
2. Lotes no supervisados: Solo ocurren actualizaciones de memoria y del muestreador de vecinos; no se realiza ningún entrenamiento basado en gradientes porque no existen etiquetas de verdad fundamental (ground-truth).

Este comportamiento de "saltar un lote" crea un cuello de botella significativo. El modelo omite actualizaciones de parámetros para la gran mayoría de los datos, lo que genera actualizaciones de gradiente de alta varianza cuando las etiquetas finalmente están disponibles y una lenta convergencia en tiempo de ejecución (wall-clock). El artículo postula que las preferencias de los nodos evolucionan lentamente, lo que sugiere que las señales de supervisión históricas pueden aprovecharse para generar objetivos pseudo-informativos para estos lotes que, de otro modo, estarían inactivos.

2. Metodología: Etiquetas de Promedio Móvil (MAL)

Los autores proponen las Etiquetas de Promedio Móvil (MAL), un esquema de pseudo-etiquetado que genera objetivos suaves (soft targets) para lotes no supervisados basados en señales de supervisión históricas. Este enfoque es ortogonal a la arquitectura del modelo subyacente (p. ej., TGNv2, DyRep) y no introduce parámetros aprendibles adicionales.

Mecanismo central

Para un nodo $v$ en un lote $B_t$ que carece de etiquetas de verdad fundamental, MAL construye un pseudo-objetivo $\tilde{y}^{(v)}_t$ utilizando objetivos observados en el pasado. El pseudo-objetivo se define como:
$$\tilde{y}^{(v)}_t = \bar{y}^{(v)}_t + \gamma \cdot \epsilon$$
Donde:

• $\bar{y}^{(v)}_t$ es un agregado de los objetivos históricos.
• $\epsilon$ es ruido de media cero muestreado de una distribución uniforme, normalizado para asegurar que $\tilde{y}^{(v)}_t$ siga siendo una distribución de probabilidad válida (suma 1).
• $\gamma$ es un factor de escala de ruido que actúa como regularizador.

Estrategias de agregación

El artículo evalúa tres estrategias para computar el agregado histórico $\bar{y}^{(v)}_t$:

1. Pronóstico Persistente (PF): Reutiliza la etiqueta observada más reciente para el nodo.
2. Promedio Móvil (MA): Actualiza incrementalmente la pseudo-etiqueta utilizando un tamaño de ventana $w$. Cuando llega un nuevo objetivo $y^{(v)}_t$, el agregado se actualiza como:
   $$\bar{y}^{(v)}_t = \frac{w-1}{w}\bar{y}^{(v)}_{t-1} + \frac{1}{w}y^{(v)}_t$$
3. Promedio Histórico (HA): Agrega todos los objetivos pasados con igual peso (línea base teórica).

Flujo de entrenamiento

El método modifica el bucle de entrenamiento estándar de TGN. Cuando llega un lote sin etiquetas de verdad fundamental, el modelo computa los pseudo-objetivos $\tilde{y}$ utilizando la estrategia de agregación elegida. El modelo realiza entonces un pase hacia adelante (forward pass) completo, computa la pérdida de entropía cruzada contra estas pseudo-etiquetas y realiza la retropropagación para actualizar tanto los parámetros de la GNN como los módulos de memoria. Esto transforma la computación "inactiva" en pasos de entrenamiento productivos.

3. Análisis Teórico

El artículo proporciona una justificación teórica de por qué MAL mejora la velocidad de convergencia al reducir la varianza de los gradientes estocásticos.

• Reducción de la varianza: Bajo el supuesto de preferencias de usuario constantes (o de deriva lenta), los autores modelan la generación de etiquetas como un proceso donde las etiquetas reales son vectores one-hot. Demuestran que agregar $h$ etiquetas históricas (Promedio Histórico) reduce la varianza del estimador de la etiqueta en comparación con una sola observación.
• Límite de convergencia: Para el Gradiente Descendente Estocástico (SGD) con una pérdida $\mu$-fuertemente convexa, el límite de arrepentimiento (regret bound) $R_T$ es proporcional a la varianza del gradiente $\sigma^2$. Los autores derivan que para las Etiquetas de Promedio Histórico (HA), la varianza escala con $\frac{1}{\min(h, k)}$, donde $h$ es la longitud del historial y $k$ es el número de posibles clases de interacción.
• Resultado: Esto implica una aceleración teórica en la convergencia de un factor de $\min(h, k)$ en comparación con el entrenamiento convencional, siempre que se cumpla el supuesto de consistencia temporal.

4. Resultados Experimentales

Los autores evaluaron MAL en el Temporal Graph Benchmark (TGB) utilizando cuatro conjuntos de datos a gran escala: tgbn-trade, tgbn-genre, tgbn-reddit y tgbn-token. Implementaron MAL en TGNv2 y un DyRepv2 modificado (incorporando la identificación de origen-destino de TGNv2).

Hallazgos clave

• Desempeño Predictivo: MAL superó consistentemente al entrenamiento convencional y a otras líneas base. En el modelo TGNv2, el Promedio Móvil (MA) logró mejoras en NDCG@10 que oscilan entre el 3% y el 17% en los conjuntos de datos en comparación con el entrenamiento convencional.
• Velocidad de Convergencia: La ganancia más significativa fue en la eficiencia de entrenamiento. MAL redujo el tiempo para alcanzar la precisión (tiempo para alcanzar la puntuación máxima) en un promedio de 6× en todos los conjuntos de datos. En algunos casos (p. ej., tgbn-token), el método alcanzó el desempeño de un modelo convencional totalmente convergido en una fracción del tiempo.
• Comparación con Líneas Base:
  • Modelos Convencionales: Muchas arquitecturas existentes (JODIE, TGAT, CAW-N, etc.) colapsaron hacia soluciones triviales (desempeñándose de forma similar a una línea base de objetivo medio) en los conjuntos de datos TGB sin las mejoras arquitectónicas específicas de TGNv2.
  • Pseudo-etiquetado Alternativo: MAL superó al Pronóstico Persistente (PF), al Suavizado de Etiquetas (Label Smoothing) y a las estrategias de predicción de siguiente arista de Aprendizaje Auto-supervisado (SSL).
  • Tamaño de Ventana: Un estudio de ablación mostró que los tamaños de ventana óptimos varían según el conjunto de datos (p. ej., $w=3$ para trade, $w=9$ para Reddit), pero un valor por defecto de $w=7$ proporcionó un desempeño robusto en general.
• Robustez:
  • Ruido: El método se mantuvo estable ante diversos factores de ruido ($\gamma$).
  • Reordenamiento Temporal (Temporal Shuffling): Cuando se reordenaron las etiquetas de entrenamiento (destruyendo la consistencia temporal), el desempeño cayó significamente para todos los métodos, confirmando que las ganancias provienen de la consistencia temporal y no de una mera regularización.
  • Escasez: Bajo la eliminación controlada de etiquetas, la ventaja relativa de MAL sobre el entrenamiento convencional aumentó a medida que la supervisión se volvió más escasa.

5. Significado y Reivindicaciones

El artículo afirma abordar una ineficiencia fundamental en el aprendizaje de grafos dinámicos: el desperdicio de recursos computacionales en lotes no supervisados.

• Cambio de Paradigma: El trabajo cambia el paradigma de "entrenar solo cuando hay supervisión" a "entrenar siempre, extrapolando inteligentemente".
• Eficiencia sin Complejidad: El método logra resultados de vanguardia (SOTA) y aceleraciones significativas sin modificar la arquitectura del modelo, añadir parámetros aprendibles o requerir una etapa de pre-entrenamiento separada.
• Fundamentación Teórica: Proporciona una prueba teórica de que la agregación de la supervisión histórica reduce la varianza del gradiente, lo que conduce a una convergencia más rápida bajo supuestos de estabilidad temporal moderados.
• Impacto Práctico: Al permitir el aprendizaje denso en datos dispersos, MAL hace que el entrenamiento de modelos de grafos temporales a gran escala sea significativamente más rápido y efectivo, particularmente en dominios donde los eventos etiquetados son raros.

Los autores concluyen que la consistencia temporal es una señal de supervisión no aprovechada que, cuando se utiliza mediante promedios móviles simples, ofrece una solución fundamentada y ligera a la escasez de gradientes en el aprendizaje de grafos temporales.