Resumen Técnico: Aprendizaje Auto-supervisado Consistente con Martingala

Enunciado del Problema

El aprendizaje auto-supervisado (SSL) se despliega ampliamente en escenarios donde la disponibilidad de información es dinámica, como al tratar con historias más cortas, características faltantes o imágenes parcialmente observadas. En estos entornos, un modelo suele ser consultado bajo múltiples "conjuntos de información" (por ejemplo, vistas gruesas frente a vistas refinadas). Un requisito fundamental para tales modelos es la coherencia: la predicción realizada bajo un conjunto de información grueso debe coincidir con la predicción esperada tras el refinamiento.

Matemáticamente, si $F_1 \subseteq F_2$ representan conjuntos de información anidados (donde $F_2$ contiene más información que $F_1$), y $g_\phi(x_F)$ es un predictor, la propiedad de martingala dicta:
$$E[g_\phi(x_{F_2}) \mid x_{F_1}] = g_\phi(x_{F_1})$$
Esto implica que, antes de observar información adicional, el modelo no debe esperar sistemáticamente que sus predicciones futuras se desvíen hacia arriba o hacia abajo. Los objetivos estándar de SSL (por ejemplo, aprendizaje contrastivo, reconstrucción enmascarada) suelen entrenar predictores para vistas individuales de forma independiente o imponen invarianza (haciendo que las vistas se vean similares). No imponen esta consistencia direccional, lo que potencialmente conduce a modelos que funcionan bien en vistas específicas pero carecen de coherencia global a través de conjuntos de información anidados.

Metodología

Los autores proponen un Marco de SSL Consistente con Martingala que impone la propiedad de martingala como un objetivo de entrenamiento.

1. Función Objetivo

La función de pérdida total combina una pérdida predictiva estándar con una penalización de consistencia de martingala:
$$\mathcal{L}_{total} = \mathcal{L}_{pred} + \lambda_{imp}\mathcal{L}_{imp} + \lambda_{mart}\mathcal{L}_{mart}$$

• Término Predictivo ($\mathcal{L}_{pred}$): Una pérdida SSL estándar (por ejemplo, entropía cruzada de clasificación o MSE de reconstrucción) aplicada a la vista refinada (completa).
• Término de Martingala ($\mathcal{L}_{mart}$): Este término penaliza las desviaciones de la identidad de martingala. Requiere muestrear conjuntos de información anidados $F_1 \subseteq F_2$. La pérdida se define como:
  $$\mathcal{L}_{mart} = \mathbb{E}_{F_1 \subseteq F_2} \left[ \| g_\phi(x_{F_1}) - \mathbb{E}[g_\phi(x_{F_2}) \mid x_{F_1}] \|^2 \right]$$
• Pérdida de Imputación ($\mathcal{L}_{imp}$): Una pérdida auxiliar utilizada para entrenar una red imputadora $q_\psi$ que aproxima la distribución condicional de la entrada completa dada la vista parcial.

2. Estimador de Monte Carlo de Dos Muestras Insesgado

Calcular directamente la esperanza condicional $\mathbb{E}[g_\phi(x_{F_2}) \mid x_{F_1}]$ es intratable. Un promedio de Monte Carlo ingenuo introduce sesgo debido a la varianza. Los autores proponen un estimador de dos muestras insesgado:

1. Dada una vista gruesa $x_{F_1}$, muestrear dos refinamientos condicionalmente independientes $x^{(a)}_{F_2}$ y $x^{(b)}_{F_2}$ utilizando el imputador aprendido $q_\psi$.
2. Calcular la predicción gruesa $u = g_\phi(x_{F_1})$ y las predicciones refinadas $v_a = g_\phi(x^{(a)}_{F_2})$, $v_b = g_\phi(x^{(b)}_{F_2})$.
3. El estimador es:
   $$\hat{\mathcal{L}}^{2MC}_{mart} = (u - v_a)^\top (u - v_b)$$
   El análisis teórico (Apéndice B.1) demuestra que este estimador es insesgado para el error cuadrático de la identidad de martingala.

3. Variantes de Implementación

El marco se instancia en dos espacios principales:

• Espacio de Predicción: La penalización de martingala se aplica directamente a las predicciones de salida del modelo.
• Espacio Latente: La penalización se aplica a las representaciones latentes del codificador ($z_{F_1}$ vs. $z_{F_2}$). Esto es particularmente útil para datos de alta dimensión (imágenes, secuencias largas) donde imponer consistencia en el espacio de observación es poco práctico.
• Objetivos EMA: Para estabilizar el entrenamiento, los objetivos refinados ($v_a, v_b$ o $z_a, z_b$) pueden calcularse utilizando una copia de la red con Promedio Móvil Exponencial (EMA), evitando la inestabilidad de objetivos móviles.

Contribuciones Clave

1. Identificación de una Brecha Estructural: El artículo identifica que el SSL estándar trata a los predictores como una familia de esperanzas condicionales indexadas por conjuntos de información, pero falla en imponer las relaciones de consistencia necesarias (propiedad de martingala) entre ellos.
2. Receta de Entrenamiento Práctica: Los autores introducen un método para imponer consistencia de martingala sin rediseño específico de modalidad. Esto incluye penalizaciones en el espacio de predicción y latente, y el estimador de Monte Carlo de dos muestras insesgado basado en refinamiento estocástico.
3. Validación Empírica: El marco se evalúa en benchmarks temporales, tabulares e de imágenes, tanto en configuraciones semi-auto-supervisadas (con etiquetas) como totalmente auto-supervisadas (sin etiquetas).

Resultados Experimentales

El marco se probó en conjuntos de datos sintéticos y del mundo real, incluyendo series temporales (UCI HAR, Tráfico, Acciones), datos tabulares (Adult, Marketing Bancario) e imágenes (CIFAR-10, STL-10).

• Robustez bajo Observación Parcial: Imponer consistencia de martingala mejoró consistentemente la precisión de la sonda aguas abajo cuando la cantidad de información observada se redujo (niveles de completitud bajos $c \in \{0.05, 0.2, \dots, 0.8\}$).
  • Series Temporales: En la configuración semi-auto-supervisada, las variantes de martingala lograron la mejor precisión media en los 7 conjuntos de datos, con ganancias relativas significativas (por ejemplo, +155.6% en Trayectorias de Caracteres, +30.9% en T-SIM-RC).
  • Tabular: Las variantes de martingala superaron a las líneas base en los 5 conjuntos de datos tabulares estáticos, con ganancias de hasta +34.1% en datos sintéticos.
  • Imágenes: En CIFAR-10, la variante de martingala latente mejoró la precisión media de 0.311 a 0.383 (+23.2%) sobre el modelo base.
• Calibración: Los modelos entrenados con consistencia de martingala mostraron una calibración significativamente mejor (menor Error de Calibración Esperado y Arrepentimiento en Cualquier Momento) bajo observación parcial en comparación con el SSL estándar.
• Reducción de Violaciones: El objetivo de entrenamiento redujo con éxito las violaciones de martingala (la discrepancia entre predicciones gruesas y predicciones refinadas esperadas), particularmente en regímenes de baja completitud.
• Comparación con Invarianza: A diferencia de los objetivos de consistencia estándar que fuerzan a las vistas a ser idénticas (invarianza), la consistencia de martingala permite que las predicciones se actualicen a medida que se revela la información, evitando al mismo tiempo la deriva sistemática.

Significado y Afirmaciones

El artículo afirma que la consistencia de martingala proporciona una perspectiva probabilística sobre los modelos de SSL desplegados bajo patrones de enmascaramiento o longitudes de contexto variables. Al imponer el acuerdo en la esperanza bajo el refinamiento de la información, el método permite que las predicciones se actualicen naturalmente a medida que llegan nuevos datos, evitando al mismo tiempo la deriva sistemática.

Los autores posicionan esto como un sesgo inductivo estructural que captura información que queda sin restricciones por objetivos estándar como SimCLR o BYOL. Sugieren que esto es particularmente relevante para modelos fundacionales, que se consultan rutinariamente bajo longitudes de contexto variables y observaciones incompletas, sin embargo, los objetivos existentes no imponen explícitamente la coherencia requerida para dicho despliegue dinámico. El trabajo demuestra que cerrar esta brecha mejora la robustez, la calibración y la estabilidad de la representación, ofreciendo una forma principista de manejar regímenes de información parcial en el aprendizaje auto-supervisado.