ProCal: Probability Calibration for Neighborhood-Guided Source-Free Domain Adaptation

A continuación presento un resumen técnico detallado del artículo "ProCal: Probability Calibration for Neighborhood-Guided Source-Free Domain Adaptation" en español.

1. Planteamiento del Problema

La Adaptación de Dominio sin Fuente (SFDA, por sus siglas en inglés) busca adaptar modelos preentrenados a un dominio objetivo no etiquetado sin tener acceso a los datos originales del dominio fuente. Esto es crucial para aplicaciones que requieren privacidad (como diagnósticos médicos) donde los datos fuente no pueden compartirse.

Aunque los métodos actuales basados en estructuras de vecindad local (como NRC y AaD) han mostrado promesa, el artículo identifica dos limitaciones críticas que degradan su rendimiento:

1. Olvido del conocimiento fuente: La dependencia excesiva de la similitud de predicciones entre vecinos en el dominio objetivo acelera la pérdida de la información discriminativa aprendida originalmente en el modelo fuente.
2. Sobreajuste al ruido local: La construcción de vecindades basada únicamente en la similitud de predicciones del dominio objetivo es susceptible al ruido y a las distribuciones locales incorrectas, lo que lleva a la propagación de errores y al sobreajuste a estructuras locales erróneas.

El problema central es cómo equilibrar la retención del conocimiento del modelo fuente con la adaptación a la estructura del dominio objetivo, evitando tanto el olvido catastrófico como la sobreconfianza en predicciones locales ruidosas.

2. Metodología: ProCal

Los autores proponen ProCal, un marco de calibración de probabilidades diseñado para mitigar estos problemas mediante un mecanismo de predicción colaborativa de doble modelo.

A. Calibración de Probabilidades de Vecindad

En lugar de utilizar directamente las predicciones de los vecinos o las etiquetas pseudo-generadas, ProCal fusiona dinámicamente dos fuentes de información para generar una señal de supervisión suave y calibrada ($p_i^{cal}$):

1. Conocimiento Priori: Las predicciones iniciales del modelo fuente preentrenado ($p_i^s$), que actúan como anclajes para preservar la discriminatividad original.
2. Retroalimentación en Línea: Las predicciones actuales del modelo objetivo en entrenamiento ($p_i^t$) y la agregación de probabilidades de los $k$-vecinos más cercanos en el espacio de características ($p_i^N$).

La fórmula de calibración (Ecuación 5) se define como:
$$p_i^{cal} = \sum_{j \in N(x_i)} p_j + \gamma(p_i^t + p_i^s)$$
Donde $\gamma$ es un factor de modulación. Esta fusión asegura que la señal de supervisión no se desvíe completamente hacia el ruido local ni se estanque en el conocimiento fuente obsoleto.

B. Función de Objetivo Conjunta

Para entrenar el modelo objetivo, ProCal utiliza una función de pérdida compuesta por dos términos:

1. Pérdida de Supervisión Suave ($L_{soft}$): Minimiza la distancia entre la predicción del modelo objetivo y la probabilidad de vecindad calibrada ($p_i^{cal}$). Esto alinea la estructura local con la información calibrada, reduciendo el riesgo de sobreajuste.
2. Pérdida de Diversidad ($L_{div}$): Maximiza la diversidad de las predicciones a nivel de conjunto de datos para evitar el colapso del modelo a una distribución uniforme (donde el modelo predice la misma clase para todo).

El objetivo total es: $L_{cal} = L_{soft} + \beta L_{div}$.

C. Análisis Teórico

El artículo proporciona un análisis de gradiente y de punto fijo que demuestra que, bajo el mecanismo de calibración, el modelo converge a un equilibrio estable. En este estado, la información del modelo fuente y la estructura del dominio objetivo se fusionan efectivamente, minimizando tanto el olvido de conocimiento como el sobreajuste al ruido.

3. Contribuciones Clave

1. Análisis de Limitaciones: Identificación y cuantificación de dos fallos críticos en los métodos SFDA basados en vecindad: el olvido del conocimiento fuente y el sobreajuste al ruido local.
2. Mecanismo ProCal: Propuesta de un nuevo marco de calibración de probabilidades que integra predicciones del modelo fuente y del modelo objetivo en tiempo real para generar señales de supervisión robustas.
3. Optimización Dual: Diseño de un objetivo de optimización que combina supervisión suave con regularización de diversidad, equilibrando la transferencia de conocimiento y la supresión de ruido.
4. Validación Exhaustiva: Demostración teórica y experimental de la superioridad del método en múltiples escenarios de adaptación de dominio.

4. Resultados Experimentales

Los autores evaluaron ProCal en 31 tareas de adaptación cruzada a través de cuatro conjuntos de datos públicos: Office-31, Office-Home, VisDA-C y DomainNet-126.

• Rendimiento General: ProCal y su variante mejorada (ProCal++) lograron el estado del arte (SOTA) en la mayoría de las tareas, superando consistentemente a métodos como SHOT, AaD, NRC y C-SFDA.
  • En Office-Home, alcanzó un promedio del 73.8% (vs 72.7% de AaD).
  • En DomainNet-126 (un conjunto de datos muy desafiante), logró el mejor rendimiento en 9 de 12 sub-tareas, con un promedio de 72.8%.
  • En VisDA-C (adaptación sintético a real), alcanzó un 88.6% promedio.
• Robustez:
  • Contra el Olvido: ProCal mostró tasas de olvido de conocimiento fuente significativamente más bajas (6.9% vs 10.2% en SHOT) durante el entrenamiento.
  • Contra el Ruido: La tasa de supervisión incorrecta fue menor (34.3% vs 42.9% en SHOT).
  • Priors Inexactos: Incluso cuando se inyectó ruido severo en las predicciones del modelo fuente (simulando un modelo fuente muy pobre), ProCal mantuvo su estabilidad, demostrando que no depende ciegamente de los priors fuente.
• Análisis de Características: Las visualizaciones t-SNE mostraron que ProCal produce clusters de clases más compactos y mejor separados en el espacio de características del dominio objetivo en comparación con métodos anteriores.

5. Significado e Impacto

El trabajo de ProCal es significativo porque aborda una brecha fundamental en la adaptación de dominio sin fuente: la tensión entre conservar el conocimiento previo y adaptarse a nuevas distribuciones.

• Innovación Conceptual: Cambia el paradigma de confiar ciegamente en la consistencia local (vecinos) hacia una calibración dinámica que utiliza el modelo fuente como un ancla de seguridad.
• Aplicabilidad Práctica: Al no requerir datos fuente, ProCal es ideal para escenarios del mundo real donde la privacidad es crítica (salud, finanzas) o donde el almacenamiento de datos fuente es inviable.
• Generalización: La capacidad del método para funcionar bien con diferentes arquitecturas de red (ResNet, ViT, ConvNeXt) y en dominios con grandes desplazamientos (simulación a realidad, arte a realidad) sugiere que es una solución robusta y generalizable para problemas de visión por computadora en entornos dinámicos.

En resumen, ProCal ofrece una solución elegante y teóricamente fundamentada para estabilizar el entrenamiento de modelos en dominios no etiquetados, logrando un equilibrio óptimo entre la retención de conocimiento y la adaptación efectiva.