Resumen Técnico: Orquestación de Rehearsal Proyectado para el Aprendizaje Federado de Clasificación Incremental Heterogénea

1. Definición del Problema

El artículo aborda el Aprendizaje Federado de Clasificación Incremental (FCIL, por sus siglas en inglés), un escenario donde un modelo global debe aprender nuevas clases a lo largo del tiempo mientras retiene el conocimiento de las clases anteriores, todo ello bajo restricciones de privacidad que impiden la centralización de datos brutos. El estudio se dirige específicamente al FCIL heterogéneo, un escenario realista pero desafiante donde los clientes exhiben:

• Desequilibrio de Supervisión: Diferentes clientes observan diferentes subconjuntos de etiquetas para la misma tarea semántica o proporcionan recuentos de muestras desiguales.
• Desalineación de Etapas: Los clientes progresan a través de la secuencia de tareas semánticas a ritmos y tiempos diferentes (es decir, $\pi_c[p] \neq \pi_{c'}[p]$).

Los métodos de FCIL existentes suelen depender del replay basado en generadores o de la síntesis libre de datos para preservar el conocimiento antiguo mediante la generación de muestras artificiales en el espacio de entrada. Los autores argumentan que, bajo flujos heterogéneos, estos métodos se vuelven frágiles por dos razones principales:

1. Acumulación de Errores: Si una tarea se aprende débilmente debido a una supervisión dispersa o sesgada, los signals de replay generados a partir de ese estado son poco fiables. La reutilización de estas señales deficientes en etapas posteriores causa una degradación descendente.
2. Acoplamiento de Modalidades: Los generadores en el espacio de entrada están estrechamente acoplados a tipos de datos específicos (por ejemplo, imágenes), lo que dificulta su transferencia entre modalidades (por ejemplo, texto o grafos) sin reingenierizar la arquitectura del generador.

2. Metodología

Los autores proponen PRO (Orquestación de Rehearsal Proyectado), un marco libre de generadores que reemplaza la síntesis en el espacio de entrada con memorias proyectadas compactas almacenadas en el espacio de características.

Arquitectura Central

El modelo se descompone en:

• $h_\theta$: Un codificador base específico de la modalidad.
• $a_\psi$: Un adaptador ligero.
• $W$: Un cabezal de clasificador unificado.
  El sistema opera bajo un protocolo de cabezal único (single-head) donde la identidad de la tarea no se proporciona en la inferencia.

El Marco PRO

1. Calentamiento Compartido (Shared Warmup): Todos los métodos pasan por un calentamiento autosupervisado federado in-domain para inicializar $h_\theta$ sin preentrenamiento externo, asegurando una comparación justa.
2. Almacenamiento de Memoria Proyectada: El servidor mantiene estadísticas de clase compactas para cada clase conocida $y$: la media ($\mu_y^u$) y la desviación estándar diagonal ($\sigma_y^u$) de las características base $u = h_\theta(x)$. No se almacenan datos brutos ni muestras sintéticas en el espacio de entrada.
3. Rehearsal en el Cliente:
   • Plasticidad Controlada: Los clientes primero realizan una fase de entrenamiento corta con datos de la tarea actual con un regularizador proximal para evitar un desplazamiento excesivo del modelo global.
   • Entrenamiento Pseudo Multi-Tarea Balanceado: Los clientes muestrean "características pseudo antiguas" de las memorias proyectadas del servidor ($\tilde{u}_{y,j} = \mu_y^u + \gamma \sigma_y^u \odot \epsilon_j$) y las combinan con las características reales de la tarea actual.
   • Punto de Integración: Crucialmente, estas características proyectadas antiguas se alimentan antes del adaptador ($a_\psi$). Esto asegura que los gradientes de las clases antiguas actualicen tanto el adaptador como el clasificador, evitando que el adaptador se desvíeste únicamente hacia la tarea actual.
4. Agregación del Servidor: El servidor agrega las actualizaciones del modelo (FedAvg) y actualiza las estadísticas de memoria utilizando el modelo global agregado para asegurar la consistencia en el espacio de características.

PRO-MAX: Extensión de Alineación de Memoria

Para manejar el fuerte desplazamiento de representación en entornos heterogéneos, PRO-MAX introduce un mecanismo de alineación de memoria:

• Estimación de Transporte Local: Los clientes almacenan en caché un pequeño subconjunto de calibración antes y después de las actualizaciones locales para estimar el desplazamiento de características ($\delta = u^+ - u^-$).
• Alineación Ponderada por Vecindad: Los clientes computan un vector de transporte ponderado para las memorias antiguas basado en los vecinos más cercanos en el conjunto de calibración.
• Agregación Ponderada por Confianza: El servidor agrega estos vectores de transporte utilizando puntuaciones de confianza (basadas en qué tan cerca está el dato actual del cliente de la clase antigua). Esto desplaza las memorías proyectadas antiguas para alinearlas con el espacio de representación evolutivo sin requerir descenso de gradiente en el servidor.

3. Contribuciones Clave

1. Identificación de la Fragilidad del Generador: El artículo identifica que el replay basado en generadores falla bajo FCIL heterogéneo no solo por límites de recursos, sino porque el aprendizaje débil de la tarea produce señales sintéticas deficientes que acumulan errores en etapas posteriores.
2. Interfaz de Memoria Agnóstica a la Modalidad: PRO introduce un marco libre de generadores utilizando estadísticas proyectadas de clase compactas, permitiendo una transferencia fluida entre imágenes, texto y grafos sin generadores específicos de la modalidad.
3. Robustez a la Heterogeneidad: Al realizar un aprendizaje multi-tarea pseudo balanceado en los clientes y mantener estadísticas de memoria ligeras en el servidor, PRO y PRO-MAX logran una retención y utilidad superiores bajo desequilibrio de supervisión y desalineación de etapas.
4. Alineación de Memoria: PRO-MAX demuestra que alinear explícitamente las memorias antiguas con el desplazamiento de representación mediante transporte ponderado por confianza reduce significamente el olvido en flujos heterogéneos.

4. Resultados Experimentales

Los métodos fueron evaluados en CIFAR-100 (imagen), THUCNews-10 (texto) y Cora (grafo) bajo protocolos homogéneos y heterogéneos.

• Desempeño Heterogéneo: Bajo una heterogeneidad severa, los baselines basados en generadores (TARGET, MFCL, HR) se degradaron significamente incluso cuando se les otorgó presupuestos de replay expandidos. PRO y PRO-MAX mantuvieron una alta Precisión Promedio Final (FAA) y un bajo Olvido Promedio (AF). Por ejemplo, en CIFAR-100, PRO-MAX logró un 46.12% de FAA comparado con el 27.86% de TARGET.
• Transferencia de Modalidad: El enfoque se transfirió con éxito a los benchmarks de texto y grafos, superando a los baselines específicos de modalidad (por ejemplo, FedSeIT para texto, POWER/MOTION para grafos) manteniendo costos de comunicación más bajos.
• Eficiencia de Recursos: PRO y PRO-MAX operan con un presupuesto de memoria proyectada fijo (comparable a una sola clase de características), mientras que los métodos basados en generadores a menudo requieren un overhead de comunicación significativamente mayor para transmitir muestras sintéticas o buffers de replay más grandes.
• Diagnóstico de Fallo del Generador: Los experimentos mostraron una fuerte correlación positiva entre el desajuste entre replay y realidad (mismatch) (medido por MMD) y la degradación descendente. Los métodos con mayor desajuste (generadores) sufrieron más de las intervenciones de tareas débiles, mientras que PRO/PRO-MAX mantuvieron un menor desajuste y una menor caída descendente.

5. Significado y Reivindicaciones

El artículo afirma que la cantidad de replay por sí sola no resuelve los fallos de calidad del replay. En entornos federados heterogéneos, la calidad de la señal de replay es contingente a la calidad del aprendizaje de la tarea subyacente. Cuando la supervisión es débil o desalineada, los generadores en el espacio de entrada amplifican estos errores.

La importancia del trabajo radica en desplazar la abstracción de la memoria de la síntesis en el espacio de entrada hacia la proyección en el espacio de características. Este enfoque:

• Desacopla los mecanismos de memoria de las modalidades de datos específicas.
• Evita los costos computacionales y de comunicación de generar y transmitir entradas sintéticas.
• Proporciona una solución ligera para el servidor donde este realiza únicamente la agregación y la contabilidad de la memoria, evitando la optimización basada en gradientes o el entrenamiento de generadores en el servidor.

Los autores reconocen modestamente las limitaciones: las memorias proyectadas dependen de la calidad de la representación aprendida y pueden ser ruidosas para clases extremadamente raras con soporte escaso. También señalan que, aunque el método reduce los riesgos de privacidad asociados con el almacenamiento de datos brutos, no ofrece garantías formales de privacidad contra la inversión de representaciones sin mecanismos adicionales como la privacidad diferencial.