SDFed: Bridging Local Global Discrepancy via Subspace Refinement and Divergence Control in Federated Prompt Learning

El artículo presenta SDFed, un marco de aprendizaje federado heterogéneo que mejora la adaptación de modelos visión-idioma mediante prompts globales fijos y locales variables, utilizando refinamiento de subespacio y control de divergencia para resolver las discrepancias entre datos locales y globales en entornos con recursos limitados.

Lo esencial

¡Hola! Imagina que tienes un grupo de amigos muy inteligentes (llamémosles "clientes") que viven en diferentes partes del mundo. Todos quieren aprender a reconocer animales, pero cada uno tiene un problema:

1. No pueden compartir sus fotos: Por privacidad, nadie puede enviar sus fotos al grupo.
2. Tienen diferentes recursos: A algunos les cuesta mucho procesar imágenes (tienen computadoras lentas), mientras que otros tienen máquinas potentes.
3. Tienen gustos distintos: A uno le gustan los gatos, a otro los perros, y a otro los pájaros.

Antes, la forma de enseñarles era enviarles un "libro de reglas" gigante y único para todos. Pero esto fallaba porque el libro era demasiado pesado para los que tenían computadoras lentas y no servía para los que solo querían aprender sobre pájaros.

Aquí es donde entra SDFed, la solución que proponen los autores. Vamos a explicarlo con una analogía sencilla: El "Guía de Viaje" Personalizado.

La Idea Principal: Un Libro de Reglas Inteligente

En lugar de enviar un libro gigante, SDFed usa una técnica llamada "Aprendizaje por Prompts" (o "enseñanza por pistas"). Imagina que el modelo de inteligencia artificial es un turista experto que ya conoce el mundo, pero necesita una pequeña nota (un "prompt") para recordar qué buscar exactamente.

El problema de los métodos anteriores era que todos los turistas recibían la misma nota, del mismo tamaño, escrita de la misma manera. SDFed dice: "¡No! Cada turista necesita una nota a su medida".

¿Cómo funciona SDFed? (Los 3 Trucos Mágicos)

SDFed tiene tres trucos para que todos aprendan juntos sin chocar:

1. El "Guía Global" y el "Guía Local" (Marco Heterogéneo)

Imagina que hay un Guía Principal (el servidor) que tiene una lista de reglas básica y corta (el prompt global). Todos la reciben.
Pero, cada amigo (cliente) también tiene su propio Guía Personal (el prompt local).

• La magia: El Guía Personal puede ser corto o largo, según lo que necesite ese amigo. Si a uno le cuesta aprender, su guía puede ser más detallado (largo). Si a otro le va bien, su guía puede ser breve.
• El resultado: Todos comparten la base común, pero cada uno tiene su propia "nota adhesiva" personalizada para lo que le cuesta más.

2. El "Filtro de Ruido" (Refinamiento de Subespacio)

A veces, cuando el Guía Principal y el Guía Personal hablan, se contradicen. El Guía Principal dice: "Mira, es un perro", pero el Guía Personal (que solo ve gatos) dice: "No, es un gato". Esto crea confusión.

SDFed usa un Filtro de Ruido (Refinamiento de Subespacio).

• La analogía: Imagina que el Guía Principal tiene una voz muy fuerte que se escucha en todo el grupo. El Filtro de Ruido actúa como un paraguas o un silenciador para esa voz fuerte solo en las partes donde el amigo necesita pensar por sí mismo.
• Qué hace: Elimina las partes de la nota personal que son solo "eco" de la nota global (lo que ya todos saben) y deja solo lo que es único y especial para ese amigo. Así, la nota personal se vuelve más útil y menos repetitiva.

3. El "Equilibrio de Distancia" (Control de Divergencia)

Aquí hay un equilibrio delicado. Si el Guía Personal se hace demasiado diferente al Guía Principal, el amigo se aísla y olvida lo que aprendió del grupo. Si se hace demasiado igual, pierde su personalidad y no aprende lo suyo.

SDFed usa una Regla de Distancia (Control de Divergencia).

• La analogía: Imagina dos personas bailando. Quieren bailar la misma coreografía (aprender juntos), pero cada uno tiene su propio estilo.
  • Si se separan demasiado, se caen (pérdida de conocimiento global).
  • Si se pegan demasiado, se tropezan (pérdida de personalización).
• Qué hace: La regla les dice: "Mantente cerca de la coreografía general, pero asegúrate de que tus pasos sean lo suficientemente distintos para que puedas bailar tu propio estilo". Esto asegura que aprendan de todos, pero sin perder su identidad.

¿Por qué es genial esto?

En el mundo real, no todos tenemos las mismas computadoras ni las mismas fotos.

• Antes: Si intentabas usar un sistema rígido, las computadoras lentas se bloqueaban y los datos desiguales confundían al modelo.
• Con SDFed:
  • Las computadoras lentas pueden usar notas cortas.
  • Las computadoras potentes pueden usar notas largas y detalladas.
  • Todos aprenden juntos sin chocar, porque el sistema filtra las contradicciones y mantiene el equilibrio.

En resumen

SDFed es como un profesor muy inteligente que organiza un estudio en grupo. En lugar de obligar a todos a leer el mismo libro de 500 páginas, les da a todos un resumen de 10 páginas (lo global) y les permite escribir sus propias notas al margen (lo local) del tamaño que necesiten. Además, les ayuda a borrar las notas que son solo copias del resumen y les enseña a mantener sus notas personales lo suficientemente diferentes para ser útiles, pero lo suficientemente parecidas para entenderse entre ellos.

El resultado: ¡Todos aprenden más rápido, con menos esfuerzo y con mejores resultados!

Resumen técnico

Resumen Técnico: SDFed

1. Planteamiento del Problema

Los modelos preentrenados de visión y lenguaje (VLPMs), como CLIP, son fundamentales para tareas de aprendizaje transferible. Sin embargo, su adaptación en entornos federados (Federated Learning - FL) enfrenta dos desafíos críticos:

• Costo de Comunicación y Privacidad: Entrenar VLPMs completos en un entorno federado es prohibitivo debido al alto costo de comunicación y las restricciones de privacidad que impiden compartir datos crudos. El Prompt Learning (aprendizaje de indicaciones) ofrece una solución al mantener el backbone congelado y entrenar solo parámetros ligeros, pero las soluciones actuales tienen limitaciones.
• Heterogeneidad del Cliente: Los métodos existentes de aprendizaje federado de prompts suelen asumir una estructura y longitud de prompt idénticas para todos los clientes. Esto es inadecuado en escenarios reales donde los clientes tienen:
  • Heterogeneidad de Datos (Non-IID): Distribuciones de datos muy diferentes.
  • Heterogeneidad del Sistema: Recursos computacionales y arquitecturas de modelos dispares.
• Conflicto Local-Global: Forzar un prompt global único puede introducir conocimientos que entran en conflicto con las características óptimas locales de ciertos clientes, degradando el rendimiento de personalización y la convergencia.

El artículo identifica dos desafíos principales (CH1 y CH2):

1. ¿Cómo asignar longitudes de prompts heterogéneas a diferentes clientes manteniendo la agregabilidad global?
2. ¿Cómo resolver los conflictos de conocimiento entre prompts globales y locales mientras se facilita la transferencia eficiente de conocimiento?

2. Metodología: SDFed

Los autores proponen SDFed, un marco de aprendizaje federado heterogéneo que aborda la discrepancia local-global mediante Refinamiento de Subespacio y Control de Divergencia. La arquitectura consta de tres módulos principales:

A. Marco Federado Heterogéneo Impulsado por Prompts (Prompt-Driven Federated Heterogeneous Framework)

• Doble Estructura de Prompt: Cada cliente mantiene dos prompts simultáneamente:
  • Un Prompt Global de longitud fija ($G_s$) para asegurar la consistencia y la agregabilidad en el servidor.
  • Un Prompt Local de longitud variable ($G_c$) adaptado a las características específicas de los datos y la capacidad del cliente.
• Mecanismo de Agregación: Solo el prompt global se envía al servidor para su agregación (promedio ponderado por tamaño de datos). El prompt local se mantiene privado en el cliente para la personalización.
• Alineación Estructural: Se utilizan tokens compartidos (inicialización, sufijo, clase) y un codificador congelado para vincular implícitamente ambos prompts en un espacio unificado.

B. Método de Refinamiento de Subespacio para Prompts Locales (Subspace Refinement)
Para mitigar los conflictos semánticos entre el conocimiento global y el local:

• Descomposición SVD: Se realiza una descomposición en valores singulares (SVD) sobre el prompt global actual ($G_s$) para identificar sus direcciones dominantes (componentes globales compartidos).
• Proyección de Null-Espacio: El prompt local se proyecta sobre un subespacio ortogonal a las direcciones dominantes globales. Esto se logra eliminando los componentes del prompt local que se alinean con los principales vectores singulares de $G_s$.
• Objetivo: Filtrar las componentes redundantes o conflictivas del prompt local, preservando solo la información específica del cliente que no contradice la representación global.

C. Estrategia de Retención de Información y Control de Divergencia
Para evitar que el refinamiento elimine información valiosa del cliente y asegurar que los prompts locales no converjan demasiado hacia el global:

• Término de Estiramiento (Stretch): Minimiza la distancia (MSE) entre el prompt local original y su proyección refinada. Esto asegura que la semántica clave del cliente se preserve durante el proceso de filtrado.
• Término de Separación (Separate): Utiliza una función de pérdida con margen (ReLU) para forzar una distancia mínima entre el prompt local y el global. Esto garantiza que el prompt local mantenga su capacidad de personalización y no se diluya completamente en la representación global.
• Función de Pérdida Unificada: Combina la pérdida de entropía cruzada (tarea principal) con los términos de estiramiento y separación.

3. Contribuciones Clave

1. Propuesta de SDFed: Un marco unificado diseñado específicamente para la heterogeneidad de datos y modelos en el aprendizaje federado de prompts, resolviendo explícitamente el conflicto entre conocimiento global y local.
2. Técnicas Innovadoras: Desarrollo del método de Refinamiento de Subespacio (para eliminar conflictos) y la estrategia de Retención de Información y Control de Divergencia (para equilibrar fidelidad y personalización).
3. Análisis Teórico: Demostración de la convergencia del algoritmo a un punto estacionario de primer orden bajo supuestos de suavidad y heterogeneidad de clientes.
4. Privacidad: El protocolo no introduce fugas de privacidad adicionales respecto a FedAvg estándar, ya que los componentes de refinamiento y control se calculan localmente y nunca se transmiten.

4. Resultados Experimentales

Los experimentos se realizaron en múltiples conjuntos de datos (Flowers102, DTD, Food101, OxfordPets, Caltech101, OfficeHome, Office31, CIFAR-10, Tiny-ImageNet) bajo configuraciones de datos no-IID y heterogeneidad de modelos.

• Rendimiento Superior: SDFed superó consistentemente a los métodos de última generación (CoOp, Powder, FedOTP, GPT-FL, UOPP) en todos los escenarios.
  • En escenarios de un solo dominio, mejoró la precisión hasta en un 3.44% sobre el mejor baseline (UOPP).
  • En entornos multi-dominio y con heterogeneidad de modelos (diferentes backbones como ViT y ResNet), SDFed demostró una robustez superior.
• Eficiencia en Few-Shot: SDFed mostró una mayor robustez y eficiencia de muestras en condiciones de pocos disparos (low-shot), manteniendo el rendimiento incluso con muy pocos ejemplos por clase.
• Análisis de Heterogeneidad: La capacidad de ajustar la longitud del prompt local permitió adaptarse mejor a las necesidades específicas de cada cliente, superando a los métodos que fuerzan una longitud única.
• Sobrecarga Computacional: El método de refinamiento de subespacio añade una sobrecarga mínima (<1% del tiempo total de entrenamiento local), haciéndolo altamente eficiente.
• Estudios de Ablación: Confirmaron que cada componente (Marco Heterogéneo, Refinamiento de Subespacio y Control de Divergencia) es esencial para el rendimiento final.

5. Significado e Impacto

SDFed representa un avance significativo en la intersección del Aprendizaje Federado y el Aprendizaje por Indicación (Prompt Learning) para modelos de visión y lenguaje.

• Resuelve la Tensión Personalización-Generalización: Proporciona un mecanismo elegante para permitir que los clientes se personalicen (mediante prompts locales variables) sin sacrificar la capacidad de colaboración global (mediante un prompt global fijo).
• Viabilidad Práctica: Al abordar la heterogeneidad de recursos y datos, SDFed hace que la adaptación de grandes modelos preentrenados sea viable en entornos reales descentralizados y con restricciones de privacidad.
• Fundamento Teórico: Ofrece garantías de convergencia y privacidad, estableciendo un nuevo estándar para el diseño de algoritmos federados en modelos de gran escala.

En conclusión, SDFed demuestra que la gestión explícita de la discrepancia local-global mediante refinamiento de subespacio y control de divergencia es crucial para el éxito del aprendizaje federado en modelos de visión y lenguaje heterogéneos.