Resumen Técnico: Fed-BAC

Enunciado del Problema

El Aprendizaje Federado Jerárquico (HFL) aprovecha los servidores periféricos para realizar agregaciones parciales, reduciendo los cuellos de botella en la comunicación en entornos de Computación en el Borde Multiacceso (MEC). Sin embargo, los métodos HFL existentes enfrentan tres limitaciones críticas al tratar con la heterogeneidad de datos del mundo real:

1. Supuestos Estáticos: La mayoría de los métodos asumen distribuciones de datos homogéneas entre los servidores periféricos, lo que conduce a una "deriva del cliente" y a una degradación de la precisión (de hasta un 20%) al agregar actualizaciones de clientes con distribuciones de etiquetas divergentes.
2. Agrupamiento Aislado: Aunque los enfoques de FL agrupado (por ejemplo, IFCA) agrupan clientes similares, generalmente entrenan modelos completamente aislados, lo que impide la transferencia de conocimiento entre grupos.
3. Selección Ineficiente: La selección de clientes suele ser aleatoria o estática. Los enfoques existentes basados en banditos operan en arquitecturas planas y no logran optimizar conjuntamente la asignación de grupos y la selección de clientes a través de la topología de tres niveles (nube-periferia-cliente).

Además, los métodos de personalización que mantienen residuos por cliente (por ejemplo, Ditto, APFL) incurren en una sobrecarga de parámetros de $O(N)$, lo que se vuelve impráctico a gran escala y exacerba los costos de comunicación en sistemas de tres niveles.

Metodología: Marco Fed-BAC

El artículo propone Fed-BAC (Agrupación Aditiva Guiada por Banditos Federados), un marco que integra la personalización de agrupación aditiva con una arquitectura de toma de decisiones de bandito de dos niveles.

1. Personalización de Agrupación Aditiva

En lugar de entrenar modelos de grupos aislados, Fed-BAC emplea una descomposición aditiva en el espacio de logits. Los logits predichos $\hat{y}$ para un cliente en el grupo $k$ se definen como:
$$\hat{y} = h(x; \Theta_{global}) + f(x; \Theta_k)$$

• $\Theta_{global}$: Una red global compartida que captura el conocimiento común entre todos los servidores.
• $\Theta_k$: Una red específica del grupo que captura las variaciones de la distribución.
  Esta arquitectura permite que todos los $M$ servidores periféricos contribuyan al modelo global en cada ronda, habilitando la transferencia de conocimiento entre grupos mientras se preserva la especialización mediante residuos específicos del grupo.

2. Marco de Bandito de Dos Niveles

Fed-BAC desacopla la toma de decisiones en dos niveles para abordar la topología de tres niveles:

• Nivel de Nube (Asignación de Grupos): Utiliza LinUCB Contextual para asignar dinámicamente los servidores periféricos a grupos.

  • Características Contextuales: El bandito utiliza cuatro características específicas de FL: relación de pérdida (actual frente a la mejor alternativa de grupo), equilibrio del grupo, estabilidad de asignación y progreso de entrenamiento.
  • Mecanismo: Cada $\tau_{re}$ rondas, la nube evalúa la adecuación de cada servidor a su grupo actual frente a las alternativas. Si la relación de pérdida de un servidor indica una mejor adecuación en otro lugar, se actualiza la asignación. Esto previene el "comportamiento de rebaño" y permite que el sistema descubra el número óptimo de grupos activos ($K \le M$).

• Nivel de Periferia (Selección de Clientes): Utiliza Muestreo de Thompson (TS) en cada servidor periférico para seleccionar un subconjunto de clientes ($B$ de $N_m$) para la participación.

  • Mecanismo: Cada servidor mantiene una distribución previa Beta para cada cliente. Basándose en el cambio de precisión de una sola ronda ($r_{TS}$) del modelo de grupo del servidor, se actualizan las distribuciones posteriores.
  • Objetivo: Identificar dinámicamente a los clientes de alta contribución, reduciendo la sobrecarga de comunicación mientras se mantiene el rendimiento del modelo.

3. Protocolo de Entrenamiento

El sistema opera en rondas sincrónicas que involucran:

1. Distribución: La nube envía $\Theta_{global}$ y el $\Theta_k$ específico a cada servidor periférico.
2. Selección y Entrenamiento: Los servidores periféricos utilizan TS para seleccionar clientes, quienes realizan SGD local en ambas redes.
3. Agregación:
   • Agregación en el Borde: Promedio ponderado de las actualizaciones de los clientes.
   • Agregación en la Nube: Actualización en dos fases. Primero, una agregación global de $\Theta_{global}$ desde todos los servidores (utilizando los tamaños totales de datos de los servidores, no solo los subconjuntos seleccionados). Segundo, una agregación específica del grupo de $\Theta_k$ para cada grupo activo.

Contribuciones Clave

1. Arquitectura de Bandito de Dos Niveles: Un sistema de decisión jerárquico novedoso que desacopla la asignación de grupos (LinUCB en la nube) de la selección de clientes (Muestreo de Thompson en el borde). Esto permite diferentes frecuencias de actualización adecuadas a las escalas de tiempo de cada decisión.
2. Personalización Aditiva Integrada: La primera integración de personalización de agrupación aditiva dentro de una arquitectura HFL de tres niveles. A diferencia de IFCA, que aísla los grupos, Fed-BAC comparte una columna vertebral global, facilitando la transferencia de conocimiento entre grupos.
3. Optimización Conjunta: El marco optimiza conjuntamente la asignación de grupos y la selección de clientes, abordando una brecha donde los métodos existentes tratan estas tareas por separado o asumen configuraciones estáticas.

Resultados Experimentales

Los experimentos se realizaron en tres puntos de referencia (CIFAR-10, SVHN, Fashion-MNIST) bajo particionamiento no IID de Dirichlet moderado ($\alpha=0.5$) y severo ($\alpha=0.1$).

• Ganancias de Precisión: Fed-BAC logró ganancias de precisión distribuida de hasta +35.5 puntos porcentuales sobre HierFAVG y +8.4 puntos porcentuales sobre IFCA.
• Sensibilidad a la Heterogeneidad: La ventaja de rendimiento de Fed-BAC aumentó con la severidad de la heterogeneidad de datos. Bajo heterogeneidad severa ($\alpha=0.1$), HierFAVG se degradó significativamente, mientras que Fed-BAC mantuvo una alta precisión.
• Eficiencia: A pesar de requerir solo una participación del 80% de los clientes ($p=0.8$), Fed-BAC convergió 1.5–4.8 veces más rápido que las líneas base, dependiendo del conjunto de datos y la precisión objetivo. Esta aceleración resultó en una reducción de 3.0 a 5.9 veces en los bytes totales de comunicación para alcanzar objetivos de precisión representativos.
• Escalabilidad: Un estudio de escalado en CIFAR-10 con 500 clientes (escala 5x) confirmó que Fed-BAC mantiene su ventaja sobre HierFAVG (+12.6pp) e IFCA (+3.3pp), validando su robustez en escalas de despliegue más grandes.
• Equidad: Fed-BAC demostró una mejor equidad entre servidores, exhibiendo una menor varianza en la precisión por servidor en comparación con IFCA y HierFAVG, particularmente bajo heterogeneidad severa.

Significado y Afirmaciones

El artículo afirma que Fed-BAC aborda los desafíos críticos de la heterogeneidad estadística y la eficiencia de la comunicación en el Aprendizaje Federado Jerárquico. Al combinar la descomposición aditiva (que permite el intercambio de conocimiento) con decisiones adaptativas guiadas por banditos (optimizando tanto la estructura de grupos como la participación de clientes), el marco supera a los métodos existentes de última generación.

Los autores enfatizan que el enfoque de personalización aditiva se vuelve cada vez más valioso a medida que las distribuciones de datos divergen, confirmando que compartir una columna vertebral global mientras se mantienen residuos específicos del grupo es superior a la agrupación completamente aislada. Los resultados sugieren que Fed-BAC proporciona una solución escalable para despliegues en MEC donde la heterogeneidad de datos es severa y los recursos de comunicación son limitados.

El artículo concluye con modestia, señalando que la evaluación actual utiliza una única tasa de participación y que el trabajo futuro debería explorar barridos sistemáticos de tasas de participación, bancos de prueba de hardware periférico del mundo real y garantías formales de convergencia para el sistema de banditos no estacionarios acoplado.