FedOUI: OUI-Guided Client Weighting for Federated Aggregation

Resumen Técnico: FedOUI – Ponderación de Clientes Guiada por OUI para Agregación Federada

Enunciado del Problema

El aprendizaje federado (FL) enfrenta desafíos significativos debido a la heterogeneidad de los datos entre los clientes, lo cual se manifiesta en variaciones en el tamaño de la muestra, la distribución de clases, los niveles de ruido y las dinámicas de optimización local. Las reglas de agregación estándar, como FedAvg, suelen ponderar las actualizaciones de los clientes basándose únicamente en el tamaño del conjunto de datos o, en métodos más avanzados, en la geometría del gradiente y la robustez. Sin embargo, estos enfoques a menudo pasan por alto señales internas sobre cómo el modelo de un cliente organiza su espacio de entrada durante el entrenamiento. En consecuencia, los clientes pueden producir actualizaciones de escala similar mientras operan en regímenes internos muy diferentes, lo que conduce a una agregación global subóptima.

Metodología

El artículo propone FedOUI, una regla de agregación del lado del servidor que incorpora una métrica basada en activaciones y libre de etiquetas llamada Indicador de Sobreajuste–Subajuste (OUI) para guiar la ponderación de los clientes.

1. La Métrica OUI:
Calculada localmente en cada cliente utilizando un lote de prueba fijo de tamaño $B$, la OUI mide el equilibrio de los patrones de activación en la capa de preactivación penúltima.

• Para cada unidad $j$ en una capa con $d$ unidades, se genera una máscara de activación binaria para cada muestra en el lote de prueba.
• Se calcula el número de muestras activas ($s_j$) y la cuenta minoritaria ($u_j = \min(s_j, B - s_j)$).
• El valor OUI del cliente ($o_k$) es el promedio de las cuentas minoritarias normalizadas a través de todas las unidades, resultando en un escalar en $[0, 1]$. Un valor cercano a 0.5 indica activaciones equilibradas, mientras que valores cercanos a 0 o 1 indican patrones de activación altamente sesgados (atípicos).

2. Regla de Agregación del Lado del Servidor:
En cada ronda de comunicación $t$, los clientes transmiten su actualización de modelo local ($\Delta_k^t$), la cuenta de muestras ($n_k$) y el valor OUI ($o_k^t$) al servidor.

• Estimación de Distribución: El servidor modela la distribución de los valores OUI recibidos utilizando una distribución Beta, $Beta(\alpha_t, \beta_t)$, ajustada a los datos de la ronda. Esto proporciona una noción de "típico estructural" para esa ronda específica.
• Puntuación Estructural: Se asigna una puntuación estructural ($s_k^t$) a cada cliente basada en su distancia desde el centro de la distribución Beta ajustada:
  $$s_k^t = 2 \min \{F_t(o_k^t), 1 - F_t(o_k^t)\}$$
  donde $F_t$ es la función de distribución acumulada. Los clientes cercanos al centro de la distribución reciben puntuaciones más altas, mientras que aquellos en las colas (estructuralmente atípicos) reciben puntuaciones más bajas.
• Cálculo de Ponderación: El peso final de agregación ($w_k^t$) combina el tamaño de la muestra del cliente y la puntuación estructural:
  $$w_k^t \propto n_k (\epsilon + s_k^t)$$
  donde $\epsilon$ es una constante pequeña para la estabilidad numérica. Esto asegura que los clientes atípicos contribuyan menos a la actualización global, mientras que todos los clientes seleccionados permanezcan activos.

Contribuciones Clave

• Señal Novel para Agregación: El artículo introduce el uso de la estructura interna de activación (vía OUI) como una señal complementaria para la agregación en FL, distinta de la geometría del gradiente o el tamaño de la muestra.
• Mecanismo Ligero e Interpretable: FedOUI requiere una sobrecarga computacional mínima (un lote de prueba fijo) y ofrece una regla de reponderación interpretable que suaviza la influencia de clientes estructuralmente atípicos sin descartarlos.
• Operación Libre de Etiquetas: La métrica OUI no requiere acceso a etiquetas de verdad fundamental en el lado del cliente, lo que la hace adecuada para escenarios de FL que preservan la privacidad.

Resultados Experimentales

Los autores evaluaron FedOUI en el conjunto de datos CIFAR-10 utilizando una pequeña CNN a través de 20 clientes (5 muestreados por ronda) durante 60 rondas. Se realizaron comparaciones contra FedAvg, FedProx y FedAlign bajo dos configuraciones principales:

1. Configuración Fuertemente No-IID (Dirichlet $\alpha=0.1$):

   • FedOUI logró la precisión final más alta (0.2343 frente a 0.2163 para FedAvg) y la mejor precisión máxima (0.2820).
   • También obtuvo el mayor Área bajo la Curva (AUC) para la precisión de prueba (0.1726), lo que indica mejoras consistentes en el rendimiento a lo largo de la trayectoria de entrenamiento.
   • FedAlign tuvo un rendimiento significativamente peor en este régimen.

2. Configuración de Cliente Ruidoso:

   • FedOUI logró la mejor precisión máxima (0.3183), superando a FedAvg y FedProx (ambos ~0.3100).
   • Aunque su precisión final fue ligeramente inferior a la de las líneas base (0.2310 frente a 0.2727), mantuvo puntuaciones AUC competitivas, demostrando robustez cuando la calidad del cliente se degrada.

Significado y Afirmaciones

El artículo afirma que la estructura interna de activación proporciona una fuente práctica y útil de información para la agregación federada, extendiendo el papel de tales observables desde el análisis de entrenamiento hacia el control activo de la agregación.

• Manejo de Heterogeneidad: Los resultados sugieren que la ponderación basada en OUI es particularmente efectiva bajo una fuerte heterogeneidad estadística, donde mejora la calidad de la agregación al identificar y reducir el peso de los clientes que operan en regímenes estructuralmente atípicos.
• Valor Complementario: El método demuestra que la agregación puede mejorarse mediante señales más allá del tamaño del cliente y la geometría del gradiente, ofreciendo un mecanismo simple del lado del servidor para adaptarse a las dinámicas internas de los modelos de los clientes.
• Futuras Direcciones: Los autores posicionan este trabajo como un paso hacia una agenda de investigación más amplia que involucre señales estructurales internas para la supervisión y el control del aprendizaje distribuido. Proponen trabajo futuro en conjuntos de datos más grandes, OUI por capas, suavizado temporal e integración con la geometría del gradiente, así como optimizaciones a nivel de sistema para la privacidad y la eficiencia en la comunicación.