Enhanced Byzantine-Robust Federated Learning Via Truncated-Quadratic Loss for Heterogeneous Data

Planteamiento del Problema
El Aprendizaje Federado (FL, por sus siglas en inglés) permite el entrenamiento de modelos de aprendizaje profundo a través de clientes distribuidos (por ejemplo, dispositivos móviles, sensores) sin compartir datos brutos, mejorando así la privacidad. Sin embargo, esta arquitectura distribuida introduce vulnerabilidades ante ataques bizantinos, donde clientes maliciosos envían actualizaciones arbitrarias para interrumpir el proceso de aprendizaje. Además, los escenarios de FL del mundo real suelen implicar datos heterogéneos (no IID), donde las distribuciones de datos varían significamente entre clientes. Las reglas de agregación robustas existentes, como Krum, la Mediana por Coordenada (CM) y la Agregación Federada Robusta (RFA), a menudo asumen homogeneidad de datos y se degradan bajo heterogeneidad. Aunque se han propuesto el Recorte Centrado (CC) y los agregadores basados en la pérdida de Huber, este artículo identifica que sufren un fallo crítico: producen soluciones sesgadas cuando se enfrentan a valores atípicos (outliers) de gran magnitud, particularmente bajo condiciones de alta heterogeneidad de datos o una fracción sustancial de clientes bizantinos. Este sesgo se acumula a lo largo de las rondas de comunicación, conduciendo al fallo del aprendizaje.

Metodología
El artículo propone una nueva regla de agregación robusta basada en la pérdida Cuadrática Truncada (TQ, por sus siglas en inglés). La metodología avanza a través de los siguientes pasos:

1. Análisis Teórico de los Métodos Existentes: Los autores primero utilizan la teoría del conjugado convexo para demostrar la equivalencia entre el Recorte Centrado (CC) y la minimización de la pérdida de Huber para el FL robusto ante bizantinos. Demuestran que ambos satisfacen la robustez $(f, \kappa)$, pero comparten una limitación común: emplean la norma $\ell_1$ (o mecanismos de recorte equivalentes) para resistir valores atípicos. El artículo analiza teóricamente y demuestra que este enfoque genera un sesgo que crece con la heterogeneidad de los datos y la fracción de clientes bizantinos.
2. Propuesta de la Pérdida Cuadrática Truncada (TQ): Para mitigar el sesgo inherente a Huber/CC, los autores introducen la función de pérdida TQ. A diferencia de Huber, que crece linealmente para errores grandes, TQ recorta la pérdida de los valores atípicos por completo una vez que exceden un umbral $\tau$. El problema de agregación se formula como la minimización de las sumas de las pérdidas TQ sobre las actualizaciones de los clientes.
3. Optimización e Implementación: Dado que la pérdida TQ es no suave y no convexa, los autores utilizan la teoría del conjugado convexo para reformular el problema de minimización en una forma iterativa equivalente (Algoritmo 1). Esto permite una computación eficiente donde las actualizaciones se recortan basándose en la distancia desde el agregado actual.
4. Estimación de Hiperparámetros: La regla TQ requiere un parámetro de umbral $\tau_k$ y el conocimiento del número de clientes bizantinos ($f$). El artículo propone una estrategia de estimación de desviación robusta utilizando la Mediana y la Desviación Absoluta de la Mediana (MAD) para estimar la media y la varianza de los clientes buenos sin conocimiento previo. Adicionalmente, los autores analizan el escenario donde solo se dispone de una estimación del número de clientes bizantinos ($\hat{f}$), mostrando que el agregador sigue siendo robusto incluso si $\hat{f}$ es una sobreestimación (hasta el punto de ruptura).
5. Integración del Algoritmo de FL: El agregador TQ se integra en un marco de FL robusto ante bizantinos (Algoritmo 2) utilizando el momento (momentum) para reducir la varianza del gradiente y combatir ataques acoplados en el tiempo.

Contribuciones Clave

• Equivalencia y Análisis de Sesgo: El artículo establece formalmente la equivalencia entre la pérdida de Huber y el Recorte Centrado mediante la teoría del conjugado convexo. Proporciona un análisis teórico que muestra que ambos métodos producen soluciones sesgadas bajo heterogeneidad y valores atípicos, explicando sus fallos empíricos.
• Agregador TQ: Los autores proponen el agregador basado en TQ, que mitiga eficazmente el sesgo de los métodos existentes al recortar completamente los valores atípicos de gran magnitud.
• Garantías de Robustez: El artículo demuestra que el agregador TQ satisface la robustez $(f, \kappa)$ con un punto de ruptura $\delta_{min} = 0.5$. Demuestra que TQ logra un aprendizaje robusto ante bizantinos de orden óptimo bajo funciones de pérdida no convexas y datos heterogéneos.
• Estrategias de Estimación Práctica: Se proporciona una estrategia de estimación robusta para el hiperparámetro de TQ, y el artículo analiza el impacto de estimar el número de clientes bizantinos, mostrando que el método sigue siendo efectivo incluso con estimaciones imperfectas.

Resultados Experimentales
El agregador TQ propuesto fue evaluado en los conjuntos de datos MNIST, Fashion-MNIST y CIFAR-10 bajo diversas condiciones:

• Tipos de Ataque: El rendimiento se probó contra seis ataques distintos: Ataque Gaussiano (GA), Cambio de Etiquetas (LF), Cambio de Bits (BF), Manipulación de Producto Interno (IPM), MIMIC y "A Little Is Enough" (ALIE).
• Heterogeneidad: Los experimentos cubrieron diversos grados de heterogeneidad de datos ($\rho$).
• Comparaciones: TQ se comparó con RFA, CM, TM, Krum, Huber y Agregación de Correntropía Máxima (MCA), tanto con como sin pasos de pre-agregación como Bucketing y Mezcla de Vecino Más Cercano (NNM).

Hallazgos:

• Robustez Superior: TQ superó consistentemente a los agregadores competidores, particularmente bajo alta heterogeneidad de datos y altas fracciones de clientes bizantinos (hasta el 50%).
• Mitigación del Sesgo: A diferencia de Huber y CC, que mostraron una degradación significativa del rendimiento y acumulación de sesgo a medida que aumentaba el número de clientes bizantinos, TQ mantuvo una alta precisión.
• Ataques Mixtos: En escenarios donde diferentes clientes bizantinos lanzaban diferentes tipos de ataques simultáneamente, TQ superó significativamente a otros métodos a través de varios niveles de heterogeneidad.
• Robustez de la Estimación: Los resultados indicaron que TQ mantiene su robustez incluso cuando el número de clientes bizantinos es estimado en lugar de conocido exactamente.

Significancia y Reivindicaciones
El artículo afirma que el agregador TQ propuesto mejora la fiabilidad de los sistemas de aprendizaje federado al abordar los modos de fallo específicos de los métodos actuales bajo heterogeneidad de datos. Al demostrar que TQ logra un error de aprendizaje de orden óptimo (alineándose con el límite teórico inferior descrito en el Lema 2), los autores argumentan que su método representa un paso significativo hacia adelante en el FL robusto ante bizantinos. El trabajo proporciona tanto la justificación teórica para el fallo de Huber/CC en entornos heterogéneos como una alternativa práctica y robusta que no requiere el conocimiento preciso del número de clientes maliciosos.