Resumen Técnico: ERIS – Mejora de la Privacidad y la Escalabilidad en el Aprendizaje Federado mediante Agregación Federada de Fragmentos

Declaración del Problema

Escalar el Aprendizaje Federado (FL) a modelos de miles de millones de parámetros (por ejemplo, Modelos de Lenguaje Grandes) crea un compromiso crítico entre privacidad, escalabilidad y utilidad del modelo. Las soluciones existentes suelen abordar estos desafíos de forma aislada, a menudo sacrificando uno por los demás:

• Privacidad vs. Utilidad: Los métodos basados en perturbación, como la Privacidad Diferencial (DP) o la poda de gradientes, reducen la fuga de información pero frecuentemente degradan la precisión del modelo, particularmente en modelos grandes o regímenes de datos bajos. Los protocolos criptográficos (por ejemplo, Agregación Segura) ocultan las actualizaciones pero introducen una sobrecarga computacional significativa y requisitos de hardware, obstaculizando la escalabilidad.
• Escalabilidad vs. Utilidad: El FL centralizado tradicional sufre de un cuello de botella de un solo servidor, lo que conduce a congestión de red e ineficiencias de comunicación a medida que crece el número de clientes. Las arquitecturas totalmente descentralizadas distribuyen la comunicación pero a menudo dependen de una agregación solo entre vecinos, lo que puede alterar la trayectoria de optimización, ralentizar la convergencia o reducir la utilidad final del modelo en comparación con FedAvg centralizado.
• El Conflicto Central: Los métodos actuales a menudo introducen aproximaciones, perturbaciones o desviaciones de la agregación centralizada que alteran la trayectoria de aprendizaje. Existe una necesidad persistente de un marco que preserve simultáneamente la utilidad de la colaboración centralizada, garantice la privacidad teórica de la información y escale eficientemente sin depender de criptografía pesada o ruido que degrade la utilidad.

Metodología: El Marco ERIS

Los autores proponen ERIS, un nuevo marco de FL centrado en la Agregación Federada de Fragmentos (FSA), opcionalmente potenciado con Compresión Desplazada Distribuida (DSC).

1. Agregación Federada de Fragmentos (FSA)

FSA es el mecanismo central diseñado para eliminar el cuello de botella de agregación central mientras preserva la trayectoria de actualización exacta del FL centralizado.

• Fragmentación: En lugar de enviar una actualización completa de cliente a un servidor central, cada cliente particiona su vector de actualización en $A$ fragmentos disjuntos y no superpuestos utilizando máscaras binarias.
• Agregación Distribuida: Cada fragmento se envía a un agregador distinto, ubicado en el lado del cliente. Los agregadores calculan independientemente el promedio de los fragmentos que reciben de todos los clientes.
• Reensamblaje: Los agregadores transmiten sus actualizaciones parciales del modelo de vuelta a los clientes. Los clientes reensamblan el modelo global completo sumando los fragmentos recibidos.
• Propiedad Clave: Dado que los fragmentos son disjuntos y completos (sus máscaras suman al vector de unos), el modelo global reensamblado es matemáticamente idéntico al producido por FedAvg centralizado. Ninguna coordenada se descarta y no se introduce error de aproximación en el paso de agregación.

2. Integración con Compresión Desplazada Distribuida (DSC)

Para mejorar aún más la escalabilidad y la privacidad, ERIS integra DSC como una capa de preprocesamiento antes de la fragmentación.

• Mecanismo: Los clientes aplican un operador de compresión desplazada a sus gradientes locales antes de la partición. Esto reduce el número de parámetros transmitidos y las coordenadas expuestas en cada fragmento.
• Compensación del Desplazamiento: Para mantener la convergencia, tanto los clientes como los agregadores mantienen vectores de referencia para rastrear y compensar el desplazamiento de la compresión, asegurando que la actualización agregada permanezca sin sesgo.
• Modularidad: Este diseño permite que ERIS incorpore otras transformaciones (por ejemplo, DP) antes de la partición, siempre que el lado de la agregación aplique las correcciones correspondientes.

Contribuciones Clave

1. Agregación Federada de Fragmentos (FSA): Un mecanismo de agregación distribuida que fragmenta las actualizaciones de los clientes entre múltiples agregadores. Elimina el cuello de botella del servidor central, limita la información visible para cualquier observador único (mejorando la privacidad) y preserva la trayectoria exacta de actualización del FL centralizado (asegurando la utilidad).
2. Integración Fluida con DSC: El marco soporta naturalmente DSC, reduciendo las cargas útiles transmitidas y las coordenadas expuestas sin comprometer las garantías de utilidad proporcionadas por FSA.
3. Garantías Teóricas:
   • Convergencia: Los autores demuestran que FSA no incurre en pérdida de información en comparación con la agregación centralizada. Con DSC, establecen límites de convergencia que muestran que la utilidad depende de la varianza del estimador de gradiente y es independiente del número de rondas $T$ (a diferencia de algunos métodos anteriores de compresión con DP).
   • Privacidad: Derivan un límite superior teórica de la información sobre la fuga de información mutua. Se demuestra que la fuga escala con $1/A$ (donde $A$ es el número de agregadores) y la probabilidad de retención de compresión $p$. Esto demuestra la amplificación de la privacidad mediante la fragmentación y la compresión.
4. Validación Empírica: Extensos experimentos en tareas de imagen (MNIST, CIFAR-10, ImageNet, LFW) y texto (IMDB, CNN/DailyMail), que van desde modelos pequeños hasta LLMs de 1.3 mil millones de parámetros, validan el marco frente a seis líneas base de última generación.

Resultados Experimentales

El artículo evalúa ERIS en tres dimensiones:

• Utilidad: ERIS logra un rendimiento a la par con FedAvg no privado en todos los conjuntos de datos y tamaños de modelo, incluidos los modelos de lenguaje grandes. En contraste, líneas base como FedAvg-LDP, PriPrune y SoteriaFL a menudo sufren una degradación significativa de la precisión, especialmente en modelos grandes o regímenes de datos bajos.
• Privacidad:
  • Ataques de Inferencia de Membresía (MIA): ERIS reduce significativamente la precisión de MIA en comparación con FedAvg, acercándose a la línea base "Min. Fuga" (donde no se comparten gradientes). Aumentar el número de agregadores ($A$) y la fuerza de compresión ($\omega$) reduce aún más la fuga.
  • Ataques de Reconstrucción de Datos (DRA): Contra ataques de caja blanca (DLG, iDLG, ROG, GGL), ERIS hace que las reconstrucciones estén altamente distorsionadas. Incluso con una configuración mínima ($A=2$), el sistema ofusca efectivamente los gradientes, mientras que la compresión por sí sola a menudo es insuficiente contra ataques adaptativos.
• Escalabilidad:
  • Eficiencia de Comunicación: Al distribuir la agregación, ERIS elimina el cuello de botella central. Para un modelo de 1.3 mil millones de parámetros, ERIS reduce el tiempo de distribución de ~5200 s (FedAvg) a ~468 s (sin DSC) y hasta ~236 s (con DSC).
  • Reducción de Carga Útil: Con DSC, ERIS puede reducir el tamaño de carga a ~1% de la actualización completa (por ejemplo, 46.8 MB para un modelo de 1.3 mil millones de parámetros) manteniendo la utilidad.

Significado y Afirmaciones

El artículo afirma que ERIS proporciona un paso fundamental para los sistemas de FL de próxima generación al demostrar que la privacidad y la escalabilidad pueden fortalecerse sin sacrificar la utilidad del modelo.

• Rompiendo el Compromiso: A diferencia de métodos anteriores que fuerzan una elección entre privacidad/escalabilidad y precisión, ERIS mantiene la trayectoria de optimización exacta del FL centralizado mientras distribuye la carga y limita la exposición de información.
• Independencia de la Criptografía Pesada: El marco logra garantías de privacidad sólidas mediante el diseño arquitectónico (fragmentación) y límites teóricos de la información, evitando la sobrecarga computacional de la computación multipartita segura o los entornos de ejecución de confianza.
• Robustez: Se demuestra que el sistema es robusto ante fallos de agregadores y enlaces (degradándose elegantemente) y efectivo contra ataques de inferencia de membresía y reconstrucción de datos.
• Generalidad: La naturaleza modular de FSA le permite soportar varios algoritmos de FL centralizado (por ejemplo, FedAdam, FedYogi) e integrarse con otros mecanismos de privacidad, posicionándolo como una capa de propósito general para el aprendizaje escalable y que preserva la privacidad.