Resumen Técnico: CRAFT (Agregación Resuelta por Conflicto para Entrenamiento Federado)

1. Declaración del Problema

El Aprendizaje Federado (FL) permite el entrenamiento colaborativo de modelos en clientes descentralizados sin compartir datos crudos. Sin embargo, surge un cuello de botella fundamental debido a la heterogeneidad de los datos (distribuciones no IID), lo que provoca actualizaciones locales divergentes. Los métodos de agregación convencionales, como FedAvg, calculan promedios ponderados de estas actualizaciones. El artículo argumenta que el promediado ingenuo puede producir una dirección de actualización global que mejora el objetivo global mientras entra en conflicto con clientes específicos (es decir, el producto interno entre la actualización global y la actualización local de un cliente es negativo). Este conflicto conduce a una degradación del rendimiento para esos clientes específicos, resultando en altas disparidades en la precisión por cliente y una equidad deficiente, incluso si la precisión global media es alta.

Los enfoques existentes intentan mitigar esto mediante regularización (FedProx), normalización (FedNova), objetivos conscientes de la equidad (AFL, q-FedAvg) o modelos personalizados. Han surgido métodos conscientes del conflicto (FedFV, FedLF, ConFIG) para manipular directamente la geometría de las actualizaciones, pero a menudo dependen de reglas heurísticas o carecen de la integración de información temporal para guiar la resolución.

2. Metodología: El Marco CRAFT

CRAFT replantea el problema de la agregación no como un promedio ponderado, sino como un problema de corrección geométrica. El objetivo central es encontrar un vector de actualización global $g$ que esté lo más cerca posible de una dirección de referencia estable mientras satisface estrictas restricciones de alineación libre de conflictos.

2.1 Formulación Central

En lugar de reconstruir una actualización desde cero (como en los métodos sin priori cero) o simplemente suavizar (como en los métodos de momento), CRAFT resuelve un problema de mínimos cuadrados restringido anclado a una referencia:

$$\min_{g \in \mathbb{R}^d} \frac{1}{2} \|g - \hat{g}_t\|^2 \quad \text{sujeto a} \quad U_t g = \rho_t$$

Donde:

• $\hat{g}_t$ es la dirección de referencia, definida como la actualización global normalizada de la ronda anterior ($\hat{g}_t = U(g_{t-1})$). Para la primera ronda, $\hat{g}_0 = 0$.
• $U_t$ es la matriz de actualizaciones locales normalizadas de los clientes activos ($u_i = g_i / (\|g_i\| + \epsilon)$).
• $\rho_t$ es el vector de objetivos de alineación positivos, típicamente derivados de las proporciones de datos de los clientes ($\rho_i = |D_i| / \sum |D_j|$).
• La restricción $U_t g = \rho_t$ asegura que la actualización global $g$ tenga un producto interno positivo con la actualización normalizada de cada cliente participante, garantizando así una dirección libre de conflictos.

2.2 Solución de Forma Cerrada

El problema está subdeterminado (dimensión del modelo $d \gg$ número de clientes $m$). CRAFT deriva una solución de forma cerrada utilizando la pseudoinversa de Moore-Penrose, evitando la sobrecarga computacional de solucionadores iterativos o programación cuadrática. La actualización se calcula como una corrección $\Delta_t$ a la referencia:

$$g_t = \hat{g}_t + \Delta_t, \quad \text{donde} \quad \Delta_t = U_t^\dagger (\rho_t - U_t \hat{g}_t)$$

Esta formulación asegura que si la dirección de referencia ya satisface las restricciones, no se aplica ninguna corrección. De lo contrario, se añade la corrección euclidiana más pequeña para imponer la alineación.

2.3 Adaptación por Capas

Reconociendo que las redes neuronales profundas exhiben dinámicas de optimización específicas por capa (por ejemplo, las capas superficiales pueden sufrir cambios en la distribución de entrada mientras que las capas más profundas sufren sesgo de etiquetas), CRAFT implementa una adaptación por capas. El problema de optimización se descompone en $Q$ subproblemas independientes para cada capa $q$, resolviendo la corrección por separado:
$$g^q_t = \hat{g}^q_t + (U^q_t)^\dagger (\rho_t - U^q_t \hat{g}^q_t)$$
Esto evita que conflictos severos en una capa supriman componentes útiles en otras.

2.4 Propiedades Teóricas

El artículo proporciona un análisis teórico que muestra que CRAFT promueve una estructura de descenso común. Al imponer una alineación no negativa con todas las actualizaciones de los clientes, el método mitiga los conflictos. Los autores establecen garantías de convergencia en tiempo finito para objetivos no convexos bajo supuestos estándar de suavidad y gradiente acotado, demostrando una tasa de convergencia de $O(1/\sqrt{T})$ comparable a la optimización no convexa estándar, siempre que la tasa de aprendizaje local decaiga apropiadamente.

3. Contribuciones Clave

1. Reformulación del Problema: Los autores proponen reformular la agregación federada como un problema de mínimos cuadrados restringido anclado a una referencia en lugar de una regla de promediado ponderado. Esto impone directamente una alineación positiva entre la actualización global y cada cliente.
2. Solución Eficiente de Forma Cerrada: A diferencia de los métodos iterativos de resolución de conflictos, CRAFT deriva una solución explícita utilizando la corrección de Moore-Penrose, manteniendo la computación en el servidor ligera ($O(dm^2 + Qm^3)$).
3. Referencia Similar al Momento: El uso de la actualización global de la ronda anterior como dirección de referencia permite a CRAFT preservar la consistencia temporal y estabilizar las actualizaciones frente al ruido de muestreo, diferenciándose de los métodos que proyectan hacia un vector cero.
4. Granularidad por Capas: El marco aborda los conflictos a la granularidad de las capas del modelo, haciéndolo adecuado para redes neuronales profundas donde las restricciones de vectores globales podrían ser demasiado gruesas.
5. Extensibilidad de Enchufe: CRAFT está diseñado como un operador de agregación genérico que puede reemplazar el promediado ponderado en pipelines de FL personalizados existentes (por ejemplo, Ditto) sin modificar los mecanismos de adaptación local.

4. Resultados Experimentales

Se realizaron experimentos extensos en benchmarks heterogéneos (FEMNIST, CIFAR-10, CIFAR-100) utilizando diversos modelos (MLP, CNN, ResNet-20/56/110) y poblaciones de clientes (hasta 1000 clientes).

• Rendimiento Global: CRAFT superó consistentemente a las líneas base del estado del arte en precisión media. En CIFAR-10 con ResNet-20, logró una mejora relativa del 53.5% sobre ConFIG y una mejora del 7.8% sobre FedAvgM en FEMNIST.
• Equidad y Disparidad: CRAFT redujo significativamente la desviación estándar de la precisión por cliente. Mejoró el rendimiento de los clientes "cola" (los 10% peores) sin sacrificar a los clientes "cabeza". Por ejemplo, en CIFAR-10, mejoró la precisión del 10% peor en un 221.5% sobre FedLF.
• Convergencia: CRAFT demostró una convergencia más rápida y una precisión final más alta, particularmente en redes más profundas donde otros métodos a menudo se saturaron temprano o sufrieron de deriva de clientes.
• Integración en FL Personalizado: Cuando se integró en el marco Ditto, CRAFT mejoró la precisión de prueba media en un 19.7% en CIFAR-10 y un 98.8% en CIFAR-100 en comparación con Ditto estándar, demostrando su capacidad para mejorar pipelines personalizados.

5. Significado y Afirmaciones

El artículo afirma que CRAFT proporciona una nueva perspectiva sobre el diseño de agregación, desplazándose de la resolución heurística de conflictos a un enfoque basado en restricciones y principiado geométricamente. Su significado radica en:

• Mitigación de la Heterogeneidad: Aborda directamente la causa raíz de los problemas de equidad en FL (actualizaciones conflictivas) en lugar de simplemente ajustar objetivos o regularizar el entrenamiento local.
• Equilibrio entre Precisión y Equidad: Logra una alta precisión media mientras reduce simultáneamente la disparidad de rendimiento, un doble objetivo a menudo difícil de satisfacer con los métodos existentes.
• Practicidad: El método es computacionalmente eficiente, no requiere comunicación adicional y es fácilmente extensible a marcos existentes de FL personalizado.

Los autores reconocen limitaciones, señalando que la dirección de referencia actual es una priori simple similar al momento y que los objetivos de alineación se basan en proporciones de datos. Sugieren que el trabajo futuro podría explorar referencias adaptativas o objetivos basados en el progreso del entrenamiento y los requisitos de equidad. Sin embargo, el trabajo actual establece a CRAFT como un mecanismo de agregación robusto y libre de conflictos para el entrenamiento federado heterogéneo.