Personalized Additive Modeling for Multi-level Federated Learning

Resumen Técnico: Modelado Aditivo Personalizado para Aprendizaje Federado Multinivel

Planteamiento del Problema
El Aprendizaje Federado (FL) contemporáneo enfrenta un desafío crítico: equilibrar la necesidad de generalización con la personalización específica del usuario ante la presencia de datos altamente heterogéneos de los clientes. Los supuestos estándar de FL de datos Independientes e Idénticamente Distribuidos (IID) a menudo fallan al intentar capturar los patrones complejos y estructurados no-IID presentes en escenarios del mundo real. Los métodos existentes, incluyendo el FL Agrupado (Clustered FL) y el FL Personalizado (PFL), están típicamente diseñados para entornos de heterogeneidad restringidos, como un número fijo de clústeres o una estructura rígida de "global más local". Estos enfoques tienen dificultades cuando las relaciones entre clientes exhiben estructuras implícitas y multigranulares (por ejemplo, similitudes a nivel de SO, patrones de aplicaciones de subgrupos y rasgos de actividad de grano fino), debido a que requieren conocimiento previo de los límites de las tareas o se comprometen con una jerarquía fija que puede no coincidir con la distribución subyacente de los datos.

Metodología: Modelado Aditivo Federado Multinivel (FeMAM)
Los autores proponen FeMAM, un marco flexible que modela el FL desde una perspectiva de no-IID multinivel. En lugar de una jerarquía fija, FeMAM aprende una jerarquía de modelos compartibles a través de múltiples granularidades (desde lo global hasta lo específico del cliente) y construye predictores personalizados mediante composición aditiva.

• Arquitectura Aditiva Multinivel: El sistema organiza el conocimiento en $L$ niveles. En cada nivel $l$, el servidor mantiene $K_l$ modelos que representan el conocimiento en esa granularidad. El predictor personalizado de un cliente se forma mediante la composición aditiva de un modelo seleccionado de cada nivel:
  $$f_i(X_i) = \sum_{l=1}^{L} \sum_{k=1}^{K_l} r_{i,k}^{(l)} f(X_i; \Theta_{k}^{(l)})$$
  donde $r_{i,k}^{(l)}$ es un indicador de asignación. Esta estructura permite un refinamiento de lo grueso a lo fino, donde los niveles superiores proporcionan una estructura compartida y los niveles inferiores actúan como correcciones residuales.

• Optimización tipo Boosting: Para evitar el costo de optimizar conjuntamente todos los niveles y la necesidad de preespecificar la profundidad de la jerarquía, FeMFAM emplea una estrategia de entrenamiento secuencial de tipo boosting. Aprende los niveles uno por uno, congelando los niveles previamente aprendidos y optimizando solo el nivel actual para minimizar el error residual. Esto asegura la estabilidad del entrenamiento y permite que el método se adapte a los datos sin comprometerse con una estructura fija de antemano.

• Poda de Estructura en el Cliente: Para garantizar la eficiencia de costos y prevenir el sobreajuste, FeMAM implementa un mecanismo de poda. Después de entrenar un nuevo nivel, un cliente lo acepta solo si reduce el error de validación. Esto resulta en una profundidad de personalización "bajo demanda" donde los clientes con distribuciones de datos más simples pueden detenerse en niveles anteriores, mientras que aquellos con heterogeneidad compleja utilizan jerarquías más profundas.

• Diseño Adaptativo al Costo: A pesar de mantener múltiples modelos, FeMAM sigue siendo eficiente en comunicación. Durante el entrenamiento, solo se comunica el modelo del nivel actual por cliente por ronda, manteniendo los costos de comunicación comparables a los del FL de un solo modelo. En la inferencia, los clientes almacenan solo los modelos que han aceptado, que son típicamente menos que la profundidad máxima de la jerarquía debido a la poda.

Contribuciones Clave

1. Formulación: El artículo formula la personalización federada bajo heterogeneidad no-IID multinivel, abordando la complejidad estructural inducida por las necesidades modernas de personalización de la IA.
2. Mecanismo: Introduce un mecanismo de personalización aditiva multinivel que construye los predictores de los clientes mediante una composición de estilo residual a través de los niveles, eliminando la necesidad de límites de tareas explícitos.
3. Algoritmo: Los autores proponen un flujo de entrenamiento de "crecimiento y poda" que expande progresivamente la jerarquía mientras poda niveles innecesarios por cliente, logrando adaptabilidad sin una estructura fija.
4. Teoría: Se proporciona un análisis de convergencia, mostrando que la secuencia de objetivos es monótona no creciente, de manera similar al gradient boosting.
5. Validación Empírica: Experimentos extensos demuestran que FeMAM supera consistentemente a las líneas base representativas de FL agrupado y personalizado en diversos entornos no-IID.

Resultados Experimentales
Los autores evaluaron FeMAM en conjuntos de datos de clasificación de imágenes (Tiny ImageNet, CIFAR-100) y en un escenario de modelo fundacional a gran escala (Qwen3-4B con LoRA en tareas FLAN-T5).

• Desempeño: FeMAM logró consistentemente la mayor precisión de prueba y puntuaciones de Macro-F1 a través de tres tipos de partición no-IID: por clúster, por cliente y multinivel. Superó a líneas base sólidas como FedAvg, Ditto, FeSEM, FedCAM y pFedMoE.
• Adaptabilidad: En entornos no-IID de nivel múltiple y de cliente, FeMAM utilizó automáticamente jerarquías más profundas (hasta 5 niveles), mientras que en entornos de clúster, podó hacia menos niveles, demostrando su capacidad para ajustarse a la estructura de los datos.
• Modelos Fundacionales: En el experimento a gran escala, FeMAM logró la pérdida promedio más baja y la puntuación ROUGE-1 más alta, superando a los métodos que dependen de diseños simples de global-local.
• Eficiencia: El método mostró un tiempo de ejecución (wall-clock runtime) competitivo (más rápido que Ditto) y eficiencia de comunicación. La poda aseguró que el número promedio de modelos almacenados por cliente se mantuviera bajo (por ejemplo, ~2.4 en entornos de clúster), reduciendo los costos de almacenamiento en comparación con métodos como FedEM.

Significancia y Reivindicaciones
El artículo afirma que FeMAM ofrece una solución robusta para la "tensión entre generalización y personalización" en el FL moderno. Su principal significancia radica en su capacidad para aproximar estructuras no-IID diversas y complejas sin requerir conocimiento previo del número de clústeres o de la profundidad de la jerarquía. Al tratar la profundidad de personalización como dependiente del cliente y utilizar un enfoque aditivo de estilo boosting, FeMAM se adapta a los datos en lugar de forzar los datos en una estructura de modelo predefinida. Los autores posicionan esto como un paso hacia el manejo de la heterogeneidad estructurada inherente a los sistemas de IA a gran escala, como los modelos fundacionales con adaptación en el lado del cliente.

Limitaciones y Trabajo Futuro
Los autores señalan modestamente que su evaluación actual de los componentes por nivel se limita a una instanciación representativa (FedAvg, agrupamiento K-means y ajuste fino local). Reconocen que un estudio sistemático de métodos alternativos por nivel (por ejemplo, IFCA, FedPer) y sus interacciones entre niveles sigue siendo una dirección abierta. Además, aunque se realizaron experimentos con modelos fundacionales, la escala fue menor que los despliegues realistas, lo que sugiere que el trabajo futuro debería evaluar FeMAM en conjuntos de tareas sustancialmente más grandes y diversos.