Personalized Additive Modeling for Multi-level Federated Learning

Resumo Técnico: Modelagem Aditiva Personalizada para Aprendizado Federado de Múltiplos Níveis

Definição do Problema
O Aprendizado Federado (FL) contemporâneo enfrenta um desafio crítico: equilibrar a necessidade de generalização com a personalização específica do usuário na presença de dados de clientes altamente heterogêneos. As suposições padrão de FL de dados Independentes e Identicamente Distribuídos (IID) frequentemente falham em capturar os padrões não-IID complexos e estruturados encontrados em cenários do mundo real. Métodos existentes, incluindo o FL Agrupado (Clustered FL) e o FL Personalizado (PFL), são tipicamente projetados para configurações de heterogeneidade restritas, como um número fixo de clusters ou uma estrutura rígida de global-mais-local. Essas abordagens têm dificuldade quando as relações entre clientes exibem estruturas implícitas de múltiplos granulares (ex: semelhanças grosseiras ao nível de SO, padrões de subgrupos de aplicativos e traços de atividade de grão fino), pois exigem conhecimento prévio de fronteiras de tarefas ou se comprometem com uma hierarquia fixa que pode não corresponder à distribuição subjacente dos dados.

Metodologia: Modelagem Aditiva Federada de Múltiplos Níveis (FeMAM)
Os autores propõem o FeMAM, um framework flexível que modela o FL a partir de uma perspectiva não-IID de múltiplos níveis. Em vez de uma hierarquia fixa, o FeMAM aprende uma hierarquia de modelos compartilháveis através de múltiplas granularidades (do global ao específico do cliente) e constrói preditores personalizados via composição aditiva.

• Arquitetura Aditiva de Múltiplos Níveis: O sistema organiza o conhecimento em $L$ níveis. Em cada nível $l$, o servidor mantém $K_l$ modelos que representam o conhecimento naquela granularidade. O preditor personalizado de um cliente é formado pela composição aditiva de um modelo selecionado de cada nível:
  $$f_i(X_i) = \sum_{l=1}^{L} \sum_{k=1}^{K_l} r_{i,k}^{(l)} f(X_i; \Theta_{k}^{(l)})$$
  onde $r_{i,k}^{(l)}$ é um indicador de atribuição. Esta estrutura permite o refinamento de grosseiro para o fino, onde os níveis superiores fornecem a estrutura compartilhada e os níveis inferiores atuem como correções residuais.

• Otimização do tipo Boosting: Para evitar o custo de otimizar conjuntamente todos os níveis e a necessidade de pré-especificar a profundidade da hierarquia, o FeMAM emprega uma estratégia de treinamento sequencial, do tipo boosting. Ele aprende os níveis um por um, congelando os níveis aprendidos anteriormente e otimizando apenas o nível atual para minimizar o erro residual. Isso garante a estabilidade do treinamento e permite que o método se adapte aos dados sem se comprometer com uma estrutura fixa antecipadamente.

• Poda de Estrutura no Lado do Cliente: Para garantir a eficiência de custo e evitar o overfitting, o FeMAM implementa um mecanismo de poda. Após o treinamento de um novo nível, o cliente o aceita apenas se ele reduzir o erro de validação. Isso resulta em uma profundidade de personalização "sob demanda", onde clientes com distribuições de dados mais simples podem parar em níveis anteriores, enquanto aqueles com heterogeneidade complexa utilizam hierarquias mais profundas.

• Design Adaptável ao Custo: Apesar de manter múltiplos modelos, o FeMAM permanece eficiente em termos de comunicação. Durante o treinamento, apenas o modelo do nível atual é comunicado por cliente por rodada, mantendo os custos de comunicação comparáveis ao FL de modelo único. Na inferência, os clientes armazenam apenas os modelos que aceitaram, que é tipicamente inferior à profundidade máxima da hierarquia devido à poda.

Principais Contribuições

1. Formulação: O artigo formula a personalização federada sob heterogeneidade não-IID de múltiplos níveis, abordando a complexidade estrutural induzida pelas necessidades de personalização da IA moderna.
2. Mecanismo: Introduz um mecanismo de personalização aditiva de múltiplos níveis que constrói preditores de clientes via composição estilo residual entre níveis, eliminando a necessidade de fronteiras de tarefas explícitas.
3. Algoritmo: Os autores propõem um pipeline de treinamento "crescer-e-podar" que expande progressivamente a hierarquia enquanto poda níveis desnecessários por cliente, alcançando adaptabilidade sem uma estrutura fixa.
4. Teoria: Uma análise de convergência é fornecida, mostrando que a sequência de objetivos é monotonicamente não crescente, de forma semelhante ao gradient boosting.
5. Validação Empírica: Experimentos extensos demonstram que o FeMAM supera consistentemente baselines representativos de FL agrupado e personalizado em diversos cenários não-IID.

Resultados Experimentais
Os autores avaliaram o FeMAM em conjuntos de dados de classificação de imagens (Tiny ImageNet, CIFAR-100) e em um cenário de modelo de fundação de larga escala (Qwen3-4B com LoRA em tarefas FLAN-T5).

• Desempenho: O FeMAM alcançou consistentemente a maior acurácia de teste e escores de Macro-F1 em três tipos de partição não-IID: por Cluster, por Cliente e de Múltiplos Níveis. Superou baselines fortes como FedAvg, Ditto, FeSEM, FedCAM e pFedMoE.
• Adaptabilidade: Em configurações não-IID de múltiplos níveis e por cliente, o FeMAM utilizou automaticamente hierarquias mais profundas (até 5 níveis), enquanto em configurações de Cluster, ele podou para menos níveis, demonstrando sua capacidade de corresponder à estrutura subjacente dos dados.
• Modelos de Fundação: No experimento de larga escala, o FeMAM alcançou o menor loss médio e o maior score ROUGE-1, superando métodos que dependem de designs simples de global-local.
• Eficiência: O método mostrou tempo de execução (wall-clock runtime) competitivo (mais rápido que o Ditto) e eficiência de comunicação. A poda garantiu que o número médio de modelos armazenados por cliente permanecesse baixo (ex: ~2.4 em configurações de Cluster), reduzindo custos de armazenamento em comparação com métodos como o FedEM.

Significância e Alegações
O artigo alega que o FeMAM oferece uma solução robusta para a "tensão entre generalização e personalização" na IA moderna. Sua principal significância reside na capacidade de aproximar estruturas não-IID diversas e complexas sem exigir conhecimento prévio do número de clusters ou da profundidade da hierarquia. Ao tratar a profundidade de personalização como dependente do cliente e usar uma abordagem aditiva do tipo boosting, o FeMAM adapta-se aos dados em vez de forçar os dados em uma estrutura de modelo predefinida. Os autores posicionam isso como um passo em direção ao tratamento da heterogeneidade estruturada inerente aos sistemas de IA de grande escala e múltiplas capacidades, como modelos de fundação com adaptação no lado do cliente.

Limitações e Trabalhos Futuros
Os autores observam modestamente que sua avaliação atual de componentes por nível é limitada a uma instanciação representativa (FedAvg, agrupamento K-means e fine-tuning local). Eles reconhecem que um estudo sistemático de métodos alternativos por nível (ex: IFCA, FedPer) e suas interações entre níveis permanece uma direção aberta. Adicionalmente, embora experimentos com modelos de fundação tenham sido realizados, a escala foi menor do que implementações realistas, sugerindo que trabalhos futuros devem avaliar o FeMAM em conjuntos de tarefas substancialmente maiores e mais diversos.