Resumo Técnico: Onboarding Sem Esquecimento: Personalização de Hiperredes com Replay Livre de Dados para Aprendizado Federado Personalizado

1. Formulação do Problema: Onboarding Progressivo de Clientes em FL (PCO-FL)

O artigo identifica uma lacuna na literatura existente de Aprendizado Federado Personalizado (pFL) e Aprendizado Contínuo Federado (FCL). Enquanto o pFL padrão assume um conjunto estático de clientes e o FCL assume mudanças sequenciais de tarefas, cenários do mundo real frequentemente envolvem um espaço de tarefas e rótulos fixo onde a população de clientes evolui ao longo do tempo.

Os autores definem este cenário como Onboarding Progressivo de Clientes em Aprendizado Federado (PCO-FL). Neste regime:

• Estabilidade da Tarefa: A tarefa de classificação e o espaço de rótulos permanecem constantes.
• Cohortes Dinâmicas: Clientes chegam em lotes ($B_t$) ao longo do tempo. Uma vez integrados (onboarded), os clientes existentes ($C_{<t}$) não são retreinados localmente; eles permanecem "congelados" enquanto novos lotes se juntam.
• O Conflito Central:
  1. Adaptação Proativa (PA): Atualizar o modelo compartilhado com novos clientes melhora o desempenho deles (fornecendo uma inicialização forte), mas tipicamente degrada a precisão dos clientes existentes devido ao desalinhamento de gradientes e conflitos de capacidade.
  2. Melhoria Retróativa (RI): Congelar o modelo compartilhado protege os clientes existentes, mas impede que eles se beneficiem do novo conhecimento adquirido pelos lotes posteriores.

O objetivo é maximizar a PA para novos clientes enquanto garante uma RI não negativa (melhoria ou estabilidade) para os clientes existentes sem retreiná-los ou acessar seus dados brutos.

2. Metodologia: pFedDSH

Para abordar esses trade-offs, os autores propõem o pFedDSH (Aprendizado Federado Personalizado via Sub-Hiperrede Livre de Dados). O framework consiste em três componentes integrados:

A. Hiperrede Central para Personalização

Em vez de treinar modelos locais diretamente, um servidor central mantém uma hiperrede $H(\cdot; \phi)$.

• Mecanismo: Cada cliente $c$ é representado por um embedding $e_c$. A hiperrede gera pesos personalizados $\theta_c = H(e_c; \phi)$ para a arquitetura base.
• Benefício: Isso permite que o servidor controle a personalização, gere modelos instantâneos para novos clientes e gerencie a alocação de capacidade centralmente sem exigir o ajuste fino (fine-tuning) local dos parâmetros da hiperrede pelos clientes.

B. Mascaramento Binário Específico por Lote

Para evitar que novas atualizações sobrescrevam o conhecimento crítico para os clientes existentes, o método emprega máscaras binárias aprendíveis.

• Alocação de Capacidade: Para cada etapa de onboarding $t$ e camada $\ell$, o servidor aprende logits de máscara $z^{(\ell)}_t$. Uma função sigmoide com uma escala alta $\gamma$ converte esses valores em portas quase binárias $g^{(\ell)}_t$.
• União Cumulativa: Uma máscara cumulativa $m^{(\ell)}_{\le t}$ é mantida como o máximo elemento a elemento das máscaras anteriores e da porta do passo atual.
• Modulação de Gradiente: Os gradientes são modulados de modo que os pesos só sejam atualizados se envolverem novos canais ativos no passo $t$. Se uma conexão já foi alocada para um lote anterior, seu gradiente é zerado, efetivamente congelando essa capacidade para os clientes existentes enquanto permite que a nova capacidade absorva as atualções conflitantes.

C. Replay Livre de Dados no Lado do Servidor

Como os clientes existentes não retreinam e seus dados são privados, o servidor utiliza DeepInversion para sintetizar dados e propagar melhorias retroativamente.

• Síntese: O servidor gera imagens sintéticas $\tilde{x}$ otimizando uma função de perda que combina as estatísticas de execução (média e variância) das camadas BatchNorm da fase de treinamento do cliente, junto com regularização de Variação Total (TV) e L2 para garantir uma estrutura de imagem natural.
• Ajuste Fino Retróativo: Usando o conjunto de dados sintético $S_t$ derivado do lote atual, o servidor realiza o ajuste fino da hiperrede. Crucialmente, ele recupera a sub-rede específica definida pela máscara específica do lote de cada lote anterior $t' < t$ e atualiza esses parâmetros.
• Resultado: Isso permite que o servidor "ensine" aos clientes existentes o novo conhecimento derivado dos lotes recentes sem exigir que os clientes possuam dados brutos ou realizem treinamento local.

3. Principais Contribuições

1. Definição de PCO-FL: O artigo introduz formalmente e analisa o cenário de Onboarding Progressivo de Clientes, distinguindo-o do pFL e FCL padrão ao apresentar uma tarefa fixa, mas com uma população de clientes em evolução.
2. Investigação Empírica: Através de experimentos controlados, os autores demonstram que:
   • A agregação progressiva ajuda novos clientes (PA positiva), mas prejudica os existentes (RI negativa).
   • Congelar o modelo protege os clientes existentes (RI $\approx$ 0), mas impede a transferência de conhecimento.
   • É necessário um mecanismo para alcançar tanto PA positiva quanto RI positiva simultaneamente.
3. Framework pFedDSH: A proposta de uma nova arquitetura combinando hiperredes, mascaramento específico por lote e replay livre de dados para resolver o dilema do onboarding.
4. Avaliação Abrangente: Experimentos extensos mostrando que o pFedDSH supera os tradicionais métodos de pFL, hiperredes de entrada tardia de clientes e baselines de FCL em múltiplos datasets (CIFAR-10, CIFAR-100, Tiny-ImageNet).

4. Resultados Experimentais

Os autores avaliam o pFedDSH contra baselines (FedPer, FedRep, FedSelect, pFedHN, PeFLL, FedWeIT, etc.) sob vários cronogramas de onboarding (2, 5 e 11 lotes).

• Desempenho (PA & RI):
  • Clientes Existentes: O pFedDSH é o único método que alcança consistentemente uma RI positiva (ex: +3.80% a +6.20% no CIFAR-10 dependendo do cronograma), o que significa que os clientes existentes realmente melhoram à medida que novos lotes se juntam. Todos os outros baselines sofrem quedas significativas de precisão (RI negativa).
  • Novos Clientes: O pFedDSH mantém uma forte PA (ganhos sobre o treinamento isolado), comparável ou superior a outros métodos baseados em hiperredes.
• Eficiência de Capacidade:
  • A análise do uso de neurônios mostra que o pFedDSH não aloca sub-redes disjuntas para cada lote. Em vez disso, ele reutiliza até ~40% dos canais entre os lotes, aumentando a capacidade total gradualmente apenas quando necessário.
• Eficiência:
  • Comunicação: O overhead de comunicação por rodada é comparável aos outros métodos de hiperrede (diferindo por apenas alguns kilobytes).
  • Latência: Embora o replay no lado do servidor adicione computação, o pFedDSH o executa apenas uma vez por lote (custo amortizado), resultando em um aumento modesto de latência em comparação com métodos que executam o replay a cada rodada (como HR) ou que não utilizam replay.

5. Significância e Alegações

O artigo afirma que o pFedDSH oferece uma solução prática para sistemas federados reais onde a participação dos clientes é dinâmica. Sua significância reside em:

• Resolver o Trade-off "Onboarding vs. Esquecimento": Demonstra que é possível realizar o onboarding de novos clientes e melhorar o conhecimento global do sistema sem sacrificar o desempenho dos clientes incumbentes.
• Preservação de Privacidade: Ao usar o replay livre de dados no lado do servidor (sintetizando imagens a partir de estatísticas de BatchNorm em vez de dados brutos ou gradientes), o método facilita a transferência de conhecimento sem expor os dados dos clientes, abordando uma preocupação crítica de privacidade em FL.
• Escalabilidade: O mecanismo de mascaramento garante que o modelo não cresça linearmente com o número de lotes, tornando-o escalável para implantações de longo prazo.

Os autores concluem que o pFedDSH preenche a lacuna entre personalização e aprendizado contínuo em um cenário anteriormente negligenciado, fornecendo um framework robusto para cohortes de clientes em evolução em domínios sensíveis à privacidade, como a saúde.