Non-Convex Over-the-Air Heterogeneous Federated Learning: A Bias-Variance Trade-off

Resumo Técnico: Aprendizado Federado Heterogêneo Não-Convexo via Ar (OTA)

1. Problema e Motivação

O Aprendizado Federado (FL) permite que dispositivos treinem modelos colaborativamente sem compartilhar dados brutos. No entanto, em redes sem fio, a transmissão de gradientes de alta dimensão enfrenta gargalos de largura de banda e ruído. A computação Over-the-Air (OTA) surge como uma solução escalável, explorando a superposição de ondas no canal de acesso múltiplo para agregar atualizações de modelos em uma única transmissão ("single-shot").

O artigo identifica duas lacunas críticas na literatura existente:

1. Heterogeneidade do Canal: Projetos OTA-FL anteriores geralmente assumem condições de canal homogêneas ou forçam atualizações de viés zero (zero-bias). Em cenários heterogêneos (onde dispositivos têm perdas de caminho diferentes), forçar o viés zero restringe o sistema ao dispositivo com o pior canal, resultando em uma alta variância nas atualizações do modelo.
2. Não-Convexidade: A maioria das análises de convergência para OTA-FL com viés assume funções objetivo convexas. Contudo, modelos modernos de aprendizado de máquina (como Redes Neurais Profundas) são altamente não-convexos, tornando as garantias anteriores inaplicáveis.

O objetivo deste trabalho é estudar o OTA-FL com Descida de Gradiente Estocástica (SGD) para objetivos suaves não-convexos sob heterogeneidade sem fio, propondo um equilíbrio entre viés e variância.

2. Metodologia

Modelo do Sistema:

• Considera-se $N$ dispositivos com canais de desvanecimento Rayleigh heterogêneos (perdas de caminho distintas).
• O servidor (Base Station) possui conhecimento apenas da CSI Estatística (ganho médio do canal), não da CSI Instantânea global.
• Os dispositivos utilizam pré-escaladores para ajustar a potência de transmissão antes de enviar os gradientes.

Proposta Principal: Viés Estruturado e Controlado
Ao invés de forçar o viés zero (o que exige inversão de canal perfeita e gera alta variância), os autores propõem permitir um viés estruturado e invariante no tempo.

• O agregado do gradiente global torna-se uma combinação convexa dos gradientes locais, mas com pesos ($p_m$) que não são necessariamente uniformes ($1/N$).
• Isso minimiza uma função objetivo modificada $\tilde{F}(w)$, introduzindo um viés, mas reduzindo drasticamente a variância das atualizações.

Análise de Convergência (Teorema 1):
Os autores derivam um limite de convergência de tempo finito para a norma quadrática média do gradiente (estacionariedade). O limite revela explicitamente um trade-off Viés-Variância:

• Termo de Variância: Inclui variância de transmissão (devido à inversão de canal truncada), variância de mini-lotes e ruído do receptor.
• Termo de Viés: Depende do desvio dos pesos de participação ($p_m$) em relação à uniformidade ($1/N$).
• A escolha dos pré-escaladores ($\gamma_m$) controla ambos os termos: aumentar $\gamma_m$ reduz o ruído do receptor (aumentando a potência efetiva), mas aumenta o viés ao distorcer os pesos de participação.

Otimização de Potência (Algoritmo SCA):
Para otimizar esse trade-off, o problema é formulado como um problema de controle de potência conjunta não-convexo.

• Desenvolve-se um algoritmo eficiente de Aproximação Convexa Sucessiva (SCA).
• O algoritmo lineariza os componentes não-convexos iterativamente.
• Vantagem Chave: O algoritmo requer apenas CSI Estatística na estação base, evitando a sobrecarga de sinalização necessária para obter CSI instantânea global em cada rodada.

3. Contribuições Principais

1. Generalização para Não-Convexidade: Estende a análise de OTA-FL para objetivos não-convexos, derivando limites de convergência que revelam o trade-off viés-variância, algo não abordado anteriormente em cenários heterogêneos.
2. Design de Viés Estruturado: Propõe um esquema de agregação que aceita um viés controlado para mitigar a variância causada por dispositivos com canais ruins, superando as limitações dos designs de viés zero.
3. Algoritmo de Otimização Eficiente: Desenvolve um algoritmo SCA para otimizar os pré-escaladores de potência, garantindo convergência para um ponto estacionário sem exigir CSI instantânea global.
4. Validação Empírica: Demonstra que permitir um viés controlado acelera a convergência e melhora a generalização em comparação com métodos de estado da arte.

4. Resultados Experimentais

Os experimentos foram realizados em uma tarefa de classificação de imagens (MNIST) com uma Rede Neural Conectada Totalmente (FCN) em um cenário de 10 dispositivos com dados não-i.i.d. (heterogêneos).

• Comparação: O método proposto (SCA) foi comparado com:
  • FedAvg Ideal (sem ruído).
  • Vanilla OTA-FL (força viés zero, requer CSI instantânea global).
  • OPC OTA-Comp (otimização de potência com CSI instantânea global).
  • LCPC e agendadores baseados em raio (BB-FL).
• Desempenho:
  • O método proposto alcançou uma convergência mais rápida e uma maior precisão final do que o Vanilla OTA-FL e outros métodos baseados em agendamento.
  • O desempenho foi muito próximo do OPC OTA-Comp (que usa CSI instantânea global), mas com uma sobrecarga de sinalização drasticamente menor, pois o método proposto usa apenas CSI estatística na base.
  • O design SCA conseguiu equilibrar o viés e a variância de forma superior, permitindo que o modelo se ajustasse mais rapidamente apesar da heterogeneidade do canal.

5. Significado e Conclusão

Este trabalho demonstra que, em ambientes de aprendizado federado sem fio heterogêneos e não-convexos, a busca obsessiva por atualizações de modelo "sem viés" (zero-bias) é contraproducente, pois penaliza o sistema com alta variância.

A principal contribuição teórica e prática é a validação de que permitir um viés estruturado e otimizado é uma estratégia superior. Ao aceitar um pequeno desvio da função objetivo global original, o sistema ganha robustez contra ruídos e variações de canal, resultando em uma convergência mais rápida e estável. Além disso, a proposta de usar apenas CSI estatística torna a solução viável para implementações em larga escala, onde a obtenção de CSI instantânea global é proibitivamente cara em termos de banda e latência.