🤖 machine learning

Differentiated Aggregation to Improve Generalization in Federated Learning

Este artigo propõe o FedALS, um novo algoritmo de aprendizado federado que reduz os custos de comunicação e melhora a generalização do modelo em cenários não-iid ao aplicar frequências de agregação diferenciadas ao extrator de representação e à cabeça do modelo com base em limites teóricos de generalização e análise de aprendizado de representação.

Autores originais: Peyman Gholami, Hulya Seferoglu

Publicado 2026-08-27

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Peyman Gholami, Hulya Seferoglu

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

No cenário digital moderno, uma revolução silenciosa está remodelando a forma como a inteligência artificial aprende. Tradicionalmente, treinar um programa de computador inteligente requer a coleta de vastas quantidades de dados pessoais — fotos, mensagens, registros médicos — em um único e massivo armazém central. Essa abordagem, embora eficaz, levanta sérias preocupações sobre privacidade e segurança. O aprendizado federado oferece um caminho diferente. Em vez de mover os dados para um computador central, o modelo de computador viaja até os dados. Imagine um professor visitando várias salas de aula diferentes, aprendendo com os cadernos locais dos alunos e, depois, retornando a um escritório central para atualizar seus métodos de ensino. Neste sistema, os dados brutos nunca deixam o dispositivo individual, seja ele um smartphone ou um servidor de hospital. Os dispositivos realizam o trabalho pesado do aprendizado localmente, e apenas os insights resultantes, não a informação privada em si, são enviados de volta para serem combinados.

No entanto, este método colaborativo enfrenta um obstáculo significativo: o custo de comunicação. Enviar um modelo grande e complexo de ida e volta entre milhares de dispositivos e um servidor central consome uma largura de banda e um tempo imensos, muito parecido com tentar enviar pelo correio uma biblioteca de livros de ida e volta toda vez que uma única página é corrigida. Esse gargalo é especialmente agudo quando os dados mantidos por cada dispositivo são únicos e diferentes dos outros, uma situação que os pesquisadores chamam de distribuição não uniforme. Nesses casos, os dispositivos frequentemente lutam para concordar com um único modelo eficaz, levando a um ciclo de atualizações constantes e caras que podem não gerar um resultado mais inteligente. A questão que os cientistas enfrentam é como tornar esse processo de aprendizado colaborativo mais rápido e eficiente sem sacrificar a qualidade da inteligência final.

Uma equipe de pesquisadores da Universidade de Illinois Chicago propôs uma solução inovadora que altera o ritmo desta colaboração. O trabalho deles, publicado na Transactions on Machine Learning Research, sugere que nem todas as partes de um modelo de aprendizado precisam ser atualizadas na mesma velocidade. Para entender a descoberta deles, deve-se primeiro olhar dentro de um modelo típico de inteligência artificial usado para tarefas como reconhecimento de imagens. Esses modelos são construídos como um pipeline com duas seções distintas. A primeira seção, que geralmente compreende as camadas iniciais, atua como um extrator de características gerais. Ela aprende a identificar padrões universais, como a forma de um olho, a curva de uma orelha ou a textura de um pelo, independentemente de o sujeito ser um cão, um gato ou um pássaro. A segunda seção, conhecida como "cabeça" (head), situa-se no final do pipeline e especializa-se na tarefa final, como decidir se a imagem é especificamente um cão ou um gato.

Os pesquisadores observaram que as camadas iniciais e gerais do modelo tendem a parecer muito semelhantes entre diferentes dispositivos, mesmo quando esses dispositivos detêm tipos de dados completamente diferentes. Como essas camadas estão aprendendo características compartilhadas e universais, elas não precisam ser sincronizadas constantemente. Em contraste, as camadas finais, que são adaptadas aos dados locais específicos, divergem mais rapidamente e exigem uma coordenação mais frequente para garantir que o grupo permaneça no mesmo caminho. Com base nessa percepção, a equipe desenvolveu um novo algoritmo chamado FedALS, ou Aprendizado Local Adaptativo Federado (Federated Learning with Adaptive Local Steps). Este método permite que as partes de extração de características gerais do modelo realizem muito mais etapas de aprendizado localmente antes de serem enviadas de volta ao servidor central para uma atualização de grupo. Enquanto isso, as camadas finais especializadas são atualizadas e compartilhadas com muito mais frequência.

Esta abordagem é fundamentada em uma análise matemática rigorosa de como esses modelos generalizam, ou quão bem eles performam em novos dados não vistos. Os pesquisadores derivaram uma nova fórmula para prever a taxa de erro do processo de aprendizado, mostrando que, em situações onde os dados estão distribuídos de forma desigual, permitir que as camadas gerais aprendam mais localmente melhora, de fato, a capacidade do modelo de lidar com dados diversos. Ao reduzir a frequência de atualizações para as partes do modelo que já estão em acordo, o sistema reduz drasticamente a quantidade de dados que precisam ser transmitidos. Os pesquisadores testaram essa ideia usando conjuntos de dados de imagens padrão como o CIFAR-10 e CIFAR-100, bem como um grande modelo de linguagem chamado OPT-125M. Em seus experimentos, eles simularam uma rede de cinco dispositivos trabalhando juntos.

Os resultados foram claros. Em cenários onde os dados estavam distribuídos de forma desigual, o novo método produziu modelos que eram mais precisos do que aqueles treinados com cronogramas de atualização uniformes tradicionais. Por exemplo, ao treinar um modelo para reconhecer imagens no conjunto de dados SVHN, a nova abordagem alcançou uma precisidade de aproximadamente 81 por cento, comparada a cerca de 70 por cento do método padrão. Crucialmente, essa melhoria veio acompanhada de uma redução significativa nos custos de comunicação. Ao ajustar a frequência com que diferentes partes do modelo eram compartilhadas, os pesquisadores reduziram o número de parâmetros que precisavam ser transmitidos por um fator de dez em algumas configurações, sem perder o desempenho. Eles descobriram que existe um ponto ideal para este ajuste; aumentar demais as etapas de aprendizado local acaba prejudicando a capacidade do modelo de concordar sobre a tarefa final, mas encontrar o equilíbrio certo produz um sistema que é simultaneamente eficiente e inteligente.

O estudo também explorou como este novo método interage com outras técnicas existentes projetadas para lidar com dados desiguais. Eles descobriram que sua abordagem complementa outros algoritmos avançados, o que significa que podem ser usados juntos para melhorar ainda mais os resultados. No entanto, os pesquisadores observaram que esta vantagem específica é mais pronunciada quando os dados entre os dispositivos são diferentes. Quando os dados são uniformes e idênticos em todos os dispositivos, os benefícios desta abordagem adaptativa são mínimos, pois o método padrão já performa bem nessas condições. O trabalho fornece um caminho claro e prático para tornar o aprendizado federado mais viável para aplicações do mundo real, onde a largura de banda é limitada e os dados são diversos. Ao reconhecer que diferentes partes de um "cérebro de aprendizado" exigem ritmos de colaboração diferentes, os pesquisadores mostraram uma maneira de construir sistemas mais inteligentes que respeitam a privacidade enquanto comunicam menos.

Resumo Técnico: Agregação Diferenciada para Melhorar a Generalização em Aprendizado Federado

Declaração do Problema

O Aprendizado Federado (FL) permite que múltiplos clientes treinem modelos colaborativamente sob um servidor central sem compartilhar dados brutos. No entanto, este paradigma enfrenta um gargalo significativo: altos custos de comunicação, particularmente na troca de grandes parâmetros de modelos entre clientes e o servidor. Embora estratégias existentes abordem isso por meio de técnicas como Local SGD (múltiplas atualizações locais), poda (pruning) e quantização, elas frequentemente tratam o modelo como uma entidade monolítica.

Um desafio crítico no FL é a distribuição de dados não-iid (heterogênea) entre os clientes. Quando os dados são não-iid, os clientes tendem a derivar em direção aos seus ótimos locais, aumentando a "distância de consenso" (a divergência entre os modelos locais e a média global). Esse desvio degrada o desempenho de generalização do modelo global. Além disso, os limites teóricos atuais de generalização para FL frequentemente falham em considerar as propriedades estruturais específicas de redes neurais profundas ou oferecem limites imprecisos em cenários não-iid, limitando a capacidade de projetar algoritmos que reduzam simultaneamente o overhead de comunicação e melhorem a generalização.

Metodologia e Análise Teórica

1. Limites de Generalização Melhorados

Os autores derivam limites de erro de generalização mais estreitos tanto para o Federated Averaging (FedAvg) de uma rodada quanto de $R$ rodadas.

Limite de Uma Rodada: O artigo estabelece um limite que depende da generalização local dos clientes e do grau de não-iidness. Crucialmente, no cenário iid, o limite melhora por um fator de $1/K^2$ (onde $K$ é o número de clientes), uma melhoria significativa em relação à dependência $1/K$ do estado da arte. Em cenários não-iid, o limite revela que a média não reduz necessariamente o erro de generalização se a distância de consenso for substancial.
Limite de $R$ Rodadas: A análise estende-se ao FedAvg de múltiplas rodadas, caracterizando o erro em termos do número de rodadas ( $R$ ), passos locais ( $\tau$ ), complexidade do modelo e não-iidness. A análise sugere que aumentar o número de passos locais ( $\tau$ ) pode estreitar o limite de generalização, desde que o aumento na não-iidness seja gerenciado.

2. Interpretação por Aprendizado de Representação

O artigo utiliza a teoria do aprendizado de representação para interpretar esses limites. Ele postula que redes neurais profundas consistem em duas partes funcionais distintas:

Extrator de Representação ( $\phi$ ): Tipicamente as camadas iniciais, responsáveis por extrair características gerais (ex: bordas, formas) que são semelhantes entre diferentes clientes e tarefas.
Cabeça ( $h$ ): As camadas finais, responsáveis pela classificação ou predição específica da tarefa, que são altamente sensíveis à distribuição de dados específica de cada cliente.

Os autores argumentam que, em cenários não-iid, a distância de consenso para o extrator de representação é naturalmente menor do que a da cabeça, porque as características subjacentes são compartilhadas entre os clientes. Por outro lado, a cabeça diverge significativamente devido às diferenças na distribuição de rótulos.

3. O Algoritmo FedALS

Com base nos limites teóricos e no insight de aprendizado de representação, os autores propõem o Aprendizado Federado com Passos Locais Adaptativos (FedALS).

Mecanismo Central: O FedALS desacopla a frequência de agregação do extrator de representação e da cabeça.
Passos Locais Adaptativos: O algoritmo atribui um número maior de atualizações locais ( $\tau_\phi$ ) ao extrator de representação e um número menor de atualizações locais ( $\tau_h$ ) à cabeça.
Coeficiente de Adaptação ( $\alpha$ ): Definido como $\alpha = \tau_\phi / \tau_h$ , este hiperparâmetro controla a razão de passos locais. Um $\alpha$ mais alto significa que as camadas de extração de características são atualizadas localmente com mais frequência antes da agregação, enquanto a cabeça é agregada com mais frequência.
Redução de Comunicação: Ao agregar o extrator de representação com menos frequência, o volume total de dados transmitidos entre os clientes e o servidor é significamente reduzido.

Principais Contribuições

Limites de Generalização Mais Estreitos: O artigo fornece um novo limite de generalização para FL que oferece uma dependência de $1/K^2$ em cenários iid (melhorando os limites $1/K$ existentes) e caracteriza explicitamente o impacto da generalização local e da não-iidness.
Insight de Aprendizado de Representação: Demonstra teórica e empiricamente que as camadas iniciais (representações) exibem maior similaridade entre clientes não-iid do que as camadas finais (cabeças), justificando estratégias de agregação diferenciada.
Algoritmo FedALS: O design de um novo algoritmo que emprega frequências de agregação variadas para diferentes partes do modelo. Esta abordagem reduz os custos de comunicação enquanto aumenta a generalização do modelo em ambientes heterogêneos.
Avaliação Abrangente: Experimentos extensos em classificação de imagens (CIFAR-10, CIFAR-100, SVHN, MNIST) e ajuste fino de Grandes Modelos de Linguagem (LLM) (OPT-125M no MultiNLI).

Resultados Experimentais

Os autores avaliaram o FedALS usando ResNet-20 para classificação de imagens e OPT-125M para ajuste fino de LLM sob distribuições de dados iid e não-iid.

Desempenho Não-IID: Em cenários não-iid, o FedALS superou significativamente o baseline FedAvg e o SCAFFOLD em termos de acurácia de teste. Por exemplo, no CIFAR-10, o FedALS alcançou 52,2% de acurácia comparado a 46,5% do FedAvg. No SVHN, atingiu 81,2% contra 70,1%.
Eficiência de Comunicação: Ao aumentar os passos locais para o extrator de representação (controlado por $\alpha$ ), o FedALS reduziu o volume de parâmetros comunicados. Com $\alpha=10$ , o overhead de comunicação foi reduzido em aproximadamente 90% em comparação ao FedAvg padrão (de 2,344B para 0,239B de parâmetros comunicados por cliente no experimento de SVHN) mantendo ou melhorando a acurácia.
Desempenho IID: Em cenários iid, a melhoria de desempenho do FedALS sobre o FedAvg foi negligenciável, o que está alinhado com a expectativa teórica de que o benefício de $1/K^2$ já é realizado pela média padrão em dados homogêneos.
Integração com SCAFFOLD: Os autores investigaram a combinação do FedALS com o SCAFFOLD para aproveitar tanto a redução de variância quanto a agregação diferenciada. No entanto, os resultados experimentais na Tabela 1 indicam que esta combinação não produz consistentemente novas melhorias sobre o FedALS sozinho. Por exemplo, no CIFAR-10 (Não-IID), o FedALS alcançou 0,522 de acurácia, enquanto o FedALS + SCAFFOLD alcançou 0,512. Da mesma forma, no SVHN, o FedALS chegou a 0,812, enquanto a abordagem combinada resultou em 0,810, mostrando uma leve degradação no desempenho.
Sensibilidade ao Hiperparâmetro: Experimentos mostraram que aumentar $\alpha$ melhora a acurácia até um limite (em torno de $\alpha=10$ ), após o qual o desempenho degrada devido à não-iidness excessiva nas camadas de representação.

Significância e Alegações

O artigo alega que a agregação diferenciada é um alavancagem fundamental, porém anteriormente subutilizada, para melhorar o FL. Ao reconhecer que diferentes partes de uma rede neural possuem diferentes sensibilidades à heterogeneidade dos dados, o FedALS alcança um duplo benefício:

Redução do Custo de Comunicação: Menos transmissões do extrator de representação.
Melhoria da Generalização: Permitindo que o extrator de representação aprenda características robustas e compartilhadas através de mais atualizações locais sem ser prematuramente limitado pela média global.

Os autores afirmam que esta abordagem fornece uma nova perspectiva teórica sobre a generalização em FL e oferece uma solução prática e escalável para implantar grandes modelos em ambientes federados heterogêneos e com recursos limitados. O trabalho é apresentado como um passo para entender como a dinâmica de atualização local e a arquitetura do modelo interagem para determinar o desempenho do modelo global.