Enhanced Byzantine-Robust Federated Learning Via Truncated-Quadratic Loss for Heterogeneous Data

Declaração do Problema
O Aprendizado Federado (FL) permite o treinamento de modelos de aprendizado profundo em clientes distribuídos (por exemplo, dispositivos móveis, sensores) sem compartilhar dados brutos, aumentando assim a privacidade. No entanto, essa arquitetura distribuída introduz vulnerabilidades a ataques bizantinos, nos quais clientes maliciosos enviam atualizações arbitrárias para interromper o processo de aprendizado. Além disso, cenários reais de FL envolvem dados heterogêneos (não-IID), onde as distribuições de dados variam significamente entre os clientes. Regras de agregação robustas existentes, como Krum, Mediana por Coordenada (CM) e Agregação Federada Robusta (RFA), frequentemente assumem homogeneidade de dados e degradam sob heterogeneidade. Embora o Clipping Centralizado (CC) e agregadores baseados na perda de Huber tenham sido propostos para lidar com dados heterogêneos, este artigo identifica que eles sofrem de uma falha crítica: produzem soluções enviesadas quando confrontados com outliers de grande magnitude, particularmente sob condições de alta heterogeneidade de dados ou uma fração substancial de clientes bizantinos. Esse viés se acumula ao longo das rodadas de comunicação, levando à falha do aprendizado.

Metodologia
O artigo propõe uma nova regra de agregação robusta baseada na perda Quadrática Truncada (TQ). A metodologia procede através das seguintes etapas:

1. Análise Teórica de Métodos Existentes: Os autores utilizam primeiro a teoria do conjugado convexo para demonstrar a equivalência entre o Clipping Centralizado (CC) e a minimização da perda de Huber para FL robusto a bizantinos. Eles provam que ambos satisfazem a $(f, \kappa)$-robustez, mas compartilham uma limitação comum: empregam a norma $\ell_1$ (ou mecanismos de clipping equivalentes) para resistir a outliers. O artigo analisa teoricamente e demonstra que essa abordagem gera um viés que cresce com a heterogeneidade dos dados e a fração de clientes bizantinos.
2. Proposta da Perda Quadrática Truncada (TQ): Para mitigar o viés inerente ao Huber/CC, os autores introduzem a função de perda TQ. Diferente do Huber, que cresce linearmente para grandes erros, a TQ corta totalmente a perda de outliers uma vez que estes excedem um limiar $\tau$. O problema de agregação é formulado como a minimização da soma das perdas TQ sobre as atualizações dos clientes.
3. Otimização e Implementação: Como a perda TQ não é suave e não é convexa, os autores utilizam a teoria do conjugado convexo para recodificar o problema de minimização em uma forma iterativa equivalente (Algoritmo 1). Isso permite o cálculo eficiente onde as atualizações são limitadas com base na distância em relação ao agregado atual.
4. Estimativa de Hiperparâmetros: A regra TQ requer um parâmetro de limiar $\tau_k$ e o conhecimento do número de clientes bizantinos ($f$). O artigo propõe uma estratégia de estimativa de desvio robusta usando a Mediana e o Desvio Absoluto da Mediana (MAD) para estimar a média e a variância dos clientes bons sem conhecimento prévio. Adicionalmente, os autores analisam o cenário onde apenas uma estimativa do número de clientes bizantinos ($\hat{f}$) está disponível, mostrando que o agregador permanece robusto mesmo se $\hat{f}$ for uma superestimativa (até o ponto de ruptura).
5. Integração ao Algoritmo de FL: O agregador TQ é integrado a um framework de FL robusto a bizantinos (Algoritmo 2) utilizando momentum para reduzir a variância do gradiente e combater ataques acoplados no tempo.

Principais Contribuições

• Equivalência e Análise de Viés: O artigo estabelece formalmente a equivalência entre a perda de Huber e o Clipping Centralizado via teoria do conjugado convexo. Fornece uma análise teórica mostrando que ambos produzem soluções enviesadas sob heterogeneidade e outliers, explicando suas falhas empíricas.
• Agregador TQ: Os autores propõem o agregador baseado em TQ, que mitiga efetivamente o viés dos métodos existentes ao cortar completamente outliers de grande magnitude.
• Garantias de Robustez: O artigo prova que o agregador TQ satisfaz a $(f, \kappa)$-robustez com um ponto de ruptura $\delta_{min} = 0.5$. Demonstra que o TQ alcança o aprendizado de ordem ótima para funções de perda não convexas e dados heterogêneos.
• Estratégias de Estimativa Prática: Uma estratégia de estimativa de desvio robusta é fornecida para o hiperparâmetro TQ, e o artigo analisa o impacto de estimar o número de clientes bizantinos, mostrando que o método permanece eficaz mesmo com estimativas imperfeitas.

Resultados Experimentais
O agregador TQ proposto foi avaliado nos conjuntos de dados MNIST, Fashion-MNIST e CIFAR-10 sob várias condições:

• Tipos de Ataque: O desempenho foi testado contra seis ataques distintos: Ataque Gaussiano (GA), Inversão de Rótulo (LF), Inversão de Bit (BF), Manipulação de Produto Interno (IPM), MIMIC e "A Little Is Enough" (ALIE).
• Heterogeneidade: Os experimentos cobriram graus variados de heterogeneidade de dados ($\rho$).
• Comparações: O TQ foi comparado contra RFA, CM, TM, Krum, Huber e Agregação de Correntropia Máxima (MCA), tanto com quanto sem etapas de pré-agregação como Bucketing e Mistura de Vizinho Mais Próximo (NNM).

Descobertas:

• Robustez Superior: O TQ superou consistentemente os agregadores concorrentes, particularmente sob alta heterogeneidade de dados e altas frações de clientes bizantinos (até 50%).
• Mitigação de Viés: Diferente do Huber e do CC, que mostraram degradação significativa de desempenho e acúmulo de viés conforme o número de clientes bizantinos aumentava, o TQ manteve alta precisão.
• Ataques Mistos: Em cenários onde diferentes clientes bizantinos lançaram diferentes tipos de ataques simultaneamente, o TQ superou significativamente outros métodos através de vários níveis de heterogeneidade.
• Robustez de Estimativa: Os resultados indicaram que o TQ mantém a robustez mesmo quando o número de clientes bizantinos é estimado em vez de conhecido exatamente.

Significância e Alegações
O artigo afirma que o agregador TQ proposto aumenta a confiabilidade dos sistemas de aprendizado federado ao abordar os modos de falha específicos dos métodos de estado da arte sob heterogeneidade de dados. Ao provar que o TQ alcança o erro de aprendizado de ordem ótima (alinhando-se com o limite inferior teórico descrito no Lema 2), os autores argumentam que seu método representa um passo significativo à frente no FL robusto a bizantinos. O trabalho fornece tanto a justificativa teórica para a falha do Huber/CC em configurações heterogêneas quanto uma alternativa prática e robusta que não requer conhecimento preciso do número de clientes maliciosos.