Resumo Técnico: VARS-FL

Declaração do Problema

Sistemas de Aprendizado Federado (FL), particularmente em ambientes de Internet das Coisas (IoT) e Internet das Coisas Industrial (IIoT), enfrentam desafios significativos devido à heterogeneidade de dados (Não-IID) e à sobrecarga de comunicação. Estratégias existentes de seleção de clientes, como o FedAvg padrão, tipicamente empregam seleção sem estado, tratando cada rodada de comunicação de forma independente sem aproveitar o desempenho histórico dos clientes. Isso leva a um treinamento ineficiente e a uma convergência lenta, especialmente quando os clientes possuem classes de dados raras, mas críticas (por exemplo, tipos específicos de ataques em detecção de intrusão).

Um problema mais sutil, mas crítico, é o desalinhamento de objetivos. Muitos métodos de seleção dependem de proxies locais (por exemplo, perda de treinamento local ou normas de gradiente) para estimar a utilidade do cliente. Sob condições Não-IID, um cliente com alta perda local pode simplesmente ter uma distribuição de dados divergente do modelo global, em vez de ser globalmente informativo. Priorizar tais clientes pode enviesar o modelo global para ótimos locais, causando dinâmicas de treinamento instáveis e falha na convergência. Além disso, em ambientes de IoT altamente heterogêneos, clientes que detêm classes minoritárias são frequentemente subselecionados devido à amostragem aleatória, levando a uma generalização pobre em tipos de ataques raros.

Metodologia: VARS-FL

Os autores propõem o VARS-FL (Avaliação de Reputação Alinhada à Validação para Aprendizado Federado), um framework de seleção de clientes projetado para abordar a ausência de estado e o desalinhamento de objetivos sem modificar os protocolos de treinamento local ou de agregação.

Componentes Principais

1. Avaliação de Qualidade Alinhada à Validação:
   Em vez de usar proxies locais, o servidor avalia a contribuição de cada cliente medindo a redução na perda de validação do lado do servidor induzida pela atualização do cliente.

   • Seja $L_{val}(\theta)$ a perda de validação. Para um cliente $i$ na rodada $t$, a melhoria $\delta_i^t$ é calculada como $\max(0, L_{val}(\theta^{t-1}) - L_{val}(\theta_i^t))$.
   • Este sinal está inerentemente alinhado com o objetivo de otimização global, garantindo que os clientes selecionados contribuam para a generalização global e não apenas para o ajuste local.
   • As pontuações são normalizadas dentro da rodada para enfatizar a contribuição relativa.

2. Mecanismo de Reputação:
   Para superar o ruído dos sinais de rodada única, o VARS-FL agrega evidências ao longo do tempo em uma pontuação de Reputação ($R_i^t$).

   • Combina uma média de janela deslizante ($\bar{Q}_i^{(t)}$) das pontuações de qualidade recentes com um termo de participação escalado logaritmicamente ($\log(1 + p_i^t)$).
   • O termo logarítmico garante que a participação frequente, por si só, não garanta a seleção; é necessária qualidade consistente. Isso previne o fenômeno "o rico fica mais rico", mantendo a robustez.

3. Estratégia de Seleção Explorar–Explorar:
   A seleção de clientes é formulada como um problema de Bandido Multibraço (MAB).

   • Exploração: A maioria das vagas ($m_{rep}$) é preenchida por clientes com as maiores pontuações de Reputação.
   • Exploração: As vagas restantes ($m_{rnd}$) são preenchidas via amostragem aleatória uniforme para garantir que clientes potencialmente informativos (especialmente aqueles com dados raros) não sejam permanentemente excluídos.
   • Um período de "início frio" ($T_0$) utiliza seleção aleatória antes que as pontuações de reputação sejam estabelecidas.

Propriedades do Sistema

• Compatibilidade: O VARS-FL é totalmente compatível com a agregação padrão FedAvg. Não requer alterações no treinamento local, computação do lado do cliente ou protocolos de comunicação.
• Sobrecarga: Não introduz sobrecarga adicional de comunicação (os clientes enviam apenas atualizações de modelo). O custo computacional adicional é estritamente do lado do servidor (passagens forward no conjunto de validação) e escala linearmente com o número de clientes selecionados e o tamanho do conjunto de validação, independentemente do número total de clientes.

Resultados Experimentais

O framework foi avaliado no conjunto de dados Edge-IIoTset, um benchmark de detecção de intrusão em IoT em grande escala com 15 classes (incluindo ataques raros) e 100 clientes sob particionamento Não-IID.

• Desempenho: O VARS-FL superou consistentemente o FedAvg, Oort e Power-of-Choice em múltiplas sementes aleatórias.
  • Acurácia: Alcançou uma acurácia média de 0,8185 (vs. 0,7671 para o FedAvg).
  • F1-Macro: Melhorou significativamente para 0,6422 (vs. 0,5565 para o FedAvg), indicando melhor tratamento do desequilíbrio de classes e tipos de ataques minoritários.
  • Perda: Reduziu a perda de teste para 0,4937 (vs. 0,5852 para o FedAvg).
• Velocidade de Convergência: O VARS-FL acelerou a convergência, exigindo até 36% menos rodadas para atingir 80% de acurácia em comparação com as linhas de base. Em algumas sementes, as linhas de base falharam em atingir 80% dentro de 100 rodadas, enquanto o VARS-FL teve sucesso consistentemente.
• Estabilidade: Diferentemente do Oort, que exibiu oscilações de alta amplitude devido ao desalinhamento da perda local, o VARS-FL demonstrou dinâmicas de treinamento estáveis e menor variância entre as sementes.
• Recall por Classe: O método melhorou significativamente o recall para seis classes onde o FedAvg performou mal (por exemplo, Varredura de Portas, Ransomware), demonstrando sua capacidade de trazer à tona dados raros, mas críticos.
• Robustez: O framework provou ser robusto à composição do conjunto de validação do lado do servidor. Um conjunto de validação pequeno e balanceado por classes (2.250 amostras) performou comparavelmente a um conjunto estratificado grande (110.407 amostras), sugerindo viabilidade prática para implantações de IIoT onde a distribuição global é desconhecida.

Significado e Alegações

O artigo alega que o VARS-FL fornece uma solução principiológica e prática para a seleção de clientes em ambientes heterogêneos e Não-IID. Seu significado principal reside em:

1. Alinhamento de Objetivos: Ao substituir proxies locais pela redução da perda de validação do lado do servidor, alinha diretamente a seleção de clientes com o objetivo de otimização global, mitigando a instabilidade causada por deslocamentos de distribuição local.
2. Consciência Histórica: O mecanismo de reputação captura tendências de contribuição de longo prazo, distinguindo entre clientes consistentemente úteis e aqueles que são meramente ruidosos ou sortudos em uma única rodada.
3. Adequação para IoT: Aborda as restrições específicas de IoT/IIoT (largura de banda, soberania de dados, heterogeneidade) ao não exigir comunicação extra do lado do cliente e funcionar efetivamente com conjuntos de validação pequenos e independentes.

Os autores posicionam o VARS-FL como o primeiro framework a combinar simultaneamente sinais de utilidade alinhados globalmente, agregação temporal (reputação) e seleção explorar–explorar dentro de um pipeline FL padrão, oferecendo uma alternativa confiável a estratégias sem estado ou baseadas em proxies.