Detecting Atypical Clients in Federated Learning via Representation-Level Divergence

Resumo Técnico: Detecção de Clientes Atípicos em Aprendizado Federado via Divergência no Nível de Representação

Declaração do Problema

O Aprendizado Federado (FL) permite o treinamento colaborativo de modelos em clientes distribuídos sem compartilhar dados brutos, abordando restrições de privacidade e segurança. No entanto, o FL enfrenta desafios significativos devido à heterogeneidade dos dados (distribuições não-i.i.d.), o que frequentemente leva a uma convergência instável e a um desempenho global degradado. Além da heterogeneidade estatística benigna, implantações práticas enfrentam riscos onde as atualizações dos clientes se desviam devido a mudanças de distribuição, deriva de sensores ou entradas anômalas.

As abordagens atuais para detectar tais desvios frequentemente dependem da comparação de parâmetros do modelo ou gradientes. Os autores argumentam que esses métodos fornecem insights limitados sobre como diferentes clientes afetam o comportamento funcional interno e as fronteiras de decisão da Rede Neural (NN). Há uma necessidade de um mecanismo para distinguir entre a variabilidade esperada causada por dados não-i.i.d. e desvios potencialmente prejudiciais que comprometem a estabilidade ou a confiabilidade do processo de agregação.

Metodologia

O artigo propõe uma métrica geométrica leve para quantificar a divergência funcional entre o modelo local de um cliente e o modelo global. Em vez de analisar parâmetros, a abordagem foca na partição do espaço de entrada induzida por ativações.

1. Padrões de Ativação e Particionamento do Espaço de Entrada:

   • Para uma Rede Neural Feedforward (FF) baseada em ReLU, os autores definem padrões de ativação binários $a_l(x; \theta)$ para cada camada $l$.
   • Esses padrões particionam o espaço de entrada em regiões afins por partes. Amostras que compartilham o mesmo padrão de ativação pertencem à mesma região.
   • Os autores utilizam um conjunto de sondas $P$ fixo e compartilhado (um subconjunto i.i.d. de dados) para avaliar esses padrões.

2. Métrica de Afinidade de Ativação:

   • Para uma dada camada $l$, a afinidade de ativação $K^\theta_l(i, j)$ entre duas amostras de sonda $x_i$ e $x_j$ é calculada com base na distância de Hamming entre seus padrões de ativação.
   • Essa métrica quantifica a "distância" entre amostras em termos do número de hiperplanos cruzados. Uma alta afinidade indica que as amostras estão na mesma região ou em regiões próximas; uma baixa afinidade indica separação por múltiplos hiperplanos.
   • Isso resulta em uma matriz de afinidade $K^\theta_l$ que captura como um modelo agrupa as entradas.

3. Divergência Geométrica Hierárquica:

   • Para comparar um modelo de cliente ($\theta_c$) com o modelo global ($\theta_g$), os autores calculam a norma de Frobenius da diferença entre suas matrizes de afinidade: $d_l(\theta, \theta') = \|K^\theta_l - K^{\theta'}_l\|_F$.
   • Uma divergência hierárquica ($D_{hier}$) é definida para levar em conta a estrutura das NNs. Como as camadas iniciais definem separações grosseiras e as camadas mais profundas as refinam, discrepâncias nas camadas iniciais são ponderadas mais fortemente.
   • A fórmula é:
     $$D_{hier}(\theta, \theta') = d_1(\theta, \theta') + \sum_{l=2}^{L} \left( \prod_{r=1}^{l-1} \lambda_r \right) d_l(\theta, \theta')$$
     onde $\lambda_l = \exp(-\beta d_l)$ atua como um fator de redução de peso para camadas mais profundas se as camadas anteriores já exibirem diferenças significativas.

4. Detecção de Anomalias:

   • Em um cenário de FL, a divergência $D_c^{(t)}$ é calculada para cada cliente $c$ na rodada $t$.
   • Para identificar clientes atípicos, uma pontuação de outlier robusta (z-score) é calculada usando a mediana e o Desvio Absoluto Mediano (MAD) da distribuição de divergência entre todos os clientes.

Principais Contribuições

• Perspectiva Geométrica: Introduz uma nova perspectiva para analisar o comportamento de clientes em FL baseada na estrutura geométrica induzida pelos padrões de ativação das NNs, e não nos valores dos parâmetros.
• Métrica Leve: Propõe uma métrica que quantifica a divergência funcional medindo como o treinamento local altera a organização do espaço de entrada, capturando diferenças além das comparações no nível de parâmetros.
• Sinal Interpretável: Demonstra que essa métrica fornece um sinal interpretável para monitorar a heterogeneidade dos dados e identificar contribuições atípicas de clientes.

Resultados Experimentais

Os autores avaliaram a métrica em dois cenários: um MLP no Fashion-MNIST e um ResNet-18 no CIFAR-10, usando Descida de Gradiente Estocástica (SGD) com particionamento Dirichlet para simular dados não-i.i.d.

1. Validação da Métrica (Análise de Heterogeneidade):

   • Os experimentos variaram o parâmetro Dirichlet $\alpha$ (de $\alpha=10$, próximo a i.i.d., até $\alpha=0.1$, altamente heterogêneo).
   • Resultados: Em configurações próximas a i.i.d. ($\alpha=10$), as divergências dos clientes estabilizaram-se rapidamente. Em configurações altamente heterogêneas ($\alpha=0.1$), a métrica capturou um aumento sistemático na divergência e identificou clientes que se desviaram persistentemente do modelo global, alinhando-se com a intuição de que distribuições de dados distintas induzem organizações geométricas distintas.

2. Identificação de Clientes Anômalos:

   • Um cliente "deslocado" foi simulado aplicando perturbações (ruído gaussiano, rotações, desfoque) ao conjunto de dados de um cliente, enquanto os demais permaneceram padrão.
   • Resultados: O cliente deslocado exibiu consistentemente uma divergência geométrica significativamente maior e z-scores robustos em comparação com clientes regulares em todas as rodadas. Enquanto os clientes regulares convergiram para valores de divergência estáveis, o cliente deslocado manteve um desvio persistente, indicando uma organização geométrica fundamentalmente diferente do espaço de entrada. Isso se manteve verdadeiro em ambas as arquiteturas e conjuntos de dados.

Significado e Alegações

O artigo alega que monitorar a estrutura geométrica induzida pelas NNs fornece um sinal significativo e interpretável para avaliar as contribuições dos clientes em FL. A métrica proposta distingue efetivamente entre clientes heterogêneos estáveis e aqueles cujas atualizações induzem mudanças funcionais atípicas.

Os autores posicionam este trabalho como uma ferramenta para estratégias de agregação conscientes de riscos. Ao identificar clientes que se desviam funcionalmente (e não apenas parametricamente), o sistema pode ponderar ou filtrar atualizações com base em seu comportamento funcional. O artigo conclui que essa abordagem abre caminho para uma agregação mais informada, embora observe que trabalhos futuros são necessários para integrar esse sinal diretamente no loop de treinamento e aplicá-lo a cenários de grande escala ou adversariais. O trabalho é apresentado como complementar aos métodos existentes de privacidade criptográfica e robustez bizantina, oferecendo um sinal de monitoramento geométrico em vez de garantias criptográficas formais.