Private and Robust Contribution Evaluation in Federated Learning

Resumo Técnico: Avaliação de Contribuição Privada e Robusta em Aprendizado Federado

1. O Problema

O Aprendizado Federado (FL) permite que organizações treinem modelos colaborativamente sem compartilhar dados brutos. No entanto, para garantir a equidade e a segurança, é necessário avaliar a contribuição de cada cliente (Contribution Evaluation - CE) para distribuir recompensas e detectar participantes maliciosos ou de baixa qualidade.

O principal desafio abordado no artigo é a tensão entre Privacidade e Avaliação de Contribuição em cenários de Agregação Segura (Secure Aggregation - SA):

• Agregação Segura (SA): Técnica padrão que oculta as atualizações individuais dos clientes (gradientes) do servidor, permitindo apenas a visão do modelo global agregado. Isso protege contra ataques de inferência.
• Limitação Atual: Métodos tradicionais de avaliação, como o Valor de Shapley (SV), exigem acesso às atualizações individuais para calcular contribuições marginais, tornando-se incompatíveis com a SA.
• Alternativa Prática (LOO): O método "Leave-One-Out" (LOO) é a única alternativa marginal compatível com a SA, mas possui falhas críticas:
  1. É uma aproximação grosseira do Valor de Shapley.
  2. Requer autoavaliação (o cliente calcula sua própria pontuação), o que o torna vulnerável a manipulação por clientes egoístas que podem inflar seus próprios scores.

2. Metodologia Proposta

Os autores propõem duas novas métricas de pontuação de contribuição baseadas em diferenças marginais, projetadas especificamente para funcionar sob as restrições da Agregação Segura, onde o servidor só vê o modelo global ($M$) e o modelo inicial ($M_0$), e cada cliente $i$ pode calcular apenas modelos envolvendo sua própria atualização ($M+U_i$ e $M-U_i$).

As duas métricas propostas são:

A. Fair-Private (FP)

• Conceito: Combina duas diferenças marginais que o próprio cliente pode calcular:
  1. Leave-One-Out (LOO): Remover a atualização do cliente do modelo global ($v(M) - v(M-U_i)$).
  2. Include-One-In (IOI): Adicionar a atualização do cliente ao conjunto vazio ($v(M_0+U_i) - v(M_0)$).
• Mecanismo: A pontuação é a média normalizada dessas duas diferenças.
• Propriedades: Satisfaz todos os axiomas de justiça clássicos (Eficiência, Jogo Nulo, Simetria) e é compatível com SA.
• Limitação: Ainda depende de autoavaliação, mantendo a vulnerabilidade à manipulação direta.

B. Everybody-Else (EE)

• Conceito: Elimina a autoavaliação. A pontuação de um cliente $i$ é calculada indiretamente pelos outros clientes ($j \neq i$).
• Mecanismo: Cada cliente $j$ calcula diferenças marginais envolvendo a si mesmo e o cliente $i$ (ex: comparar o modelo global com o modelo sem $j$, ou o modelo com apenas $j$). Ao agregar essas avaliações de todos os outros clientes, obtém-se uma estimativa robusta da contribuição de $i$.
• Propriedades:
  • Resistência à Manipulação: Nenhum cliente pode influenciar diretamente sua própria pontuação.
  • Justiça: Satisfaz Eficiência, Simetria e Compatibilidade com SA.
  • Compromisso (Trade-off): Sacrifica o axioma do "Jogo Nulo" (um cliente que não contribui pode receber uma pontuação positiva devido ao ruído das avaliações cruzadas), mas prioriza a robustez contra comportamentos egoístas ativos.

3. Contribuições Principais

1. Novos Escores de Contribuição: Introdução de FP e EE, os primeiros métodos compatíveis com SA que oferecem garantias teóricas de justiça e privacidade.
2. Garantias Teóricas: Prova formal de que FP e EE satisfazem axiomas de justiça, privacidade (SA-compatibilidade) e complexidade computacional linear ($O(N)$), tornando-os escaláveis.
3. Resistência à Manipulação: Demonstração teórica e empírica de que o método EE impede que clientes egoístas manipulem seus próprios scores, um problema não resolvido por métodos anteriores.
4. Validação Empírica: Avaliação extensiva em conjuntos de dados reais (imagens médicas: ISIC2019, PatchChameleon, Brain-MRI) e CIFAR10 em cenários de Cross-Silo (participação total).

4. Resultados Experimentais

Os métodos foram comparados contra o Valor de Shapley aproximado (MR-SV, considerado o "ground truth"), LOO e Similaridade de Cosseno (COS).

• Correlação com o Valor de Shapley:
  • Tanto FP quanto EE apresentaram correlações de Spearman muito altas ($\phi > 0.90$) com o MR-SV, superando significativamente o LOO e o COS.
  • Isso indica que, mesmo com informações limitadas (apenas SA), é possível recuperar a ordem de importância relativa dos clientes com alta precisão.
• Robustez e Manipulação:
  • O método EE demonstrou ser imune à manipulação direta de scores, enquanto LOO e FP são vulneráveis se um cliente mentir sobre sua própria atualização.
  • A análise de influência cruzada mostrou que, no EE, um cliente tem influência mínima sobre sua própria pontuação (0%), mas pode influenciar levemente os outros (o que pode ser mitigado com detecção de anomalias).
• Tarefas Descendentes (Downstream Tasks):
  • Desempenho do Modelo: Ao usar os scores FP/EE para ponderar a agregação de atualizações (dando mais peso a clientes de alta qualidade), o modelo global atingiu desempenho superior ao FedAvg (agregação uniforme) e ao LOO, aproximando-se do desempenho do MR-SV.
  • Detecção de Comportamento Malicioso: Em cenários com um cliente Byzantine (ataque de label flipping), os métodos FP e EE conseguiram identificar o atacante (atribuindo-lhe a menor pontuação) com uma taxa de sucesso quase equivalente ao MR-SV, superando o LOO e o COS.

5. Significado e Conclusão

Este trabalho preenche uma lacuna crítica no Aprendizado Federado de Cross-Silo. Ele demonstra que é possível conciliar privacidade rigorosa (via Agregação Segura), justiça (baseada em axiomas de teoria dos jogos) e robustez (contra participantes egoístas) sem sacrificar a utilidade prática.

• Impacto Prático: As soluções propostas permitem a implementação de mecanismos de recompensa e auditoria em sistemas FL reais (como consórcios de saúde), onde a privacidade dos dados é legalmente obrigatória e a confiança entre as partes é limitada.
• Viabilidade: Ao operar com complexidade linear e sem exigir mudanças arquitetônicas drásticas (como blockchain ou múltiplos servidores), FP e EE oferecem uma solução pronta para uso que supera as limitações do "Leave-One-Out".

Em suma, o artigo prova que a avaliação de contribuição em FL não precisa ser um compromisso entre privacidade e justiça, oferecendo uma base teórica e prática para sistemas federados mais seguros e equitativos.