FedAgain: A Trust-Based and Robust Federated Learning Strategy for an Automated Kidney Stone Identification in Ureteroscopy

1. Problema e Contexto

A aplicação de Inteligência Artificial (IA) na identificação de cálculos renais (pedras nos rins) através de ureteroscopia enfrenta desafios críticos que limitam sua adoção clínica:

• Heterogeneidade de Dados: Os dados médicos são frequentemente não independentes e não identicamente distribuídos (non-IID), variando entre hospitais devido a diferentes equipamentos, protocolos de aquisição e demografia de pacientes.
• Corrupção de Imagens: Imagens endoscópicas são suscetíveis a artefatos como desfoque de movimento, reflexos especulares, iluminação variável e ruído, o que degrada o desempenho de modelos treinados em condições ideais.
• Privacidade e Fragmentação: A centralização de dados para treinamento de modelos é inviável devido a regulamentações de privacidade (como GDPR e HIPAA) e à fragmentação dos dados entre instituições.
• Fragilidade do Aprendizado Federado (FL) Padrão: Algoritmos clássicos de FL, como o FedAvg, assumem que todos os clientes contribuem com dados de qualidade e convergem de forma estável. No entanto, na prática, clientes com dados corrompidos ou comportamentos anômalos (adversários ou não intencionais) podem desestabilizar o modelo global, reduzindo a precisão diagnóstica.

O objetivo do trabalho é desenvolver uma estratégia de Aprendizado Federado que seja robusta a essas corrupções e heterogeneidades, garantindo privacidade e confiabilidade clínica.

---

2. Metodologia: FedAgain

O artigo propõe o FedAgain, uma estratégia de Aprendizado Federado baseada em confiança que integra um mecanismo de dupla verificação para ponderar dinamicamente as contribuições dos clientes durante a agregação.

Mecanismo de Confiança Dual

Diferente de métodos que apenas filtram outliers, o FedAgain calcula um escore de confiança ($T_k$) para cada cliente $k$ em cada rodada de treinamento, baseado em dois sinais:

1. Erro de Benchmark ($E_k$): Avalia a qualidade dos dados do cliente antes do treinamento local. O cliente executa o modelo global atual em seu conjunto de validação local. Um erro baixo indica que a distribuição de dados do cliente é representativa e de alta qualidade em relação ao modelo global.
2. Divergência de Parâmetros ($D_k$): Avalia a integridade do modelo após o treinamento local. Mede a distância (norma L2) entre os pesos atualizados do cliente e os pesos do servidor global. Uma divergência excessiva pode indicar dados ruidosos, convergência instável ou ataques maliciosos.

Fórmula de Agregação

O escore de confiança é calculado como:
$$T_k = \frac{1}{E_k \cdot D_k + \epsilon}$$
Onde $\epsilon$ é uma constante pequena para evitar divisão por zero.

Os pesos de agregação ($\hat{T}_k$) são normalizados e utilizados para ponderar a contribuição de cada cliente na atualização do modelo global:
$$w_{server}^{(t+1)} = \sum_{k} \hat{T}_k \cdot w_{k}^{(t+1)}$$

Isso permite que o servidor reduza automaticamente o peso de clientes com dados corrompidos ou atualizações instáveis, sem necessidade de detecção explícita de outliers ou ajuste fino específico para ataques.

---

3. Contribuições Principais

1. Primeira Abordagem Federada Robusta para Identificação de Pedras Renais: O trabalho apresenta a primeira estratégia de FL para reconhecimento in-vivo de tipos de cálculos renais que aborda explicitamente a robustez contra corrupção de imagens e falta de confiabilidade dos clientes.
2. Mecanismo de Agregação Ponderada por Confiança (FedAgain): Uma regra de agregação simples, mas eficaz, que utiliza sinais de erro de benchmark e divergência de parâmetros para adaptar dinamicamente a confiança nos clientes, melhorando a resiliência em cenários non-IID e com clientes corrompidos.
3. Framework de Avaliação Abrangente:
   • Implementação reprodutível em PyTorch.
   • Testes em 7 subconjuntos de dados (incluindo 3 conjuntos de dados clínicos de pedras renais: Michel Daudon, Jonathan El-Beze e MyStone) e benchmarks públicos (MNIST e CIFAR-10).
   • Simulação de cenários realistas com taxas de corrupção variando de 10% a 50% e diferentes níveis de severidade (ruído, desfoque, variações de contraste).
4. Validação Empírica de Robustez: Demonstração de que o FedAgain supera tanto as abordagens centralizadas quanto locais, e supera métodos de agregação robustos existentes (como FedMedian e Bulyan) em termos de precisão e estabilidade sob condições adversas.

---

4. Resultados Experimentais

Os experimentos foram conduzidos em diversos cenários, incluindo distribuições de dados IID, non-IID (com viés de rótulo e distribuição Dirichlet) e com clientes corrompidos (Byzantinos).

• Cenários Limpos (Sem Corrupção): O FedAgain apresentou desempenho competitivo, comparável ao FedAvg e ao FedProx, demonstrando que o mecanismo de ponderação não degrada o desempenho em condições ideais.
• Cenários com Corrupção (Robustez):
  • Sob condições de corrupção moderada a pesada (até 40-50% de clientes corrompidos), o FedAvg sofreu degradação significativa de desempenho.
  • O FedAgain manteve uma precisão estável (ex: ~72-73% em cenários de corrupção pesada), superando consistentemente o FedAvg e mostrando menor variância que o FedMedian.
  • O método demonstrou ser particularmente eficaz em manter a precisão (Precision) e o F1-Score, reduzindo falsos positivos mesmo sob forte ruído.
• Escalabilidade: À medida que o número de clientes aumentou (de 5 para 20), o FedAgain manteve melhor desempenho que o FedAvg. A vantagem do FedAgain tornou-se mais pronunciada com o crescimento da federação, indicando sua capacidade de filtrar atualizações não confiáveis em redes grandes e heterogêneas.
• Benchmarks Gerais: Nos conjuntos de dados MNIST e CIFAR-10, o FedAgain confirmou sua eficácia, superando o FedAvg em cenários de alta corrupção e mantendo desempenho de topo em tarefas mais simples.

---

5. Significado e Impacto

O FedAgain representa um avanço prático rumo à implementação clínica de IA federada em medicina:

• Confiabilidade Clínica: Ao garantir que modelos treinados colaborativamente sejam robustos a variações de equipamentos e qualidade de imagem, o sistema aumenta a segurança para diagnósticos assistidos por computador em ureteroscopia.
• Privacidade Preservada: Permite a colaboração entre múltiplos hospitais sem a necessidade de compartilhar dados brutos de pacientes, atendendo a requisitos regulatórios rigorosos.
• Resiliência Operacional: A capacidade de lidar com "clientes" (hospitais) que possuem dados de baixa qualidade ou equipamentos desatualizados sem prejudicar o modelo global é crucial para a adoção em larga escala em sistemas de saúde reais.
• Generalização: A metodologia proposta não é limitada apenas à urologia; o framework de confiança dual pode ser adaptado para outras modalidades de imagem médica onde a heterogeneidade e a qualidade dos dados são desafios críticos.

Em resumo, o FedAgain oferece uma solução escalável e agnóstica ao domínio para colaboração de IA em saúde, equilibrando privacidade, eficiência e robustez frente às imperfeições inevitáveis dos dados do mundo real.