Resumo Técnico: FedProIn – Mitigando o Desvio de Cliente para Protótipos Aprendíveis em Imagem Médica Federada

Declaração do Problema

O Aprendizado Federado (FL) em imagem médica é significativamente prejudicado pela heterogeneidade estatística decorrente de variações em protocolos de scanners, métodos de aquisição e populações diversas de pacientes entre diferentes centros médicos. Essa distribuição de dados não-IID (não-independente e não-identicamente distribuída) induz o desvio de cliente (client drift), onde os modelos locais divergem do modelo global durante a otimização. Especificamente, instâncias idênticas são mapeadas para regiões distintas no espaço de características por diferentes clientes, e as representações locais tornam-se enviesadas em direção a características específicas de cada cliente.

Abordagens existentes enfrentam limitações:

• Regularização baseada em restrições (ex: FedProx, MOON) tem dificuldade em alinhar representações semânticas em espaços de alta dimensão.
• Métodos baseados em protótipos padrão frequentemente assumem um único protótipo global por classe (via vetores de média de características), o que é inadequado para dados médicos heterogêneos.
• Métodos de múltiplos protótipos frequentemente introduzem alta complexidade computacional ou dependem de representações unimodais que falham em otimizar efetivamente as fronteiras de decisão.

Metodologia: FedProIn

Os autores propõem o FedProIn (Aprendizado Federado com agregação de protótipos com influência), um framework que utiliza Protótipos Aprendíveis (LPs) como parâmetros de modelo otimizáveis em vez de vetores de média estáticos. O modelo global consiste em um codificador de características $f_\theta$ e um conjunto de protótipos $P \in \mathbb{R}^{C \times M \times d}$, onde $M$ é o número de protótipos por classe.

1. Decomposição do Desvio de Cliente

O FedProIn aborda explicitamente o desvio de cliente decompondo-o em dois componentes e aplicando perdas de regularização específicas:

• Desvio de Característica (Feature Drift): Abordado via Perda de Divergência de Característica (FDL). Os clientes mantêm uma cópia congelada do extrator de características global ($\theta^{t-1}$). O codificador local é regularizado para minimizar o erro quadrático médio entre os embeddings de características locais e as características globais de referência, garantindo o alinhamento semântico.
• Desvio de Protótipo (Prototype Drift): Abordado via Perda Contrastiva de Protótipo (PCL). Esta perda atrai os protótipos locais atualizados para mais perto dos protótipos globais atuais, enquanto os afasta de seus estados locais anteriores. Isso evita que os protótipos se tornem excessivamente enviesados para desvios de dados locais.

O objetivo local total combina a perda de classificação primária ($\ell_{Task}$) com estes termos de regularização:
$$\ell_{Total} = \ell_{Task} + \lambda_{FDL}\ell_{FDL} + \lambda_{PCL}\ell_{PCL}$$

Para lidar com o desequilíbrio de classes em conjuntos de dados médicos de cauda longa (long-tailed), o método emprega amostragem balanceada por classe e aumento adaptativo para garantir que subtipos de doenças raras sejam adequadamente representados durante as atualizações de protótipos.

2. Agregação de Influência Normalizada (NIA)

A agregação padrão (ex: FedAvg) é insuficiente para múltiplos protótipos porque pondera as atualizações puramente pelo tamanho do conjunto de dados, ignorando a utilização do protótipo. Isso pode amplificar o ruído de protótipos subutilizados ou suprimir representações especializadas para casos raros.

O FedProIn introduz a Agregação de Influência Normalizada (NIA):

• Matriz de Influência ($I_i$): Durante o treinamento local, cada cliente rastreia um escore de influência para cada protótipo, contando quantas vezes um protótipo específico serviu como o vizinho mais próximo para as amostras locais.
• Agregação: Os protótipos globais são agregados ponderando-os proporcionalmente aos seus escores de uso ($I_{k,c}^i$), em vez de apenas o tamanho do conjunto de dados do cliente. Isso reduz o peso de atualizações ruidosas de protótipos não utilizados e preserva protótipos especializados relevantes para subconjuntos específicos de clientes.

Principais Contribuições

1. Formulação de Protótipos Aprendíveis: Adotar protótipos como parâmetros otimizáveis (conjuntamente com o extrator de características) em vez de vetores de média estáticos para maximizar as margens de separação de classes.
2. Estratégia de Dupla Regularização: Mitigar explicitamente o desvio de cliente decompondo-o em desvio de característica e de protótipo, abordados via FDL e PCL, respectivamente.
3. Agregação de Influência Normalizada (NIA): Um mecanismo de agregação inovador que pondera adaptativamente os protótipos dos clientes com base em sua utilidade local, abordando questões de utilização heterogênea e ativação esparsa em configurações de múltiplos protótipos.
4. Validação Empírica: Avaliação abrangente em conjuntos de dados de imagem médica públicos, demonstrando robustez contra heterogeneidade estatística.

Resultados Experimentais

O framework foi avaliado em dois conjuntos de dados de imagem médica de cauda longa: HAM10000 (imagens dermatoscópicas) e Matek-19 (imagens de células sanguíneas periféricas). Os experimentos foram conduzidos sob configurações IID e Non-IID (Dirichlet $\alpha=0.5$) com $K=10$ clientes.

Destaques de Desempenho:

• HAM10000: O FedProIn alcançou 83,5% de acurácia (IID) e 81,1% de acurácia (Non-IID), superando todos os baselines, incluindo FedAvg, FedProx, MOON e outros métodos baseados em protótipos (FedProto, FedTGP, FedPLVM).
• Matek-19: O FedProIn alcançou 96,2% de acurácia (IID) e 95,8% de acurácia (Non-IID).
• Robustez: Sob condições Non-IID, os métodos de protótipos existentes sofreram quedas significativas de desempenho (ex: perda de 6–7% de acurácia no HAM10000), enquanto o FedProIn restringiu as perdas relativas a meros 2,4% e 0,4% no HAM10000 e Matek-19, respectivamente.
• Estudo de Ablação: Os resultados confirmaram que tanto a FDL quanto a PCL são necessárias para o desempenho ideal. Remover a FDL causou a queda mais acentuada de desempenho, indicando que o desvio de característica é o modo de falha dominante. O modelo completo superou significativamente as variantes de componente único e o caso degenerado (equivalente ao FedAvg).

Significância e Alegações

O artigo afirma que o FedProIn mitiga efetivamente o desvio de cliente em aprendizado federado de imagem médica ao utilizar protótipos aprendíveis e agregação consciente de influência. Os autores asseguram que sua abordagem:

• Alcança generalização superior em comparação com os baselines de FL existentes e métodos de personalização, particularmente em ambientes altamente heterogêneos (Non-IID).
• Resolve com sucesso as limitações das suposições de protótipo único e da agregação não ponderada em configurações de múltiplos protótipos.
• Fornece uma solução robusta para imagem médica, onde a heterogeneidade de dados e o desequilíbrio de classes são prevalentes.

Os autores observam que trabalhos futuros explorarão a adaptação do FedProIn para FL personalizado (removendo a dependência do modelo global) e a extensão do framework para configurações de FL heterogêneo com diversas arquiteturas de modelos. O código é disponibilizado para apoiar a reprodutibilidade.