Feature-level Site Leakage Reduction for Cross-Hospital Chest X-ray Transfer via Self-Supervised Learning

1. Problema e Motivação

A generalização de modelos de aprendizado de máquina para raios-X torácicos entre diferentes hospitais é um desafio crítico devido ao deslocamento de domínio (domain shift). Hospitais diferem em equipamentos de imagem, protocolos de aquisição, compressão e práticas de rotulagem.

• O Desafio: Modelos treinados em um hospital frequentemente falham ao serem implantados em outro, muitas vezes aprendendo "atalhos" baseados em sinais específicos do local de origem (site-specific signals) em vez de características patológicas reais.
• A Lacuna na Literatura: Muitas pesquisas anteriores assumem a "invariância de domínio" (que o modelo aprendeu características independentes do local) sem medir explicitamente quanto informação sobre o local de origem ainda permanece nas representações do modelo.
• Objetivo do Artigo: Medir diretamente o vazamento de local (site leakage) e analisar como essa medição altera a interpretação dos métodos de transferência, focando em aprendizado auto-supervisionado (SSL) multi-sítio e confusão adversária de nível de características.

2. Metodologia

Os autores propõem um protocolo experimental rigoroso para avaliar a transferência entre hospitais usando dados não rotulados de múltiplos locais.

Configuração do Problema

• Dados: Utilização de três conjuntos de dados públicos: NIH (Fonte rotulada), CheXpert (Fonte não rotulada para SSL e validação) e RSNA (Alvo de avaliação, hospital não visto durante o treinamento supervisionado).
• Arquitetura: Backbone ResNet-18 inicializado com ImageNet.
• Abordagem de Treinamento:
  1. Pré-treinamento SSL Multi-sítio: O encoder é pré-treinado em imagens não rotuladas do NIH e CheXpert usando uma abordagem contrastiva (estilo SimCLR/InfoNCE).
  2. Classificação Linear: O encoder é congelado e um classificador linear para pneumonia é treinado apenas nos dados rotulados de uma fonte (ex: NIH).
  3. Avaliação: O desempenho é testado em hospitais não vistos (ex: RSNA).

Técnicas Investigadas

1. SSL Multi-sítio (Baseline): Pré-treinamento contrastivo em múltiplos hospitais sem rótulos de patologia.
2. CanonicalF (Confusão Adversária): Uma variação que adiciona um cabeçalho adversário ao encoder para tentar enganar um classificador de local, forçando a redução da informação do local nas características do backbone ($f$). Isso é feito usando a reversão de gradiente (gradient reversal).

Protocolo de Medição de Vazamento (Contribuição Central)

Em vez de apenas assumir invariância, os autores medem o vazamento post hoc:

• Sondas Lineares: Após o treinamento, sondas lineares são treinadas para prever o hospital de origem (NIH vs. CheXpert) a partir das características congeladas.
• Tipos de Características:
  • $f$: Características do backbone usadas pelo classificador final.
  • $z$: Características de projeção usadas apenas durante o SSL.
• Métrica: A acurácia da sonda indica quanto o modelo ainda "lembra" do local. A acurácia aleatória (chance) é 0,50 (para dois locais).

3. Principais Contribuições

1. Protocolo de Medição de Vazamento: Um método para quantificar explicitamente a informação de local nas representações usando sondas post hoc e avaliação multi-partição.
2. Baseline SSL Multi-sítio: Demonstração de que o SSL pré-treinado em múltiplos hospitais melhora significativamente a transferência para hospitais não vistos quando o encoder é congelado.
3. Variante Adversária (CanonicalF): Implementação de confusão adversária no nível das características do backbone para testar se a redução do vazamento melhora a transferência.
4. Avaliação Multi-Partição: Resultados reportados com média e desvio padrão sobre 3 sementes aleatórias, cobrindo direções de transferência (NIH $\to$ outros, CheXpert $\to$ outros) e cenários leave-one-site-out.
5. Descoberta Empírica: A conclusão de que o SSL multi-sítio é o principal motor de melhoria, enquanto a confusão adversária é uma ferramenta de redução de vazamento que não garante ganhos de desempenho e pode aumentar a variância.

4. Resultados Chave

Desempenho de Transferência (AUC)

• SSL Multi-sítio vs. ImageNet: O pré-treinamento SSL melhorou drasticamente a AUC no conjunto RSNA (alvo não visto), subindo de 0,6736 (inicialização ImageNet) para 0,7804.
• Impacto da Confusão Adversária: A adição do componente adversário (CanonicalF) não melhorou consistentemente a AUC no RSNA (caiu para 0,7241) e aumentou significativamente a variância entre as sementes (coeficiente de variação subiu de ~0,025 para ~0,13). Isso sugere instabilidade e conflito entre remover o sinal do local e preservar o sinal preditivo.

Medição de Vazamento de Local (Acurácia da Sonda)

• Antes do SSL (ImageNet): A sonda detectou o local com quase 100% de acurácia (0,9962 em $f$), indicando fortes sinais de local nos dados brutos.
• Após SSL Apenas: O vazamento diminuiu ligeiramente (0,9890 em $f$), mas ainda estava muito acima do acaso.
• Após CanonicalF: O vazamento foi reduzido significativamente, caindo para 0,8504 em $f$ e 0,7810 em $z$.
• Interpretação: Embora a confusão adversária tenha reduzido a informação de local mensurável, ela não eliminou o vazamento (ainda longe de 0,50) e não se traduziu em melhor desempenho de classificação de pneumonia.

5. Significado e Conclusões

O artigo desafia a noção comum de que a "invariância de domínio" é o objetivo final ou que a redução de vazamento de local garante melhor generalização.

• Motor Principal: O ganho de desempenho na transferência entre hospitais é impulsionado principalmente pelo SSL multi-sítio, que aprende representações mais robustas a partir de dados não rotulados diversos.
• Limitações da Invariância: A confusão adversária pode reduzir a informação de local mensurável, mas fazê-lo agressivamente pode remover sinais úteis para a tarefa clínica, especialmente quando rótulos e locais estão correlacionados.
• Recomendação Prática: Os autores argumentam que os pesquisadores devem relatar métricas de vazamento (como a acurácia da sonda de local) junto com as métricas de desempenho (AUC). Isso permite distinguir entre modelos que realmente aprenderam invariância e modelos que apenas reduziram o vazamento sem necessariamente melhorar a tarefa principal.
• Conclusão Final: A afirmação correta não é que os modelos são "invariantes ao local", mas sim que o SSL multi-sítio melhora a transferência e a confusão adversária é uma ferramenta opcional para redução de vazamento, cujos benefícios dependem do tipo de deslocamento e podem introduzir instabilidade.