HyDA: Hypernetworks for Test Time Domain Adaptation in Medical Imaging Analysis

Título: HyDA: Hiperredes para Adaptação de Domínio em Tempo de Teste em Análise de Imagens Médicas

1. O Problema

A análise de imagens médicas baseada em aprendizado profundo enfrenta um desafio crítico conhecido como desvio de domínio (domain shift). As distribuições de dados variam significativamente devido a diferenças em:

• Protocolos de aquisição;
• Demografia dos pacientes;
• Tipos de dispositivos de imagem (ex: diferentes fabricantes de ressonância magnética ou raios-X).

As abordagens atuais de Adaptação de Domínio (DA) geralmente tentam alinhar as distribuições entre os domínios de origem e alvo ou aprender um espaço de características invariante. No entanto, a maioria dessas estratégias exige acesso a um número suficiente de exemplos do domínio de teste (alvo) durante o treinamento (mesmo que não anotados). Isso limita a aplicação clínica, onde os dados do alvo podem estar disponíveis apenas em tempo real, no momento da inferência, sem possibilidade de re-treinamento ou acesso prévio.

2. Metodologia: O Framework HyDA

Os autores propõem o HyDA, uma estrutura inovadora baseada em hiperredes (hypernetworks) que não suprime as características do domínio, mas as explora para permitir adaptação dinâmica.

• Arquitetura Principal: O sistema é composto por três componentes:

  1. Rede Primária ($P$): A rede principal responsável pela tarefa (ex: classificação ou regressão), que pode ter qualquer arquitetura.
  2. Classificador de Domínio ($D$): Um encoder ($D_{enc}$) que aprende representações implícitas do domínio a partir da imagem de entrada.
  3. Hiperrede ($h$): Uma rede neural que recebe o vetor de características do domínio ($x_D$) gerado pelo classificador e produz pesos e vieses específicos para uma subconjunto de camadas da rede primária.

• Mecanismo de Funcionamento:

  • Durante o treinamento, o classificador aprende a mapear imagens para vetores de características de domínio.
  • A hiperrede usa esses vetores para gerar parâmetros "externos" (pesos e vieses) para a rede primária.
  • Hipótese Central: O espaço de características de domínio aprendido permite que vetores de um domínio de teste não visto sejam representados como combinações lineares dos domínios de treinamento.
  • Inferência: No momento do teste, o modelo gera pesos específicos para a rede primária baseados nas características do domínio da nova imagem, permitindo uma adaptação "on-the-fly" sem necessidade de dados de alvo para treinamento.

• Funções de Perda:

  • Perda de Tarefa ($L_{task}$): Para a tarefa principal (ex: Cross-Entropy para classificação, MSE para regressão).
  • Perda de Classificador de Domínio: Combina Cross-Entropy ($L_{CE}$) para identificar o domínio e uma perda de Multi-Similaridade ($L_{MSim}$) para garantir que os vetores de diferentes domínios formem clusters distintos no espaço de características.
  • Regularização: Termos de norma L2 para estabilizar a convergência dos pesos da hiperrede e da rede primária.

3. Contribuições Chave

1. Adaptação em Tempo de Teste (TTDA) sem Dados de Alvo: O HyDA elimina a necessidade de acessar dados do domínio alvo durante o treinamento, permitindo que o modelo se adapte dinamicamente durante a inferência.
2. Interpolação de Domínios: Demonstra que a hiperrede pode interpolar eficazmente para domínios não vistos, gerando parâmetros otimizados baseados na similaridade com os domínios de treinamento.
3. Agnosticismo de Tarefa e Modalidade: O framework é projetado para ser genérico, aplicável tanto a tarefas de classificação (raio-X) quanto de regressão (ressonância magnética), e compatível com diversas arquiteturas de rede.
4. Exploração da Variabilidade: Diferente de métodos que buscam invariância de domínio, o HyDA utiliza a variabilidade do domínio como um recurso para refinar os parâmetros do modelo.

4. Resultados Experimentais

O HyDA foi validado em duas aplicações clinicamente relevantes:

• Classificação de Patologias em Raios-X de Tórax:

  • Dados: NIH, CheXpert e VinDr (90.570 exames).
  • Comparação: HyDA superou uma linha de base sem adaptação, um método de DA não supervisionado (MDAN) e um método de TTDA (TENT).
  • Desempenho: O HyDA alcançou a maior AUC (Área sob a Curva) em todos os cenários, especialmente em configurações "leave-one-out" (onde um domínio é totalmente excluído do treinamento). A melhoria correlacionou-se com a separabilidade das características dos domínios.

• Predição de Idade Cerebral (MRI):

  • Dados: 19 conjuntos de dados de MRI cerebral (26.691 exames).
  • Desempenho: O HyDA reduziu o Erro Absoluto Médio (MAE) em comparação com a linha de base tanto no cenário supervisionado quanto no "leave-one-out".
  • Visualização: Projeções t-SNE confirmaram que amostras de domínios não vistos são bem embutidas no espaço de características aprendido, situando-se entre os domínios de treinamento.

• Estudo de Ablação:

  • Mostrou que a combinação de pesos específicos da tarefa e pesos específicos do domínio (gerados pela hiperrede) é superior ao uso exclusivo de um ou outro.
  • A perda de multi-similaridade foi crucial para a separação eficaz dos clusters de domínio.

5. Significado e Conclusão

O HyDA representa um avanço significativo para a implementação de modelos de IA em ambientes clínicos reais. Ao permitir que os modelos se adaptem dinamicamente às variações nos dados de entrada (diferentes scanners, protocolos ou populações) sem exigir dados de treinamento do alvo, o framework resolve um dos maiores gargalos para a adoção clínica generalizada.

A capacidade de interpolar entre domínios conhecidos e desconhecidos torna o sistema robusto e versátil. Os resultados demonstram que, em vez de tentar eliminar as diferenças entre domínios (o que pode levar à perda de informações críticas), aprender a modelar e utilizar essas diferenças através de hiperredes gera modelos mais precisos e generalizáveis para aplicações médicas diversas.