HypCBC: Domain-Invariant Hyperbolic Cross-Branch Consistency for Generalizable Medical Image Analysis

Resumo Técnico: HypCBC

Definição do Problema
Redes neurais profundas enfrentam desafios significativos para generalizar além das distribuições de treinamento, um problema crítico na análise de imagens médicas onde a escassez de dados e os desvios de covariáveis (decorrentes de diferentes hardwares, protocolos de imagem e populações de pacientes) dificultam a implantação clínica confiável. As soluções existentes frequentemente dependem do aprendizado de representação euclidiana, que assume uma geometria plana que falha em capturar as estruturas complexas e hierárquicas inerentes aos dados clínicos. Além disso, redes hiperbólicas de ponta a ponta, embora teoricamente adequadas para dados hierárquicos, historicamente sofreram com instabilidade numérica e redução da eficiência de treinamento em grandes conjuntos de dados.

Metodologia
Os autores propõem o HypCBC (Hyperbolic Cross-Branch Consistency), um framework que utiliza variedades hiperbólicas para uma generalização de domínio robusta sem a necessidade de rótulos de domínio. O método opera sobre um backbone euclidiano pré-treinado e congelado (ex: ViT) e introduz uma estratégia de projeção hiperbólica leve:

1. Projeção Hiperbólica: Em vez de treinar uma rede hiperbólica de ponta a ponta, o método projeta os embeddings euclidianos de um backbone congelado para um modelo de bola de Poincaré ($D^d_c$) usando um mapa exponencial. Isso combina a estabilidade dos recursos euclidianos pré-treinados com as vantagens geométricas do espaço hiperbólico (curvatura negativa constante).
2. Arquitetura de Dois Ramos: A arquitetura emprega dois ramos paralelos:
   • Ramo de Alta Dimensão ($d_1=128$): Captura recursos finos e específicos de classe para inferência.
   • Ramo de Baixa Dimensão ($d_2=2$): Atua como um gargalo de informação (information bottleneck). A análise empírica sugere que este espaço de baixa dimensão impõe naturalmente a invariância de domínio ao descartar o ruído específico do domínio enquanto retém a informação discriminativa de rótulo.
3. Consistência entre Ramos (Cross-Branch Consistency - CBC): Uma nova restrição de regularização não supervisionada é introduzida. Os logits do ramo de baixa dimensão (invariante ao domínio) supervisionam o ramo de alta dimensão via uma perda de divergência de Kullback–Leibler (KL). Isso transfere o conhecimento agnóstico ao domínio para o ramo principal de inferência sem depender de treinamento adversarial ou rótulos de domínio explícitos.
4. Objetivo de Treinamento: A perda total combina perdas de entropia cruzada para ambos os ramos, ponderadas por um hiperparâmetro $\lambda$.

Principais Contribuições

• Validação Abrangente do Aprendizado Hiperbólico: O artigo fornece a primeira validação extensiva do aprendizado de representação hiperbólica para imagens médicas, demonstrando melhorias estatisticamente significativas sobre os baselines euclidianos em onze conjuntos de dados de distribuição interna (ID) abrangendo nove modalidades de imagem, tamanhos de amostra de $10^2$ a $10^5$ e diferentes granularidades de rótulo.
• Generalização de Domínio Não Supervisionada: A introdução do HypCBC, uma estratégia de dois ramos com consistência invariante ao domínio, que supera métodos euclidianos de estado da arte (incluindo abordagens baseadas em aumento de dados e minimização de risco invariante) em três benchmarks de generalização de domínio.
• Insights de Ablação: O estudo revela que um ramo de baixa dimensão (2D) equilibra eficazmente a invariância de domínio com a discriminação de rótulo. Além disso, demonstra que os ganhos de robustez se devem às propriedades geométricas da variedade hiperbólica e à restrição de consistência, e não meramente a um aumento na contagem de parâmetros.

Resultados Experimentais

• Desempenho de Distribuição Interna (ID): Através de três modelos ViT (ViT-S, DeiT3-S, DINOv2-S) e onze conjuntos de dados médicos, os classificadores hiperbólicos (HypERM) superaram consistentemente os classificadores euclidianos (ERM). Os ganhos foram estatisticamente significativos ($p < 0,05$), com melhorias notáveis em OCT (+2,70%), Path (+1,48%) e Tissue (+1,36%) utilizando DINOv2.
• Generalização de Domínio (DG): Em três benchmarks — Fitzpatrick17k (dermatologia), Camelyon17-WILDS (histopatologia) e uma configuração de imagem de retina entre conjuntos de dados — o HypCBC alcançou o melhor desempenho.
  • Superou o melhor método euclidiano (AugMix) em +0,68% no teste de Retina.
  • Alcançou uma melhoria média de +2,1% de AUC nos três benchmarks de DG em comparação com os baselines euclidianos.
  • Ao contrário de métodos como o VREx, o HypCBC alcança esses ganhos de forma totalmente não supervisionada, sem acesso a rótulos de domínio durante o treinamento.
• Achados de Ablação:
  • Dimensionalidade: Um gargalo de 2D proporcionou a mais forte invariância de domínio (menor AUC de classificação de domínio) mantendo alta discriminação de rótulo. Os embeddings hiperbólicos mantiveram ganhos de precisão de rótulo até $d=128$, enquanto os embeddings euclidianos estagnaram.
  • Consistência: A regularização de consistência entre ramos gerou ganhos positivos de AUC em todos os conjuntos de dados e tamanhos de gargalo no espaço hiperbólico, enquanto a consistência euclidiana produziu resultados irregulares ou negativos.

Significância e Alegações
Os autores afirmam que o HypCBC oferece uma alternativa "simples, porém poderosa" para construir sistemas de IA médica robustos. O trabalho destaca que a curvatura negativa constante das variedades hiperbólicas reflete naturalmente as estruturas hierárquicas dos dados clínicos, uma característica que a geometria euclidiana plana não consegue capturar. Ao projetar recursos euclidianos congelados em um espaço hiperbólico e impor a consistência entre ramos, o método alcança um treinamento estável e uma generalização superior para domínios não vistos. O artigo enfatiza que essas melhorias não são artefatos do aumento da capacidade do modelo, mas são intrínsecas à geometria hiperbólica e à proposta de restrição de consistência.

Limitações
Os autores observam que a implementação atual utiliza um parâmetro de curvatura estático ($c=1,0$) e um backbone congelado. Eles sugerem que a curvatura aprendível ou o ajuste fino (fine-tuning) do backbone poderiam melhorar ainda mais o desempenho, mas ao custo de maior complexidade. Além disso, o método é atualmente avaliado apenas em tarefas de classificação multi-classe de rótulo único, embora o mecanismo de consistência ao nível de logits seja conceitualmente extensível para configurações multi-rótulo.