Uncertainty Estimation in Pathology Foundation Models via Deep Mutual Learning

Resumo Técnico: Estimativa de Incerteza em Modelos de Fundação de Patologia via Aprendizado Mútuo Profundo

Definição do Problema
Os Modelos de Fundação de Patologia (PFMs) demonstraram fortes capacidades de generalização na extração de representações de imagens de lâminas inteiras (WSIs) para tarefas como análise de sobrevivência, descoberta de biomarcadores e subtipagem de tumores. No entanto, sua tradução para a prática clínica rotineira é dificultada por duas limitações críticas:

1. Falta de Estimativas de Confiança: Os pipelines de PFM existentes tipicamente produzem previsões sem medidas explícitas de confiança ou incerteza. Em ambientes clínicos, os modelos devem não apenas ser precisos, mas também capazes de indicar quando suas previsões são incertas para apoiar a tomada de decisão segura.
2. Desempenho Dependente da Tarefa: Nenhum PFM único é universalmente superior em todas as tarefas downstream, conjuntos de dados e contextos clínicos. Selecionar o modelo ideal para implantação é desafiador, e confiar em um único modelo acarreta o risco de desempenho subótimo ou excesso de confiança em casos propensos a falhas.

Métodos de fusão atuais frequentemente melhoram o desempenho, mas falham em fornecer estimativas de incerteza explícitas e agnósticas à tarefa. Inversamente, métodos de quantificação de incerteza, como ensembles profundos ou Monte Carlo dropout, não são especificamente projetados para ensembles de PFM ou são específicos para uma tarefa (por exemplo, limitados ao diagnóstico de glioblastoma).

Metodologia: Estrutura DICE
Os autores propõem o DICE (Disagreement-Informed Coordination of Experts), uma estrutura plug-and-play que utiliza ensembles de $K$ PFMs congelados para estimar a incerteza e melhorar o desempenho downstream. A intuição central é que o desacordo entre PFMs heterogêneos serve como um sinal informativo de incerteza, desde que esse desacordo seja estruturado em vez de dominado por ruído de otimização.

A estrutura opera da seguinte forma:

1. Arquitetura: O sistema utiliza $K$ PFMs congelados (ex: Virchow2, UNI2-h, H-optimus-1, CONCHv1.5, Hibou-L). Cada PFM atua como um "especialista" $E^{(k)}$, pareado com um agregador de Aprendizado de Instância Múltipla (MIL) independente (especificamente ABMIL) e uma cabeça de classificação.

2. Objetivos de Treinamento: Para garantir que o desacordo do ensemble reflita uma incerteza significativa em vez de ruído, os especialistas são acoplados durante o treinamento via três objetivos:

   • Perda Supervisionada ($L_{sup}$): Perda de entropia cruzada padrão para garantir a classificação precisa ao nível da lâmina.
   • Aprendizado Mútuo Profundo ($L_{DML}$): Um objetivo de alinhamento no espaço de predição onde cada especialista minimiza a divergência de Kullback–Leibler (KL) entre sua distribuição preditiva e as de seus $K-1$ pares. Isso incentiva o consenso enquanto mantém o alinhamento com a verdade fundamental (ground truth).
   • Regularização de Gramian ($L_{Gram}$): Um objetivo de alinhamento no espaço de representação baseado na medida de Gramian. Ele incentiva as embeddings das lâminas dos especialistas a ocuparem um subespaço de baixo volume, prevenindo o desalinhamento geométrico que poderia ser confundido com incerteza.
   • Perda Total: O objetivo de treinamento combina estes termos: $L = L_{sup} + L_{DML} + \lambda_{Gram}(t) L_{Gram}$, onde $\lambda_{Gram}$ segue um cronograma de warm-up.

3. Inferência e Estimativa de Incerteza:

   • Proxy de Incerteza: Na inferência, a predição do ensemble é a média das distribuições dos $K$ especialistas. A incerteza preditiva total é decomposta em componentes aleatórios (dados) e epistêmicos (modelo). Os autores provam teoricamente que a incerteza epistêmica (desacordo residual) é limitada superiormente pela agregação da perda DML. Assim, minimizar a perda DML durante o treinamento contrai o limite superior da incerteza do modelo.
   • Localização: A localização de lesões ao nível de patch é alcançada de forma não supervisionada através do cálculo do consenso dos pesos de atenção entre todos os especialistas.

Principais Contribuições

1. Primeira Estrutura Agnóstica à Tarefa: O DICE é a primeira estrutura que aproveita ensembles de PFM especificamente para estimativa de incteza agnóstica à tarefa em patologia computacional.
2. Fundamentação Teórica: O artigo fornece uma prova teórica de que a minimização do objetivo de alinhamento DML durante o treinamento contrai um limite superior da incerteza epistêmica do ensemble, validando o uso do desacordo residual como um proxy de incerteza confiável.
3. Desempenho Empírico: Experimentos extensos demonstram que o DICE não apenas identifica com precisão amostras propensas a falhas (tanto in-distribution quanto out-of-distribution), mas também iguala ou supera PFMs individuais de estado da arte (SOTA) e baselines de fusão em classificação, calibração e localização de lesões não supervisionada.

Resultados Experimentais
A estrutura foi avaliada em três benchmarks de WSI fracamente supervisionados: PANDA (graduação de câncer de próstata), CAMELYON16 e CAMELYON17 (detecção de metástase de linfonodo mamário).

• Classificação e Calibração: O DICE alcançou os maiores escores F1 e as menores Negativas de Log-Likelihood (NLL) na maioria dos conjuntos de dados. No PANDA, melhorou o F1 em 3,8 pontos percentuais em relação ao melhor PFM individual e 2,8 pontos em relação ao melhor baseline de fusão.
• Estimativa de Incerteza: Em experimentos de predição seletiva, o DICE adiou eficazmente lâminas de alta incerteza, resultando nas menores taxas de erro retidas. Demonstrou uma separação superior entre predições corretas e incorretas (medida pelo $\Delta$ de Cliff) comparado ao Monte Carlo Dropout e outros métodos de fusão. Esta capacidade manteve-se mesmo sob mudanças de coorte (ex: treinar no CAMELYON16 e testar no CAMELYON17).
• Localização: Ao agregar mapas de atenção, o DICE forneceu localização de patch não supervisionada que foi competitiva ou superior aos modelos individuais, particularmente ao concentrar a atenção dentro de regiões tumorais anotadas em vez de tecido estromal circundante.
• Estudos de Ablação: A estrutura provou ser robusta à escolha do agregador MIL (DSMIL, TransMIL) e mostrou que aumentar o número de especialistas gera retornos decrescentes uma vez que o espaço de características está suficientemente coberto, destacando a importância da complementaridade dos especialistas sobre o tamanho bruto do ensemble.

Significância e Alegações
O artigo posiciona o DICE como um passo crucial para a transição dos PFMs para sistemas de suporte à decisão conscientes de incerteza. Ao estabelecer uma abordagem teoricamente fundamentada para fundir PFMs, o DICE aborda a natureza de "caixa preta" dos modelos atuais, oferecendo um mecanismo para identificar casos propensos a erros e delegar com segurança ao clínico. Os autores afirmam que seu método torna os PFMs mais confiáveis em ambientes clínicos ao fornecer estimativas de incerteza confiáveis sem exigir supervisão explícita para localização ou calibração de confiança.

Os autores reconhecem limitações, incluindo o custo computacional de extração de características de $K$ modelos congelados (embora os custos de treinamento permaneçam menores do que o ajuste fino de ponta a ponta) e a necessidade de equilibrar cuidadosamente o alinhamento e a diversidade para evitar a supressão do próprio desacordo necessário para a estimativa de incerteza. Eles concluem que, embora o número de especialistas seja atualmente fixo, a estrutura abre caminho para modelos de patologia mais confiáveis e conscientes da incerteza, integrados em fluxos de trabalho clínicos.