When Confidence Lacks Concepts: Interpretable OOD Detection via Representation Perturbations

Resumo Técnico: Quando a Confiança Carece de Conceitos: Detecção de OOD Interpretável via Perturbações de Representação

Definição do Problema
Redes neurais profundas, particularmente em imagens médicas, exibem uma tendência de generalização excessiva quando confrontadas com mudanças distributivas (ex: variações em protocolos de imagem, demografia de pacientes ou doenças novas). Embora existam métodos de detecção de Out-of-Distribution (OOD) para mitigar os riscos de previsões não confiáveis, a maioria depende de sinais internos opacos (como probabilidades softmax, escores de energia ou distâncias de características) com significado semântico mal compreendido. Essa falta de interpretabilidade limita a confiança em ambientes clínicos de alta criticidade, onde entender por que uma amostra é sinalizada como anômala é tão crucial quanto a própria detecção. O artigo aborda a necessidade de um framework de detecção de OOD que seja tanto discriminativo quanto interpretável, vinculando decisões de detecção a conceitos específicos e clinicamente significativos.

Metodologia: Perturbações de Ativação Condicionadas à Classe (CAPS)
O framework proposto, CAPS, opera sondando a estabilidade das previsões do modelo sob perturbações semânticas condicionadas à classe dentro do espaço de representação. A metodologia procede em três estágios:

1. Treinamento de Autoencoder Esparso (SAE):
   Os autores empregam Autoencoders Esparsos para decompor ativações intermediárias densas (especificamente o token [CLS] de um Vision Transformer) em componentes esparsos e semanticamente significativos. O SAE aprende uma representação latente esparsa $s(h)$ e um decodificador $D$ tal que a ativação original $h$ é aproximada por uma combinação linear de colunas do decodificador (características). O objetivo de treinamento equilibra a fidelidade de reconstrução com a esparsidade ($L = \|h - \bar{h}\|^2_2 + \gamma\|s(h)\|_1$).

2. Extração de Conceitos Específicos de Classe:
   Para cada classe $c$, os autores identificam um subconjunto de latentes do SAE que são caracteristicamente ativos, computando a média da ativação latente sobre amostras de treinamento in-distribution (ID). As dimensões latentes top-$k$ com a maior ativação média são selecionadas para formar um dicionário de conceitos específico da classe $K_c$. Essas colunas do decodificador representam as direções lineares que codificam características definidoras da classe.

3. Perturbação e Análise de Estabilidade:
   Na inferência, para uma entrada de teste $\bar{x}$, o modelo primeiro prevê uma classe $\hat{y}$. O vetor de conceito correspondente $v_{\hat{y}}$ é construído agregando e normalizando os vetores de conceito selecionados para $\hat{y}$. Este vetor é então injetado na ativação intermediária do modelo na camada $l$ via uma perturbação controlada: $\tilde{h}_l = h_l + \beta v_{\hat{y}}$, onde $\beta$ controla a força da perturbação.

   A hipótese central é que amostras ID, que se alinham com direções semânticas específicas da classe, exibirão baixa sensibilidade a essas perturbações (resultando em pequenas mudanças nos logits da classe). Inversamente, amostras OOD, que carecem de alinhamento com essas direções aprendidas, mostrarão desvios amplificados nos logits. O escore de detecção de OOD é definido pela magnitude do deslocamento do logit $\Delta \ell_c$. Amostras que excedem um limiar $\tau$ (calibrado em um conjunto ID mantido fora do treinamento) são classificadas como OOD.

Principais Contribuições

1. Framework Inovador: A proposta do CAPS, um método de detecção de OOD que aproveita perturbações de nível de conceito no espaço de representação, em vez de escores de saída opacos.
2. Avaliação Cross-Domain: Avaliação extensiva em três modalidades distintas de imagem médica: endoscopia (Kvasir-v2), histopatologia (NCT-CRC-HE-100K/CRC-VAL-HE-7K) e imagem oftálmica (Retinal OCT).
3. Interpretabilidade Clínica: Demonstração de que as características extraídas pelo SAE correspondem a padrões visuais clinicamente significativos (ex: marcos anatômicos como a abertura pilórica ou características fisiológicas como coloração biliar), validados através de revisão por especialistas clínicos cegos.

Resultados
O método foi avaliado contra baselines de estado da arte (incluindo Energy, MSP, Mahalanobis, ViM e NERO) usando métricas de AUROC e FPR95:

• Histopatologia: O CAPS alcançou o melhor desempenho com 95,28% de AUROC e 23,17% de FPR95.
• OCT: O CAPS alcançou 93,67% de AUROC e 24,80% de FPR95, superando todos os baselines.
• Kvasir-v2 (Endoscopia): O método alcançou 79,58% de AUROC. Os autores atribuem o desempenho moderado aqui ao tamanho menor do dataset (2.400 amostras), o que limita a capacidade do SAE de aprender direções altamente discriminativas e específicas de classe em comparação com os maiores datasets de histopatologia e OCT (>50k amostras).
• Robustez: A análise de sensibilidade mostrou que o método é estável através de uma ampla gama de hiperparâmetros ($k$ e $\beta$) para datasets com dados suficientes, embora instabilidade tenha sido observada no regime de baixos dados do Kvasir-v2.

Significância e Alegações
O artigo afirma que o CAPS fornece um "sinal de OOD discriminativo e uma lente interpretável para os mecanismos internos que impulsionam a incerteza do modelo". Ao enquadrar a detecção de OOD como uma análise de estabilidade condicionada a conceitos, a abordagem preenche a lacuna entre alto desempenho de detecção e confiança clínica. Os autores demonstram que amostras OOD são detectadas não meramente porque são "diferentes", mas porque carecem das características semânticas específicas, verificadas por especialistas, que impulsionam previsões confiantes para classes in-distribution.

Os autores mantêm um tom modesto quanto às limitações, reconhecendo que, em regimes de baixos dados, a dificuldade de capturar direções semanticamente coerentes pode impactar a confiabilidade. Eles postulam que, embora o pré-treinamento por modalidade ajude, desenvolver estratégias de treinamento de SAE mais robustas para ambientes de saúde com restrição de dados permanece como uma direção necessária para trabalhos futuros. O trabalho é apresentado como um passo para unificar a interpretabilidade de nível de representação com a avaliação de confiabilidade em redes neurais profundas.