COGENT: Counterfactual Gaussian Explanations for Volumetric Medical Images

Resumo Técnico: COGENT

Problema
A implantação de modelos de aprendizagem profunda em aplicações médicas de alto risco, particularmente em imagens volumétricas como TC e RM, exige explicabilidade robusta. Embora os modelos modernos alcancem um desempenho de estado da arte, seus processos de tomada de decisão permanecem frequentemente opacos. Os métodos de explicabilidade existentes para dados volumétricos operam predominantemente no espaço de pixels ou voxels (espaço da imagem). Essas abordagens frequentemente falham em modelar explicitamente a estrutura tridimensional subjacente da cena, levando a explicações que são difíceis de interpretar anatomicamente ou que obscurecem dependências espaciais complexas. Além disso, muitas técnicas são aplicadas fatia por fatia, falhando em capturar estruturas de objetos 3D coerentes. Há uma necessidade de frameworks de explicabilidade que operem diretamente em representações 3D estruturadas para preservar a consistência anatômica e fornecer insights clinicamente significativos.

Metodologia
O artigo introduz o COGENT (Counterfactual Gaussian Explanations for Volumetric Medical Images), um framework que gera explicações contrafatuais diretamente no espaço de parâmetros de representações volumétricas baseadas em Gaussianas, em vez de no espaço da imagem bruta. A metodologia integra três componentes principais:

1. Camada de Representação (MedGS): O framework utiliza o MedGS (Medical Gaussian Splatting), que estende o 3D Gaussian Splring para imagens médicas multimodais. O MedGS representa dados médicos volumétricos como uma coleção de primitivas Gaussianas explícitas e diferenciáveis. Cada primitiva é definida por parâmetros incluindo posição espacial ($x_i$), coeficientes de aparência ($f_i$), opacidade ($o_i$), escala ($s_i$) e rotação ($r_i$). Isso cria uma ponte totalmente diferenciável entre os parâmetros Gaussianos e as fatias de imagem renderizadas.
2. Preditor Downstream (Sybil): O framework emprega o Sybil, um modelo de aprendizagem profunda projetado para prever o risco futuro de câncer de pulmão diretamente a partir de tomografias computadorizadas de tórax de baixa dose. No COGENT, o Sybil atua como um classificador fixo e congelado. Sua saída (logits de risco) serve como o sinal de otimização.
3. Otimização Contrafatual:
   • Formulação: A explicabilidade é formulada como um problema de otimização contrafatual restrito. O objetivo é identificar quais primitivas Gaussianas, quando modificadas, alterariam a previsão do modelo (por exemplo, mudando uma previsão de alto risco para baixo risco).
   • Processo: O sistema seleciona um subconjunto de Gaussianas (frequentemente aquelas que intersectam máscaras anatômicas ou regiões de interesse específicas). Usando Gradiente Descendente Projetado (PGD), o framework otimiza os parâmetros dessas Gaussianas selecionadas.
   • Fluxo de Gradiente: Os gradientes são propagados de volta do classificador Sybil congelado, através do pipeline de renderização diferenciável, até os parâmetros Gaussianos.
   • Restrições: A otimização é restringida por um limite $L_\infty$ ($\epsilon$) e intervalos de corte globais para garantir que o volume perturbado permaneça anatomicamente próximo ao original, evitando artefatos irreais.
   • Objetivo: A função de perda ($L_{cf}$) é definida com base no objetivo contrafatual, seja não direcionado (maximizando ou minimizando um logit de risco específico) ou direcionado (correspondendo a um valor de logit específico).
   • Extração: Após a otimização, o framework identifica os 10% superiores de Gaussianas que passaram pelas atualizações de parâmetros mais significativas. Essas primitivas constituem a explicação, representando as regiões estruturais e texturais específicas que impulsionam a decisão do modelo.

Principais Contribuições

• Framework de Espaço de Representação: Os autores introduzem um novo framework que conecta representações MedGS com um modelo de predição de risco de câncer de pulmão volumétrico, deslocando a explicabilidade do espaço da imagem para um espaço de parâmetros 3D estruturado.
• Otimização Contrafatual no Espaço de Parâmetros: O trabalho formula a explicabilidade como um problema de otimização contrafatual diretamente dentro do espaço de parâmetros de representações Gaussianas 3D, um afastamento dos métodos convencionais de perturbação de pixel/voxel.
• Explicações Clinicamente Significativas: O artigo demonstra que as explicações contrafatuais no espaço Gaussiano produzem resultados espacialmente localizados, esparsos e anatomicamente consistentes que se alinham com as expectativas clínicas, validados através de métricas quantitativas e avaliação de especialistas.

Resultados
O framework foi avaliado em tomografias computadorizadas de pulmão usando o modelo Sybil, comparando o COGENT contra baselines estabelecidos (GradCAM, Saliency, Integrated Gradients, Input $\times$ Gradient, Kernel SHAP) e um baseline de contrafactual no espaço de pixel.

• Desempenho Quantitativo: O COGENT alcançou as pontuações de localização mais altas, com valores de RRA e RRA_abs de 0,2837, superando significativamente o baseline clássico mais forte, GradCAM (0,0805). Isso indica uma capacidade superior de identificar as regiões patológicas que impulsionam a predição.
• Esparsidade e Compactação: O COGENT manteve um alto grau de esparsidade (0,6550), produzindo explicações focadas em comparação com o Kernel SHAP, que é mais difuso (0,2083).
• Estabilidade de Perturbação: O método mostrou desempenho competitivo em Perturbação-AUC (0,0396) e Média de Perturbação (0,0414), indicando desempenho estável através dos critérios de avaliação.
• Avaliação Qualitativa e de Especialistas: Comparações visuais mostraram que o COGENT produz modificações anatomicamente plausíveis e localizadas (por exemplo, visando nódulos específicos), enquanto os baselines de espaço de pixel resultaram em padrões dispersos e ruidosos. Uma avaliação de um radiologista especialista em uma escala de 5 pontos encontrou que, em 40% dos casos, as explicações contrafatuais corresponderam a uma mitigação positiva da gravidade da doença (atenuação de traços malignos), com outros 40% mostrando um impacto neutro. As explicações localizaram-se consistentemente em regiões que um especialista identificaria como suspeitas.

Significância e Alegações
O artigo afirma que o COGENT fornece uma nova perspectiva para interpretar modelos de aprendizagem profunda volumétricos ao incorporar a explicabilidade dentro da representação explícita da cena 3D. A significância reside na capacidade de gerar explicações que não são apenas tecnicamente eficazes em localizar a atenção do modelo, mas que também são clinicamente significativas e anatomicamente consistentes. Ao operar no espaço de parâmetros Gaussiano, o método evita a incoerência anatômica frequentemente encontrada em perturbações de nível de voxel. Os autores posicionam o COGENT como um paradigma geral para explicabilidade no espaço de representação, demonstrando seu potencial para tornar os modelos de IA volumétricos mais transparentes e confiáveis para a tomada de decisão médica. O trabalho sugere que as explicações contrafatuais no espaço de parâmetros podem revelar efetivamente as evidências estruturais e texturais subjacentes às predições do modelo de uma forma que se alinha ao entendimento radiológico.