Causal Responsibility Based Explainable AI for Vibrational Spectroscopy Applied to Cancer Diagnostics

Resumo Técnico: Responsabilidade Causal para IA Explicável Aplicada à Espectroscopia Vibracional em Diagnósticos de Câncer

Problema
A aplicação de aprendizado profundo (DL) à espectroscopia vibracional (ex: FTIR e Raman) para o diagnóstico de câncer está aumentando, mas esses modelos frequentemente funcionam como "caixas pretas". Embora possam atingir alta precisão de classificação, eles falham em revelar quais características espectrais específicas (regiões de número de onda) impulsionam suas decisões. Essa falta de transparência prejudica a confiança clínica e a conformidade regulatória (ex: Lei de IA da UE). Os métodos existentes de IA Explicável (XAI), como SHAP e Grad-CAM, são frequentemente projetados para uso genérico ou tipos de dados específicos (como imagens) e podem não atender adequadamente aos requisitos únicos de dados espectrais, como a necessidade de explicações locais ao nível de características que distingam o comportamento do modelo da causalidade biológica.

Metodologia
Os autores introduzem o Spec-ReX, um método de XAI adaptado do framework de responsabilidade causal (ReX) para espectros vibracionais. O Spec-ReX quantifica a "responsabilidade causal" de intervalos espectrais específicos para a classificação de um modelo usando a teoria formal da causalidade atual.

• Mecanismo: O Spec-ReX emprega uma estratégia de intervenção de mascaramento. Ele particiona um espectro em intervalos contíguos e os substitui por valores "neutros". Diferente dos métodos de perturbação padrão, que utilizam interpolação mínima, média ou linear, o Spec-ReX utiliza uma interpolação quadrática com ruído Gaussiano ajustável para unir as extremidades dos segmentos mascarados. Esta abordagem visa minimizar artefatos fora da distribuição (OOD) enquanto remove as características espectrais.
• Cálculo de Responsabilidade: O método calcula o grau de responsabilidade ($r$) de um intervalo com base no tamanho do menor "conjunto de testemunhas" (witness set) necessário para manter a predição. Se um intervalo é suficiente por si só, sua responsabilidade é 1; se múltiplos intervalos são necessários, a responsabilidade é distribuída ($1/(k+1)$).
• Estrutura de Avaliação: O estudo avalia o Spec-ReX contra o Gradient SHAP e o Grad-CAM através de três estágios experimentais distintos:
  1. In Silico (Verdade Fundamental Definitiva): Espectros sintéticos com picos discriminativos adicionados artificialmente.
  2. In Silico (Verdade Fundamental Ambígua) & In Vitro: Espectros contendo misturas bioquímicas (especificamente DNA vs. sem DNA) onde o modelo pode aprender um subconjunto de características relevantes, simulando a complexidade do mundo real e o deslocamento de picos.
  3. Ex Vivo: Datasets de tecidos reais (FTIR Oral e Raman de Esôfago) onde não existe uma verdade fundamental de atribuição definitiva.

Principais Contribuições

1. Implementação do Spec-ReX: A adaptação da teoria de responsabilidade causal para a espectroscopia vibracional, fornecendo mapas de atribuição esparsos e específicos.
2. Benchmarking Sistemático: Uma comparação abrangente do Spec-ReX, SHAP e Grad-CAM através de datasets sintéticos, bioquímicos e clínicos.
3. Análise de Métricas: A aplicação de diversas métricas de fidelidade, incluindo Interseção sobre União (IoU), Concentração, Taxa de Acerto Positivo (PHR) e AUC de Inserção/Deleção (iAUC/dAUC) e Fidelidade Refinada (FFid), para destacar os compromissos entre sensibilidade e especificidade na avaliação de XAI.
4. Clarificação da Causalidade: Uma distinção rigorosa de que os métodos de XAI explicam o comportamento do modelo treinado sob perturbações específicas, não a causalidade biológica ou mecanismos de doença.

Resultos

• In Silico Definitivo: O Spec-ReX alcançou a maior localização da verdade fundamental, com um IoU de 0,10 e uma concentração de atribuição de 0,56, superando significativamente o próximo melhor método (GradSHAP-datasetAvg com 0,26 de concentração). O Spec-ReX produziu os mapas mais esparsos, concentrando a massa de atribuição quase exclusivamente nos picos definidores.
• In Silico Ambíguo & In Vitro: Surgiu um compromisso entre sensibilidade e especificidade. O SHAP demonstrou maior sensibilidade, alcançando a maior Taxa de Acerto Positivo (PHR) e identificando mais regiões associadas ao DNA. O Spec-ReX foi o mais robusto à remoção de regiões de baixa importância (menor FFid−), indicando que depende de um conjunto de características menor e mais específico.
• Ex Vivo (Dados Clínicos):
  • Raman de Esôfago: Diferentes arquiteturas de modelo (CNN vs. ResNet) aprenderam diferentes estratégias de decisão, levando a diferentes padrões de atribuição. O Spec-ReX consistentemente produziu mapas mais esparsos comparado aos mapas densos do SHAP e às regiões amplas do Grad-CAM.
  • FTIR Oral: Aplicado a um modelo PLS-DA, o Spec-ReX e o SHAP tiveram desempenho semelhante em métricas de inserção/deleção, superando o método de Influência de Variável na Projeção (VIP). Todos os métodos concordaram sobre a importância da região 1054–1062 cm⁻¹ (vibrações de carboidrato/fosfato).
• Observação Geral: Nenhum método ou métrica foi universalmente superior. Métricas que recompensam a sensibilidade favoreceram o SHAP, enquanto métricas que recompensam a especificidade e robustez favoreceram o Spec-ReX.

Significância e Alegações
O artigo afirma que o Spec-ReX fornece mapas de responsabilidade causal-do-modelo esparsos e específicos para classificadores espectrais. Sua principal significância reside na capacidade de identificar o conjunto mínimo de características nas quais um modelo se baseia, oferecendo uma explicação mais focada do que as atribuições frequentemente difusas do SHAP ou os mapas de resolução limitada do Grad-CAM.

No entanto, os autores mantêm uma postura modesta sobre as implicações:

• Centrado no Modelo, Não Biológico: As explicações referem-se estritamente ao comportamento do modelo treinado sob a intervenção de mascaramento. Elas não provam a causalidade biológica ou que as bandas destacadas são mecanismos causais da doença.
• Utilidade de Explicações de "Atalho": Mesmo que um modelo dependa de "atalhos" (características frágeis ou bioquimicamente implausíveis), o Spec-ReX revela fielmente esse comportamento, o que é valioso para identificar modos de falha do modelo.
• Validação Clínica Pendente: A utilidade clínica dessas explicações esparsas ainda precisa ser validada através de estudos centrados no usuário envolvendo especialistas do domínio para determinar se elas melhoram a calibração da confiança e os fluxos de trabalho diagnósticos.

O estudo conclui que, embora o Spec-ReX seja um método competitivo e eficaz para explicar classificadores espectrais, a escolha da ferramenta de XAI deve depender da aplicação específica e do compromisso entre sensibilidade e especificidade exigido pelo usuário.