Scientific Explanations in Health Sciences: Causality, Trust, and Epistemic Adequacy

Resumo Técnico: Explicações Científicas nas Ciências da Saúde: Causalidade, Confiança e Adequação Epistêmica

Problema
A Inteligência Artificial (IA) Médica está prestes a transformar a prática clínica, mas a opacidade de muitos modelos de Aprendizado de Máquina (ML) ("caixas pretas") impõe desafios significativos em contextos médicos de alto risco, onde as decisões impactam vidas e mortes. Embora a IA Explicável (XAI) tenha sido proposta como um remédio para esclarecer as previsões dos modelos, o campo sofre com uma falta de clareza conceitual sobre o que constitui uma explicação médica "adequada". A pesquisa atual em XAI opera frequentemente sem um fundamento filosófico rigoroso, levando a debates sobre se as explicações devem priorizar padrões causais científicos ou critérios orientados pelo desempenho. Além disso, os frameworks de XAI existentes frequentemente tratam as explicações como artefatos técnicos avaliados por métricas ou plausibilidade do usuário, potencialmente negligenciando os requisitos epistêmicos e relacionais essenciais para a confiança clínica e a tomada de decisão.

Metodologia
Este artigo emprega uma metodologia de revisão crítica situada na interseção entre a filosofia da ciência e a XAI. Em vez de propor novos algoritmos ou realizar experimentos empíricos, os autores sintetizam a literatura filosófica estabelecida sobre explicação médica com os desenvolvimentos atuais da IA médica. A análise foca em três eixos temáticos centrais derivados da investigação filosófica:

1. Causalidade: Examinando a tensão entre correlação e causalidade, e a necessidade de diferentes modelos causais (mecanísticos, probabilísticos, relacionais) no raciocínio médico.
2. Confiança: Analisando as dimensões epistêmicas e relacionais da confiança em ambientes clínicos, distinguindo entre dependência (reliance), confiança específica e confiança geral dentro da relação fiduciária médico-paciente.
3. Adequação Explicativa: Definindo os critérios para explicações médicas "bona fide" (autênticas), considerando as necessidades pragmáticas de diversos stakeholders (clínicos, pacientes, reguladores).

Principais Contribuições
O artigo apresenta três contribuições distintas para o discurso sobre XAI Médica:

1. Análise de Lacuna Crítica: Identifica a assimetria conceitual entre as expectativas estabelecidas pelos relatos filosóficos de explicação e as capacidades atuais das explicações de IA na saúde. Argumenta que a pesquisa em XAI tem amplamente negligenciado a literatura filosófica fundamental necessária para fundamentar a explicabilidade.
2. Identificação de Eixos Analíticos Centrais: O artigo delineia três áreas centrais extraídas da literatura filosófica que são críticas para a XAI:
   • Causalidade: Indo além dos modelos mecanísticos de "bola de bilhar" para abraçar uma "teia de causalidade" e a causalidade probabilística que reflete a complexidade das doenças.
   • Confiança: Estruturando a confiança não meramente como satisfação do usuário ou precisão, mas como um conceito sui generis enraizado na obrigação fiduciária e na vulnerabilidade, exigindo justificativa além do mero desempenho.
   • Adequação: Estabelecendo que uma "boa" explicação é dependente do contexto, servindo a diferentes funções (predição, intervenção, narrativa) para diferentes stakeholders.
3. Princípios de Design Filosoficamente Fundamentados: Os autores propõ ability um conjunto de princípios de design (resumidos na Tabela 1) para guiar o desenvolvimento de sistemas de XAI Médica:
   • P1: As explicações devem apoiar a intervenção. As explicações devem rastrear dependências intervencionistas genuínas em vez de meras associações, permitindo que os clínicos determinem mudanças acionáveis.
   • P2: As explicações são específicas para o stakeholder. Os frameworks de XAI devem ser adaptáveis, apresentando conteúdo causal, estatístico ou narrativo adaptado às necessidades epistêmicas específicas de clínicos, pacientes ou reguladores.
   • P3: A confiança deve ser explicitamente avaliada. Os protocolos de avaliação devem distinguir entre plausibilidade e fidelidade (faithfulness), garantindo que as explicações reforcem a dependência justificada em vez de uma confiança equivocada.

Resultados e Análise Ilustrativa
O artigo não apresenta resultados experimentais, mas oferece um framework conceitual para avaliar métodos de XAI existentes. Usando a Figura 1, os autores ilustram como este framework pode avaliar o "compromisso epistêmico" de diferentes técnicas:

• Mapas de Saliência (ex: Grad-CAM++): A análise sugere que estes métodos frequentemente pontuam baixo em intervenção causal e especificidade de stakeholder. Embora possam parecer eficazes, eles fornecem informações correlacionais que falham em oferecer insight causal ou apoiar a confiança fiduciária necessária na prática clínica. Eles correm o risco de aumentar a confiança do usuário sem melhorar a qualidade da decisão.
• Métodos Contrafatuais/Generativos (ex: GANterfactual): Em contraste, métodos que geram cenários contrafatuais (ex: mostrar como uma radiografia de tórax deve mudar para alterar um diagnóstico) posicionam-se em um nível superior no framework. Eles fornecem insights causais explícitos, apoiam o raciocínio intervencionista e podem ser adaptados a diferentes stakeholders, satisfazendo melhor os critérios de adequação epistêmica.

Significância e Alegações
O artigo alega que, para a XAI se tornar um componente legítimo do raciocínio clínico e da prática médica responsável, ela deve ir além das visões instrumentais de explicação. A significância deste trabalho reside em:

• Reenquadrar o Debate: Desloca a discussão de um trade-off entre precisão e interpretabilidade para um requisito de explicações que sejam epistemicamente robustas e alinhadas com as necessidades práticas da tomada de decisão clínica.
• Unir Disciplinas: Integra as ricas tradições filosóficas da explicação médica (frequentemente negligenciadas na pesquisa de IA) nos debates contemporâneos de XAI, argumentando que a medicina há muito lida com questões complexas de causalidade e confiança que a XAI deve abordar.
• Estabelecer Critérios: Fornece uma base conceitual necessária para avaliar se as abordagens de XAI atendem aos requisitos epistêmicos, justificatórios e práticos das ciências da saúde.

Os autores concluem modestamente que, embora este trabalho forneça um framework conceitual e filosófico, ele não avalia sistematicamente todos os métodos existentes contra estes critérios. Eles identificam isso como uma limitação a ser abordada em trabalhos futuros através de uma análise sistemática de como as abordagens atuais de XAI médica incorporam estas dimensões filosóficas.