Scientific Explanations in Health Sciences: Causality, Trust, and Epistemic Adequacy

Resumen Técnico: Explicaciones Científicas en las Ciencias de la Salud: Causalidad, Confianza y Adecuación Epistémica

Planteamiento del Problema
La Inteligencia Artificial (IA) Médica está posicionada para transformar la práctica clínica, sin embargo, la opacidad de muchos modelos de Aprendizaje Automático (ML) ("cajas negras") plantea desafíos significativos en contextos médicos de alto riesgo donde las decisiones impactan la vida y la muerte. Aunque se ha propuesto la IA Explicable (XAI) como un remedio para clarificar las predicciones de los modelos, el campo sufre de una falta de claridad conceptual sobre qué constituye una explicación médica "adecuada". La investigación actual en XAI opera frecuentemente sin un fundamento filosófico riguroso, lo que genera debates sobre si las explicaciones deben priorizar los estándares causales científicos o los criterios orientados al rendimiento. Además, los marcos de XAI existentes tratan frecuentemente las explicaciones como artefactos técnicos evaluados mediante métricas o plausibilidad del usuario, pasando potencialmente por alto los requisitos epistémicos y relacionales esenciales para la confianza clínica y la toma de decisiones.

Metodología
Este artículo emplea una metodología de revisión crítica situada en la intersección de la filosofía de la ciencia y la XAI. En lugar de proponer nuevos algoritmos o realizar experimentos empíricos, los autores sintetizan la literatura filosófica establecida sobre la explicación médica con los desarrollos actuales en la IA médica. El análisis se centra en tres ejes temáticos centrales derivados de la indagación filosófica:

1. Causalidad: Examinar la tensión entre correlación y causalidad, y la necesidad de diferentes modelos causales (mecanicistas, probabilísticos, relacionales) en el razonamiento médico.
2. Confianza: Analizar las dimensiones epistémicas y relacionales de la confianza en entornos clínicos, distinguiendo entre la dependencia, la confianza específica y la confianza general dentro de la relación fiduciaria médico-paciente.
3. Adecuación Explicativa: Definir los criterios para las explicaciones médicas "auténticas", considerando las necesidades pragmáticas de diversos grupos de interés (clínicos, pacientes, reguladores).

Contribuciones Clave
El artículo realiza tres contribuciones distintas al discurso sobre la XAI Médica:

1. Análisis de Brechas Conceptuales: Identifica la asimetría conceptual entre las expectativas establecidas por los relatos filosóficos de la explicación y las capacidades actuales de las explicaciones de IA en la atención médica. Argumenta que la investigación en XAI ha pasado por alto en gran medida la literatura filosófica fundacional necesaria para fundamentar la explicabilidad.
2. Identificación de Ejes Analíticos Centrales: El artículo delinea tres áreas centrales extraídas de la literatura filosófica que son críticas para la XAI:
   • Causalidad: Ir más allá de los modelos mecanicistas de "bola de billar" para abrazar una "red de causalidad" y una causalidad probabilística que refleje la complejidad de las enfermedades.
   • Confianza: Enmarcar la confianza no meramente como satisfacción del usuario o precisión, sino como un concepto sui generis arraigado en la obligación fiduciaria y la vulnerabilidad, que requiere justificación más allá del mero rendimiento.
   • Adecuación: Establecer que una "buena" explicación depende del contexto, sirviendo a diferentes funciones (predicción, intervención, narrativa) para diferentes grupos de interés.
3. Principios de Diseño Fundamentados Filosóficamente: Los autores proponen un conjunto de principios de diseño (resumidos en la Tabla 1) para guiar el desarrollo de sistemas de XAI Médica:
   • P1: Las explicaciones deben apoyar la intervención. Las explicaciones deben rastrear dependencias intervencionistas genuinas en lugar de meras asociaciones, permitiendo a los clínicos determinar cambios accionables.
   • P2: Las explicaciones son específicas para cada grupo de interés. Los marcos de XAI deben ser adaptativos, presentando contenido causal, estadístico o narrativo adaptado a las necesidades epistémicas específicas de clínicos, pacientes o reguladores.
   • P3: La confianza debe ser evaluada explícitamente. Los protocolos de evaluación deben distinguir entre plausibilidad y fidelidad, asegurando que las explicaciones refuercen la dependencia justificada en lugar de una confianza errónea.

Resultados y Análisis Ilustrativo
El artículo no presenta resultados experimentales, sino que ofrece un marco conceptual para evaluar los métodos de XAI existentes. Utilizando la Figura 1, los autores ilustran cómo este marco puede evaluar el "compromiso epistémico" de diferentes técnicas:

• Mapas de Saliencia (ej., Grad-CAM++): El análisis sugiere que estos métodos suelen puntuar bajo en intervención causal y especificidad de los grupos de interés. Aunque pueden parecer efectivos, proporcionan información correlacional que no logra ofrecer una visión causal ni apoyar la confianza fiduciaria requerida en la práctica clínica. Corren el riesgo de aumentar la confianza del usuario sin mejorar la calidad de la decisión.
• Métodos Contrafácticos/Generativos (ej., GANterfactual): Por el contrario, los métodos que generan escenarios contrafácticos (por ejemplo, mostrar cómo debe cambiar una radiografía de tórax para alterar un diagnóstico) se posicionan más alto en el marco. Proporcionan conocimientos causales explícitos, apoyan el razonamiento intervencionista y pueden adaptarse a diferentes grupos de interés, satisfaciendo así mejor los criterios de adecuación epistémica.

Significancia y Reivindicaciones
El artículo sostiene que, para que la XAI se convierta en un componente legítimo del razonamiento clínico y de la práctica médica responsable, debe ir más allá de las visiones instrumentales de la explicación. La significancia de este trabajo radica en:

• Reencuadrar el Debate: Desplaza la discusión de un compromiso entre precisión e interpretabilidad hacia un requisito de explicaciones que sean epistémicamente robustas y alineadas con las necesidades prácticas de la toma de decisiones clínicas.
• Unir Disciplinas: Integra las ricas tradiciones filosóficas de la explicación médica (a menudo pasadas por alto en la investigación de IA) en los debates contemporáneos de XAI, argumentando que la medicina ha lidiado durante mucho tiempo con cuestiones complejas de causalidad y confianza que la XAI debe abordar.
• Establecer Criterios: Proporciona una base conceptual necesaria para evaluar si los enfoques de XAI cumplen con los requisitos epistémicos, justificativos y prácticos de las ciencias de la salud.

Los autores concluyen modestamente que, si bien este trabajo proporciona un marco conceptual y filosófico, no evalúa sistemáticamente todos los métodos existentes frente a estos criterios. Identifican esto como una limitación que debe abordarse en trabajos futuros mediante un análisis sistemático de cómo los enfoques actuales de XAI médica incorporan estas dimensiones filosóficas.