Interpretability Methods for Causal Predictions in Biomedical AI: A Systematic Review of Approaches and Evaluation Practices
Esta revisión sistemática de 47 estudios de IA biomédica revela que, si bien los métodos de interpretabilidad como SHAP y LIME se utilizan ampliamente para explicar modelos de predicción causal, su evaluación se basa predominantemente en métricas basadas en propiedades y rara vez valida la validez causal real, lo que pone de relieve una brecha crítica entre la explicación del modelo y la inferencia causal.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En el mundo de la medicina moderna, la inteligencia artificial se ha convertido en una herramienta poderosa para detectar patrones que los ojos humanos podrían pasar por alto. Estos sistemas informáticos pueden escanear miles de imágenes médicas o analizar años de registros de pacientes para predecir quién podría enfermarse o cómo progresará una enfermedad. Sin embargo, existe una diferencia crucial entre saber que dos cosas suceden juntas y saber que una cosa realmente causa la otra. Una computadora podría aprender que una marca específica en la piel aparece a menudo junto con una enfermedad grave, pero eso no significa que la marca cause la enfermedad; podría ser simplemente un efecto secundario de algo completamente distinto. Si un médico confía en una computadora que solo ve estas conexiones, podría tomar la decisión equivocada al intentar tratar a un paciente, porque tratar la marca no curará la enfermedad. Esta brecha entre detectar un patrón y comprender la verdadera causa es el desafío central que los investigadores están tratando de resolver.
Una nueva revisión sistemática de Albert Schulle, de la Universidad Técnica de Múnich, investiga qué tan bien nos ayudan las herramientas actuales a comprender estas causas. El estudio analizó cientos de artículos para ver si los métodos utilizados para explicar cómo la IA realiza sus predicciones son realmente capaces de revelar causas biológicas reales. Los investigadores descubrieron que, si bien los científicos están ansiosos por utilizar estas herramientas de explicación, la mayoría está utilizando las incorrectas para el trabajo. Las herramientas más populares, que asignan puntuaciones de importancia a diferentes características como la edad o la presión arterial, son excelentes para mostrar lo que la computadora notó, pero son pésimas para mostrar qué causó realmente el resultado. De hecho, la revisión descubió que la evaluación explícita de la validez causal fue rara, apareciendo en solo el 9% de los estudios examinados, lo que significa que la gran mayoría nunca probó realmente si sus explicaciones decían la verdad sobre la causa y el efecto.
La revisión examinó 47 estudios publicados entre 2016 y 2025 que intentaron aplicar estos métodos de explicación a problemas médicos donde la causa y el efecto importan, como predecir cómo responderá un paciente a un medicamento específico. Los investigadores encontraron que la gran mayoría de estos estudios, alrededor del 68 por ciento, dependieron de métodos de atribución de características. Estas son técnicas que resaltan qué variables de entrada utilizó el modelo computacional con mayor intensidad para tomar una decisión. Las dos herramientas más comunes fueron SHAP y LIME, que actúan como un reflector, iluminando los puntos de datos que el modelo encontró más importantes. Aunque estas herramientas son muy buenas para mostrar en qué números miró la computadora, la revisión argumenta que están fundamentalmente limitadas porque solo describen asociaciones. Pueden decirle a un médico que la presión arterial alta fue un factor clave en una predicación de riesgo, pero no pueden decirle al médico si bajar la presión arterial realmente evitará el ataque cardíaco.
El estudio también buscó otros métodos más avanzados que pudieran acercarse más a la verdad. Alrededor del 15 por ciento de los estudios utilizaron explicaciones contrafácticas, que imaginan qué habría pasado si un paciente hubiera hecho algo diferente, como tomar un medicamento distinto. Estas son conceptualmente más cercanas a cómo piensan los médicos sobre la causa y el efecto, pero todavía se utilizaron en una pequeña fracción de la investigación. Aún más raras fueron los métodos basados en conceptos, que intentan explicar decisiones utilizando ideas comprensibles para los humanos como el "tamaño del tumor" en lugar de puntos de datos brutos, apareciendo en solo el 6 por ciento de los estudios. La revisión encontró que el campo está fuertemente sesgado hacia las herramientas más simples que explican asociaciones, lo que crea el riesgo de que los médicos confundan una correlación con una causa.
Quizás el hallazgo más sorprendente concierne a cómo se prueban estas explicaciones. Cuando los investigadores construyen un modelo y lo explican, deben comprobar si la explicación es buena. La revisión encontró que el 72 por ciento de los estudios verificaron la fidelidad, lo que simplemente significa comprobar si la explicación coincide con lo que hizo el modelo computacional. Otro 43 por ciento verificó la estabilidad, asegurando que la explicación no cambiara aleatoriamente cada vez que el modelo se ejecutaba. Estas son comprobaciones técnicas importantes, pero no responden a la pregunta más importante: ¿es la explicación correcta sobre la causa? La revisión encontró que solo el 9 por ciento de los estudios intentó validar si la explicación reflejaba realmente una relación causal verdadera. En los pocos casos en que los investigadores sí intentaron verificar la causalidad, la mayoría se basó en preguntar a expertos humanos si la explicación "parecía" plausible, en lugar de utilizar pruebas rigurosas para demostrarlo.
Esta brecha entre lo que las herramientas hacen y lo que el campo necesita es significativa. El autor señala que usar una herramienta diseñada para explicar asociaciones para resolver un problema causal es como usar un mapa de patrones de tráfico para planificar una ruta de senderismo; el mapa puede mostrar por dónde van los autos, pero no le dirá cuál es el camino seguro para caminar. La revisión sugiere que el enfoque actual está metodológicamente fragmentado, con investigadores aplicando poderosas herramientas de explicación a modelos que nunca fueron construidos para entender la causa y el efecto en primer lugar. El artículo concluye que, para que la inteligencia artificial sea verdaderamente confiable en la medicina, el campo debe ir más allá de simplemente comprobar si una explicación parece consistente. Necesita desarrollar nuevas formas de probar si una explicación es realmente correcta sobre la biología subyacente, utilizando mejores parámetros de referencia y suposiciones más claras sobre cómo funcionan las enfermedades. Hasta entonces, la promesa de una IA que pueda explicar verdaderamente por qué un paciente está enfermo sigue fuera de alcance.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.