Integrated Gradient-guided Adversarial Counterfactual Explanations of 12-lead Electrocardiograms

Cada día, millones de personas entran en los hospitales con dolor en el pecho o dificultad para respirar, y la primera herramienta que los médicos utilizan es a menudo una simple grabación de diez segundos de la actividad eléctrica del corazón. Este es el electrocardiograma, o ECG, una prueba que mapea el ritmo del corazón a través de doce ángulos diferentes, revelando peligros ocultos como ataques cardíacos mucho antes de que los síntomas se vuelvan graves. Durante décadas, esta prueba ha sido el estándar de oro, pero hoy en día, la inteligencia artificial está aprendiendo a leer estas mismas líneas onduladas con una velocidad y precisión que a veces rivaliza con la de los expertos humanos. Sin embargo, una barrera silenciosa permanece entre la computadora y la clínica: aunque una máquina puede decirle a un médico que un paciente está en riesgo, a menudo no puede explicar por qué. Ve un patrón en los datos que un humano no puede ver, dejando al médico con la tarea de confiar en una caja negra. Para cerrar esta brecha, los investigadores están desarrollando una nueva forma de pensar sobre cómo las máquinas toman decisiones, yendo más allá de simplemente señalar qué parte de la imagen parecía importante, para plantear una pregunta más humana: ¿qué tendría que cambiar para que la respuesta fuera diferente?

Esta línea de pensamiento, conocida como explicación contrafáctica, refleja la forma en que los médicos diagnostican realmente a los pacientes. Cuando un médico observa un trazado cardíaco, no solo identifica características; simula mentalmente alternativas. Se preguntan a sí mismos: si esta onda fuera ligeramente más alta, o si esta pausa fuera más corta, ¿cambiaría el diagnóstico de un ataque cardíaco a un ritmo normal? Este tipo de razonamiento es central en la práctica médica, pero ha sido difícil de enseñar a las computadoras. La mayoría de los métodos existentes para hacer transparente la inteligencia artificial pueden resaltar las regiones del ECG que influyeron en una predicción, de forma muy parecida a un mapa de calor que muestra dónde enfocó la cámara. Sin embargo, estos mapas no muestran el cambio específico y mínimo requerido para cambiar el resultado. Te dicen dónde miró la máquina, pero no qué tendría que pasar para que cambiara de opinión.

En un nuevo estudio, un investigador llamado Bjørn-Jostein Singstad se propuso construir un sistema que pudiera generar estos escenarios de "qué pasaría si" para las señales cardíacas. El objetivo era crear un marco que pudiera tomar un ECG clasificado como un ataque cardíaco y modificarlo suavemente, de una manera que se concentrara en las partes específicas de la señal que la propia computadora consideraba más importantes, hasta que la computadora lo viera como un corazón normal, y viceversa. El desafío era asegurar que estos cambios no fueran ruido aleatorio o artefactos digitales, sino modificaciones que se centraran en los momentos críticos en los que la máquina se apoyaba. Para lograrlo, el investigador desarrolló un método llamado InterGRACE. Este sistema utiliza una técnica llamada gradientes integrados, que actúa como un reflector, identificando exactamente en qué momentos del latido cardíaco la máquina se apoya más para su decisión. El sistema utiliza entonces este reflector para guar un proceso que altera la señal, concentrando los cambios en esos momentos críticos mientras mantiene el resto de la onda lo más suave y natural posible.

El estudio probó este enfoque en una gran colección pública de más de veintiún mil grabaciones cardíacas, centrándose específicamente en distinguir entre ataques cardíacos y ritmos normales. El investigador entrenó dos modelos informáticos separados para leer estas señales, asegurándose de que aprendieran la tarea de forma independiente uno del otro. El objetivo era ver si los cambios sugeridos por el sistema eran características médicas genuinas o simplemente peculiaridades de un único programa informático. Cuando se le pidió al sistema que cambiara el diagnóstico de un ataque cardíaco a un ritmo normal, tuvo éxito en cambiar la opinión del primer modelo informático en casi dos tercios de los casos. Más importante aún, cuando esas mismas señales alteradas se mostraron al segundo computador, entrenado de forma independiente, este también cambió su opinión en más de la mitad de los casos. Este éxito parcial sugiere que el sistema está encontrando algunas características que son verdaderamente compartidas entre diferentes formas de entender los datos, aunque también indica que una gran fracción de los cambios sigue siendo específica del modelo de origen.

Al observar de cerca las señales que fueron cambiadas, surgió un patrón claro. El sistema no distorsionó todo el latido de forma aleatoria. En su lugar, concentró sus modificaciones en una ventana de tiempo específica conocida como el segmento ST y la onda T. En términos médicos, estas son las partes del latido que ocurren justo después del principal pico eléctrico, representando la fase de recuperación del corazón. Esto es significativo porque, en la medicina del mundo real, los cambios en estas áreas exactas son los principales indicadores de un ataque cardíaco. El hecho de que la computadora, guiada solo por su propia lógica interna, eligiera alterar estas regiones específicas sugiere que se alinea con la presencia de características de repolarización clínicamente significativas, aunque el estudio señala que esto no demuestra de manera concluyente que estas sean las únicas características en juego. Los cambios no fueron uniformes en toda la señal; fueron precisos, apuntando a la fase de recuperación mientras dejaban el pico eléctrico inicial prácticamente intacto.

Sin embargo, el estudio también reveló límites importantes para esta tecnología. Aunque el sistema funcionó bien con los modelos informáticos, los cambios que produjo no siempre fueron perfectamente seguros o realistas para que un humano los interpretara. Debido a que el sistema trataba cada una de las doce derivaciones del ECG de forma independiente, a veces creó combinaciones de señales que nunca podrían ocurrir en un corazón humano vivo. Por ejemplo, podría cambiar el voltaje en una derivación sin realizar el cambio correspondiente y físicamente necesario en otra derivación, creando un patrón que viola las leyes de cómo viaja la electricidad a través del cuerpo. El investigador señaló que, sin reglas estrictas para imponer estas leyes biológicas, los ejemplos generados pueden contener características que son improbables o imposibles en las señales cardíacas reales, como saltos repentinos de voltaje o ondas distorsionadas que ningún corazón real podría producir.

Este hallazgo sirve como un recordatorio crucial de que, si bien el método identifica con éxito qué partes de la señal importan a la máquina, aún no comprende plenamente la compleja física del cuerpo humano. El estudio concluye que este enfoque es un paso prometedor hacia la creación de una inteligencia artificial más transparente, ofreciendo una forma de sondear el razonamiento de un modelo informático preguntando qué tendría que pasar para que cambiara de opinión. No obstante, antes de que tales herramientas puedan utilizarse para ayudar a los médicos en decisiones de vida o muerte, deben refinarse para asegurar que cada cambio sugerido no solo sea efectivo para la computadora, sino también físicamente posible para un corazón humano. El trabajo constituye una demostración inicial de que las máquinas pueden ser guiadas para pensar en términos de "qué pasaría si", pero también resalta el largo camino que queda por delante para asegurar que esos cambios hipotéticos estén fundamentados en la realidad de la fisiología humana.