Strategic Patient Involvement in Medical AI Co-Design: A Pilot Study in Heart Failure

En las salas de urgencias de los hospitales de todo el mundo, los médicos se enfrentan cada día a una pregunta difícil y urgente: cuando un paciente llega con insuficiencia cardíaca, ¿puede irse a casa de forma segura o debe quedarse? Esta decisión es de alto riesgo. Enviar a una persona enferma a casa demasiado pronto puede provocar una reincorporación a la urgencia o algo peor, mientras que mantener a una persona estable en el hospital malgasta recursos y retrasa la atención de otros. Para ayudar a tomar estas decisiones, los científicos están construyendo programas informáticos que utilizan inteligencia artificial para predecir el riesgo de un paciente. Estas herramientas analizan datos médicos para adivinar quién podría empeorar. Sin embargo, durante mucho tiempo, estas herramientas han sido diseñadas por médicos e ingenieros que deciden qué información es relevante y cómo deben presentarse los resultados. Las personas que viven con la insuficiencia cardíaca, y que tienen que vivir con las consecuencias de estas decisiones, rara vez han sido consultadas para ayudar a dar forma a las propias herramientas.

Un nuevo estudio piloto de un equipo de investigadores en España y los Países Bajos plantea qué sucede cuando se invierte ese guion. En lugar de pedir a los pacientes que simplemente miren un producto terminado y digan si les gusta, los investigadores invitaron a personas con insuficiencia cardíaca a sentarse y diseñar la herramienta desde cero. El objetivo era ver si los pacientes, cuando se les otorgaba el poder real de decidir cómo funciona la tecnología, crearían algo diferente a lo que los expertos habían imaginado. El estudio encontró que, cuando los pacientes fueron tratados como socios estratégicos en lugar de simples evaluadores, rediseñaron completamente la herramienta. La alejaron de ser una calculadora para médicos y la convirtieron en una guía de apoyo para los pacientes, una que habla en lenguaje sencillo, respeta sus necesidades emocionales y se niega a dar una respuesta cuando no está segura.

Los investigadores reunieron a once personas con experiencia de vida con la insuficiencia cardíaca para un taller de dos días en Barcelona. Antes de encontrarse en persona, las participantes realizaron un curso en línea para aprender los conceptos básicos de cómo funciona la inteligencia artificial, asegurando que todos partieran de la misma base. Una vez allí, no se les pidió que criticaran un prototipo. En su lugar, se les dio la libertad de decidir qué debía ser la herramienta, a quién debía servir y cómo debía comportarse. El taller se estructuró en torno a principios de tecnología fiable, guiando al grupo a través de actividades como el mapeo del recorrido del paciente, la creación de perfiles de diferentes tipos de personas y la representación de cómo la herramienta encajaría en una visita médica real. Los participantes trabajaron en dos grupos separados y, sorprendentemente, ambos llegaron a un diseño casi idéntico sin hablar entre sí.

El cambio más llamativo que realizaron los participantes fue en el propósito mismo de la herramienta. El proyecto había comenzado con la idea de una pantalla para médicos en la sala de urgencias para ayudarles a decidir sobre los altas médicas. Los pacientes señalaron inmediatamente un fallo en este pensamiento: si la herramienta es solo para los médicos, los propios pacientes nunca la ven y nunca llegan a comprender el riesgo o el plan. Insistieron en que la herramienta debería ser una aplicación móvil para el paciente. Querían ser ellos quienes introdujeran su propia información, no solo que una máquina recopilara sus datos. Argumentaron que la herramienta no debería limitarse a observar una instantánea de su función cardíaca en un momento de crisis, sino que debería entenderlos como personas integrales. Esto significaba incluir detalles sobre su vida, como su dieta, sus prácticas religiosas, su situación de vivienda y su capacidad para viajar, porque todos estos factores cambian cómo se aplica una predicción de riesgo a ellos.

En cuanto a cómo la herramienta debería mostrar sus resultados, los participantes rechazaron los números fríos y duros que son comunes en las estadísticas médicas. Explicaron que ver un porcentaje específico de probabilidad de muerte, como un "6,4 por ciento", era aterrador y poco útil. En su lugar, querían que el riesgo se mostrara en categorías amplias y comprensibles, como bajo, medio o alto. Más importante aún, querían que la herramienta les dijera qué hacer a continuación. Un índice de riesgo por sí solo es solo un número; un índice de riesgo acompañado de un paso claro y accionable, como "llame a su médico hoy" o "vigile su peso", es algo que una persona puede utilizar. También querían que la herramienta fuera honesta sobre sus propios límites. Si la computadora no tuviera suficientes datos para hacer una suposición fiable para una persona específica, los participantes dijeron que la herramienta debería simplemente decir: "No puedo decírselo en este momento", en lugar de dar un número falso o engañoso. Consideraron este silencio como una forma de honestidad y una manera de generar confianza, en lugar de un fallo de la tecnología.

El diseño también incluía una forma para que los pacientes controlaran cuánta información querían recibir. Los participantes reconocieron que, en un momento de enfermedad aguda, podrían no tener la energía para leer una explicación compleja. Diseñaron un sistema donde podían elegir el nivel de detalle. Podían ver un resumen sencillo o, si lo deseaban, podían hacer clic para ver información más técnica sobre cómo se realizó la predicción. Esto les daba el poder de decidir cuánta información podían manejar en cualquier momento dado. También enfatizaron que la herramienta debería ser un puente entre ellos y sus médicos, permitiéndoles compartir sus datos personales con su equipo de atención y recibir actualizaciones a cambio, creando una asociación en lugar de un flujo de información unidireccional.

A pesar del éxito del taller, los participantes fueron realistas sobre los desafíos que aún quedan. Señalaron que convertir estas ideas en un producto real y funcional es difícil. Observaron que las leyes sobre la privacidad de los datos, el coste de construir y mantener el software, y la forma en que se financian los hospitales suelen crear barreras que impiden que las buenas ideas lleguen al producto final. Un participante señaló que un solo taller no es suficiente para resolver estos problemas estructurales profundos, y que el proceso de involucrar a los pacientes necesita ser estandarizado y apoyado con la financiación y el tiempo adecuados. Los investigadores estuvieron de acuerdo, señalando que, aunque los pacientes produjeron una visión clara y coherente, el camino desde esa visión hasta una herramienta en la mano de un médico sigue siendo incierto.

Este estudio sugiere que cuando las personas con experiencia de vida tienen el espacio para diseñar la tecnología que afecta sus vidas, no se limitan a retocar la interfaz; redefinen el problema. Movieron el enfoque de una herramienta que ayuda a un médico a gestionar una cama de hospital a una herramienta que ayuda a una persona a gestionar su vida. Demostraron que, para la tecnología de alto riesgo, especialmente cuando implica el riesgo de muerte, las necesidades emocionales y prácticas del usuario son tan importantes como la precisión matemática del algoritmo. El trabajo demuestra que los pacientes son capaces de un pensamiento estratégico sobre sistemas complejos, siempre que sean tratados como socios y no como sujetos. Aunque la herramienta descrita en este estudio aún no está en uso, las especificaciones de diseño creadas por el grupo ofrecen un nuevo modelo de cómo la inteligencia artificial médica podría construirse para servir a las personas a las que pretende ayudar, en lugar de solo a los sistemas que las utilizan.