Trust in, acceptance of, and responsibility for, artificial intelligence in healthcare: patient and healthcare practitioner considerations

Este estudio cualitativo comparó las perspectivas de profesionales sanitarios y pacientes sobre la inteligencia artificial en la atención médica, revelando que, aunque ambos grupos comparten preocupaciones sobre la responsabilidad, difieren en sus prioridades, centrándose los primeros en la validación y la integración clínica y los segundos en la atención humana y la confianza.

Lo esencial

¡Hola! Imagina que la Inteligencia Artificial (IA) en la medicina es como un nuevo copiloto muy inteligente que se sienta junto al médico en el quirófano o en la sala de hospital. Este copiloto tiene una memoria increíble: ha leído millones de historias de pacientes y puede predecir cosas muy rápido.

Pero, ¿confiamos en este copiloto? ¿Quién es el verdadero capitán del barco? ¿Y qué opinan los pasajeros (los pacientes)?

Este estudio es como una gran conversación que tuvo lugar en un hospital de Holanda. Los investigadores hablaron con dos grupos:

1. Los médicos y enfermeras (los profesionales que usan la herramienta).
2. Los pacientes (las personas que reciben la atención).

Aquí te explico los hallazgos principales con analogías sencillas:

1. El "Copiloto" no es perfecto (Conocimiento y Confianza)

• Lo que pensaban los médicos: Para ellos, confiar en la IA es como confiar en un nuevo motor de coche. No importa cuán rápido vaya, primero necesitan ver las pruebas de que no se va a romper. Les preocupa que el motor tenga "manchas" en los datos (datos incompletos) o que no funcione bien en todos los terrenos.
  • La analogía: Si el copiloto dice "vamos a la izquierda", el médico dice: "¿Estás seguro? ¿Has revisado el mapa? ¿O es solo una suposición?". Los médicos quieren saber cómo piensa el copiloto, no solo qué dice.
• Lo que pensaban los pacientes: Para los pacientes, la confianza no está en el copiloto (la máquina), sino en el capitán (el médico). Si el médico dice "confía en este copiloto", ellos confían. Pero tienen un miedo secreto: "¿El copiloto va a hacer que el capitán deje de escucharme?".
  • La analogía: Imagina que vas a un restaurante. Te da igual si el chef usa una receta escrita por una computadora o por un libro antiguo; lo que te importa es que el chef te mire a los ojos, sepa que tienes alergia a los mariscos y te trate con cariño.

2. El "Sentido Común" vs. Los "Números" (Responsabilidad y Autonomía)

• El problema de la intuición: Los médicos tienen algo que la IA no tiene: el "sentimiento" o la intuición. A veces, un paciente tiene todos los signos vitales perfectos (según la máquina), pero el médico siente en su "tripa" que algo no va bien.
  • La metáfora: La IA es como un termómetro digital muy preciso, pero el médico es como un padre que sabe que su hijo tiene fiebre aunque el termómetro diga que está bien, porque el niño se ve pálido y triste.
• El miedo a ser ignorado: Los pacientes tenían miedo de que la IA se convirtiera en un "jefe" que dictara lo que deben hacer, silenciando sus propias voces.
  • La realidad: Los médicos dijeron: "Nosotros somos los jefes, la IA solo nos da consejos". Pero los pacientes temían que, si la máquina dice "puedes irte a casa", el médico simplemente obedezca y los despida sin escuchar si ellos se sienten débiles.

3. El "Cuello de Botella" (Cómo funciona en la vida real)

• La promesa de ayuda: Todos estaban de acuerdo en que la IA podría ser un superhéroe para ahorrar tiempo. Imagina que el médico tiene que revisar 1000 páginas de historial médico en 5 segundos. ¡Qué alivio! Esto les permitiría dedicar más tiempo a hablar con los pacientes en lugar de estar pegados a la pantalla del ordenador.
• El miedo al desastre: Sin embargo, muchos médicos tenían miedo de que la IA les diera más trabajo, no menos.
  • La analogía: Es como cuando te compran un robot aspiradora. Esperas que limpie solo, pero resulta que tienes que limpiar el polvo de encima del robot, programarlo y vigilarlo. Los médicos temían que la IA fuera otro "trabajo extra" en su ya agotada agenda.

4. La "Caja Negra" (Explicabilidad)

• El misterio: A veces, la IA da una respuesta pero no explica por qué (es una "caja negra").
  • Médicos: "Necesito saber por qué la caja negra dice esto para poder explicárselo al paciente".
  • Pacientes: "No necesito saber cómo funciona el motor del coche, pero necesito saber que el conductor (el médico) sabe por qué me está llevando a ese destino".
  • El conflicto: Los médicos asumían que a los pacientes no les importaba la tecnología, pero muchos pacientes dijeron: "¡Sí! Queremos saber si una computadora está decidiendo si nos damos de alta del hospital o no".

En resumen: ¿Cuál es la moraleja?

Este estudio nos dice que la tecnología por sí sola no es suficiente.

Para que la IA funcione en los hospitales, no basta con que sea precisa matemáticamente. Necesitamos:

1. Que los médicos confíen en ella (saber cómo funciona y vigilarla).
2. Que los pacientes se sientan escuchados y no reemplazados por una máquina.
3. Que la tecnología se integre suavemente, como un buen zapato que no aprieta, y no como una herramienta que añade más trabajo.

La conclusión final: La IA es como un brillante asistente de cocina. Puede picar las verduras en segundos y sugerir recetas geniales, pero el chef (el médico) debe seguir probando la sopa, asegurarse de que le gusta al comensal (el paciente) y ser el responsable final de que la comida esté deliciosa y segura. Si el chef deja que la máquina cocine sola sin probarla, el plato podría salir mal.

¡Espero que esta explicación te haya ayudado a entender el papel de la IA en la salud de una forma más clara y humana!

Resumen técnico

A continuación presento un resumen técnico detallado del artículo de investigación en español, estructurado según los componentes solicitados.

Resumen Técnico: Confianza, Aceptación y Responsabilidad en la IA Sanitaria

Título del Estudio: Confianza en, aceptación de y responsabilidad por la inteligencia artificial en la atención sanitaria: consideraciones de pacientes y profesionales de la salud.
Autores: Emma-Jane Spencer, Imane Ihaddouchen, et al. (Erasmus MC y Universidad de Tecnología de Delft).
Contexto: Prepublicación en medRxiv (marzo 2026).

---

1. Planteamiento del Problema

A pesar de la inversión masiva y el "hype" en torno a la Inteligencia Artificial (IA) en el sector salud desde principios de la década de 2020, existe una brecha significativa de implementación: se estima que solo el 2% de los modelos de IA llegan a la práctica clínica real.
El problema central que aborda este estudio es la falta de comprensión empírica sobre cómo los dos grupos de interesados principales (profesionales de la salud y pacientes) perciben, confían y asumen la responsabilidad de la IA en entornos clínicos.

• Vacío de conocimiento: La perspectiva del paciente está subrepresentada en la literatura actual. Además, existe una desconexión entre el desarrollo tecnológico y la adopción clínica, alimentada por preocupaciones éticas, epistémicas y operativas no resueltas.
• Objetivo: Analizar cualitativamente las similitudes y diferencias en las actitudes hacia la IA (específicamente un modelo de apoyo a la decisión de alta hospitalaria llamado DESIRE) para identificar barreras y facilitadores para su adopción.

2. Metodología

El estudio empleó un diseño cualitativo exploratorio basado en entrevistas semiestructuradas.

• Población y Muestreo:
  • Total: 30 participantes seleccionados por muestreo intencional.
  • Grupos: 18 profesionales de la salud (10 cirujanos, 8 enfermeras) del Departamento de Oncología Quirúrgica y Cirugía Gastrointestinal del Erasmus MC (Róterdam, Países Bajos) y 12 pacientes que habían sufrido cirugía gastrointestinal en los últimos 12 meses.
  • Criterios de exclusión: Pacientes con complicaciones mayores de salud.
• Procedimiento de Recolección de Datos:
  • Entrevistas realizadas entre profesionales (presenciales) y pacientes (mayormente en línea vía Microsoft Teams).
  • Duración: 30-45 minutos.
  • Guía de entrevista semi-estructurada desarrollada iterativamente por un equipo interdisciplinario (ética, filosofía, medicina técnica).
• Análisis de Datos:
  • Transcripción verbatim y análisis mediante el software ATLAS.ti.
  • Codificación: Combinación de codificación deductiva (basada en marcos teóricos previos) e inductiva (emergente de los datos).
  • Proceso: Dos autores principales codificaron independientemente, compararon códigos, refinaron un libro de códigos compartido y realizaron un análisis temático para identificar categorías dominantes.
• Consideraciones Éticas: Aprobación del Comité de Ética (METC) del Erasmus MC, consentimiento informado escrito y anonimización de datos.

3. Contribuciones Clave

• Comparación Directa de Stakeholders: Es uno de los pocos estudios que contrasta simultáneamente las perspectivas de médicos, enfermeras y pacientes utilizando la misma guía de entrevista, permitiendo identificar divergencias críticas en la percepción de la realidad clínica.
• Enfoque en un Modelo Validado: El estudio se centró en un modelo de IA específico (DESIRE) diseñado para la toma de decisiones de alta, lo que aumenta la relevancia práctica de los hallazgos en comparación con estudios teóricos sobre IA genérica.
• Análisis de la Dinámica de Confianza y Responsabilidad: Desglosa cómo se distribuye la responsabilidad y la confianza entre la tecnología, el profesional y el paciente, desafiando la noción de que la confianza es un atributo unidireccional hacia la máquina.

4. Resultados Principales

El análisis identificó 3 categorías temáticas principales con 10 subcategorías:

A. Conocimiento de la IA (AI Knowledge)

• Profesionales: Reconocieron la omnipresencia de la IA, pero su conocimiento varió desde "superficial" hasta técnico. Destacaron la necesidad de entender las limitaciones, la validación y el origen de los datos, más que los detalles algorítmicos.
• Pacientes: Tenían una conciencia general (influenciada por medios), pero a menudo carecían de alfabetización técnica. No rechazaron la IA por desconocimiento, sino que la veían como inevitable.
• Hallazgo: La alfabetización desigual es una barrera; la educación estructurada es necesaria para evitar la confianza ciega.

B. Ética (Autonomía, Responsabilidad, Explicabilidad, Sesgo)

• Autonomía:
  • Profesionales: Enfocados en preservar el juicio clínico y el "humano en el bucle". Temen el sesgo de automatización.
  • Pacientes: Enfocados en la autonomía personal, la información y la capacidad de disentir. Temen ser silenciados si la IA apoya al médico.
• Responsabilidad:
  • Ambos grupos coinciden en que la responsabilidad última recae en el médico. Sin embargo, los profesionales expresaron tensión al asumir responsabilidad por sistemas que no confían plenamente. Los pacientes reconocieron una responsabilidad más distribuida (desarrolladores, institución).
• Explicabilidad:
  • Profesionales: Valoraban la transparencia para la toma de decisiones segura, pero a menudo aceptaban "cajas negras" si la salida era accionable.
  • Pacientes: Asumían erróneamente que los profesionales pensaban que a los pacientes no les importaba la explicación. En realidad, muchos pacientes deseaban saber cómo se usaba la IA en su caso.
• Sesgo: Los profesionales lo veían como un problema técnico (datos de entrenamiento); los pacientes, si lo mencionaban, lo vinculaban a impactos sociales y demográficos.

C. Implicaciones Operativas y Clínicas

• Impacto Clínico: Visión generalmente positiva sobre la eficiencia y el apoyo a la decisión (ej. reducir la incertidumbre en altas hospitalarias).
• Integración en el Flujo de Trabajo: La condición sine qua non para la adopción es la integración fluida en la Historia Clínica Electrónica (HCE). Si la IA requiere pasos adicionales o duplica trabajo, será rechazada.
• Preocupaciones Técnicas: Calidad de los datos, validez externa (¿funciona en mi población?), y la dificultad de capturar factores clínicos cualitativos (ej. dolor, motivación) en modelos cuantitativos.
• Confianza:
  • Profesionales: La confianza se basa en la validación empírica y el monitoreo continuo.
  • Pacientes: La confianza no está en la IA, sino en el médico. Ven la IA como una herramienta del médico; si confían en el médico, confían en la herramienta.

5. Significado y Conclusión

El estudio concluye que la implementación exitosa de la IA en la salud no depende únicamente del rendimiento técnico del modelo, sino de condiciones epistémicas y éticas complejas:

1. Brecha de Expectativas: Existe una desconexión entre lo que los profesionales creen que los pacientes quieren (poca información técnica) y lo que los pacientes realmente desean (transparencia y participación).
2. Riesgo de Injusticia Epistémica: El uso de la IA como "evidencia" para convencer a pacientes escépticos podría silenciar las voces de los pacientes y erosionar la relación médico-paciente.
3. Necesidad de un Enfoque Dual: La adopción requiere estrategias que aborden simultáneamente la alfabetización de los profesionales (para evitar dependencia ciega) y la comunicación con los pacientes (para preservar la autonomía y la confianza).
4. Integración Práctica: La tecnología debe ser invisible y fluida en el flujo de trabajo clínico; de lo contrario, aumentará la carga administrativa en lugar de reducirla.

En resumen, el estudio aboga por un marco de implementación que priorice la responsabilidad compartida, la transparencia adaptativa y la preservación de la relación humana en la era de la inteligencia artificial sanitaria.