Ethical tensions in AI-mediated clinical communication: a mixed-methods study of nursing students’ perspectives

Resumen Técnico: Tensiones Éticas en la Comunicación Clínica Mediada por IA

Planteamiento del Problema
La creciente integración de la Inteligencia Artificial (IA), particularmente de los Modelos de Lenguaje de Gran Tamaño (LLM, por sus siglas en inglés), en la atención sanitaria está alterando fundamentalmente la forma en que se accede, interpreta y comunica la información clínica. Si bien la IA mejora la accesibilidad y la eficiencia, introduce desafíos éticos complejos relacionados con la autoridad interpretativa, la responsabilidad profesional y la comunicación de la incertidumbre. Específicamente, los pacientes pueden encontrarse con interpretaciones generadas algorítmicamente antes o junto con el asesoramiento profesional, lo que potencialmente redefine sus expectativas, la percepción del riesgo y la confianza. A pesar del creciente discurso conceptual, existe una falta de evidencia empírica sobre cómo los futuros profesionales de la salud perciben y responden a estas tensiones éticas emergentes, particularmente en el contexto del cuidado quirúrgico, donde la comunicación sobre el riesgo y la incertidumbre es crítica.

Metodología
Este estudio empleó un diseño de métodos mixtos convergente exploratorio para investigar las percepciones de 32 estudiantes de grado de enfermería (16 internacionales, 16 locales) del Hospital Provincial de la Gente de Guizhou. Todos los participantes eran estudiantes de tercer año sin experiencia clínica previa, pero que habían completado cursos fundamentales en teoría de la enfermería y comunicación.

El contexto empírico fue una sesión basada en casos informada por la teoría centrada en la comunicación mediada por IA dentro de una vía de atención quirúrgica. La sesión incluyó:

1. Introducción Conceptual: Una breve descripción general de la IA en la atención sanitaria y las tres dimensiones éticas del estudio (autoridad interpretativa, responsabilidad y comunicación de la incertidumbre).
2. Discusión Basada en Casos: Los participantes participaron en grupos pequeños con tres escenarios clínicos (preoperatorio, postoperatorio, alta) donde los pacientes poseían explicaciones generadas por IA que diferían o entraban en conflicto con el asesoramiento profesional.
3. Reflexión Facilitada: Discusión guiada vinculando las respuestas al marco ético.

Recolección y Análisis de Datos:

• Cuantitativo: Cuestionarios pre y post-sesión utilizando una escala de Likert de 5 puntos para evaluar las percepciones en los tres dominios éticos. Los datos se analizaron mediante estadísticas descriptivas (puntuaciones medias) para identificar patrones de cambio en la percepción. No se realizaron pruebas estadísticas inferenciales debido al pequeño tamaño de la muestra y a la naturaleza exploratoria.
• Cualitativo: Los participantes proporcionaron respuestas escritas breves a preguntas abiertas sobre desafíos éticos, respuestas profesionales e implicaciones para la práctica.
• Análisis: Los datos cualitativos se sometieron a un análisis temático reflexivo para identificar dimensiones y temas de orden superior. Para facilitar la comparación entre grupos, estos temas fueron posteriormente sometidos a una cuantificación temática estructurada utilizando una escala ordinal de 3 puntos (0 = no presente, 1 = presente implícitamente, 2 = expresado explícitamente) para calcular las puntuaciones de saliencia media.

Resultados Clave

• Cambios Cuantitativos: Tras la sesión, los participantes demostraron un aumento en las puntuaciones medias en los tres dominios éticos, observándose los aumentos más significativos en la comunicación de la incertidumbre y la autoridad interpretativa. Tanto el grupo internacional como el local mostraron aumentos direccionales consistentes, lo que sugiere un mayor reconocimiento de los desafíos éticos asociados con la información de salud generada por IA.
• Temas Cualitativos: El análisis identificó tres dimensiones de orden superior que comprenden nueve temas:
  1. Percepciones de la IA en Contextos Clínicos: Los participantes señalaron riesgos de dependencia excesiva del paciente en la IA, conciencia de las limitaciones de la IA (falta de contextualización) y el potencial de malentendidos inducidos por la IA.
  2. Tensiones Éticas y de Comunicación: Las tensiones clave incluyeron interpretaciones contrapuestas del significado clínico, desafíos para renegociar el entendimiento del paciente una vez moldeado por la IA, y la dificultad de negociar la incertidumbre cuando la IA presenta la información con una apariencia de certeza.
  3. Roles Profesionales: Los participantes describieron un rol expandido que involucra la mediación interpretativa (aclarar el resultado de la IA), la construcción de confianza a través de la comunicación relacional y la necesidad de una mayor competencia comunicativa para gestionar situaciones relacionadas con la IA.
• Comparaciones de Grupo: Aunque los patrones fueron ampliamente consistentes, los participantes locales articularon de manera más explícita los temas relativos a las limitaciones de la IA y la competencia comunicativa, mientras que los participantes internacionales mostraron cambios descriptivos mayores en la comunicación de la incertidumbre.

Contribuciones Clave

• Evidencia Empírica: El estudio proporciona datos empíricos iniciales sobre cómo los futuros profesionales de la salud perciben las implicaciones éticas de la IA en la comunicación clínica, abordando un vacío en la literatura donde la mayoría de las investigaciones se centran en la alfabetización en IA o la adopción técnica en lugar de la negociación ética.
• Aplicación Conceptual: Operacionaliza un marco conceptual de autoridad interpretativa, responsabilidad y comunicación de la incertidumbre dentro de un entorno de educación clínica, demostrando cómo estas dimensiones se manifiestan en la percepción de los estudiantes.
• Redefinición del Rol: Los hallazgos sugieren que el rol profesional está cambiando de ser el único proveedor de información a un intérprete y mediador que debe navegar la autoridad distribuida y negociar el significado entre los pacientes, los profesionales y los sistemas algorítmicos.

Significancia y Reivindicaciones
El artículo sostiene que la comunicación clínica mediada por IA representa una transformación ética más que una mera actualización tecnológica. El estudio postula que:

• La Autoridad se Negocia: La autoridad interpretativa se está convirtiendo en un proceso distribuido y disputado que involucra a pacientes, profesionales y algoritmos, en lugar de ser un atributo fijo del clínico.
• La Responsabilidad Persiste: A pesar de la influencia de la IA, la responsabilidad profesional por los resultados comunicativos permanece concentrada dentro de la práctica sanitaria, creando una asimetría ética donde los profesionales deben gestionar las consecuencias de fuentes de información que no controlan.
• La Incertidumbre es Desafiante: La apariencia de certeza de los resultados de la IA complica el deber ético de comunicar el riesgo y la ambigüedad, un componente central de la atención clínica responsable.

Los autores concluyen que abordar estas tensiones —específicamente respecto a la autoridad, la responsabilidad y la incertidumbre— es esencial para la gobernanza responsable de la atención sanitaria habilitada por la IA. Enfatizan que la educación futura debe ir más allá de la alfabetización técnica en IA para abordar cómo la IA redefine la dinámica ética y comunicativa de la práctica clínica. El estudio reconoce sus limitaciones, incluyendo una muestra pequeña de una sola institución y el uso de un contexto educativo estructurado en lugar de un comportamiento clínico del mundo real, llamando a realizar más investigaciones en poblaciones diversas y entornos de práctica real.