Generative artificial intelligence in medical postgraduates: a qualitative study of perceived risks, benefits, and responsible use

Imagina el mundo de la medicina como una biblioteca inmensa y antigua donde cada libro contiene un secreto para la curación. Durante siglos, los médicos y estudiantes han tenido que leer cada página a mano para encontrar la respuesta correcta. Pero recientemente, ha llegado un nuevo tipo de asistente mágico: la Inteligencia Artificial Generativa, o GenAI. Piensa en ella como un bibliotecario robot súper rápido y súper inteligente que puede leer millones de libros en un segundo, resumirlos e incluso escribir una historia para ti. Parece un sueño hecho realidad, ¿verdad? Pero aquí está el truco: este bibliotecario robot a veces inventa cosas, olvida verificar sus hechos y, si dejas que escriba tu historia por ti, podrías olvidar cómo escribir la tuya propia.

Este artículo se sumerge en un grupo muy específico de personas que apenas están comenzando a usar a este robot mágico: estudiantes de posgrado de medicina en China. Estos son los jóvenes médicos en formación que están aprendiendo a convertirse en expertos. Los investigadores querían saber: ¿Aman estos estudiantes al robot? ¿Le tienen miedo? Y lo más importante, ¿cómo deciden cuándo dejar que el robot les ayude y cuándo hacer el trabajo ellos mismos? No se limitaron a pedir una respuesta de "sí" o "no"; se sentaron a tener conversaciones profundas para comprender los verdaderos pensamientos, miedos y esperanzas de los estudiantes sobre esta nueva tecnología.

El Estudio: Escuchando a los Futuros Médicos

Los investigadores entrevistaron a 18 estudiantes de primer año de maestría de cinco especialidades médicas diferentes, como neurología (médicos del cerebro), psiquiatría (médicos de la mente) y radiología (médicos de imágenes). Todos estos estudiantes ya habían probado el uso de herramientas de IA como ChatGPT o DeepSeek para sus tareas escolares. El equipo escuchó atentamente lo que decían, buscando patrones en sus historias. Encontraron que los estudiantes tienen una visión muy clara y equilibrada: ven a la GenAI como una "espada de doble filo", lo que significa que tiene un lado afilado que puede cortar los problemas rápidamente, pero también un lado peligroso que puede herir si no se tiene cuidado.

Lo Bueno: El Compañero con Superpoderes

Los estudiantes estaban entusiasmados con cuánto tiempo les ahorra el robot. Lo describieron como un turboalimentador para sus cerebros.

• Acelerando la Rutina: Un estudiante dijo que la IA les ayuda a "localizar rápidamente la literatura necesaria", mientras que otro señaló que puede "analizar rápidamente artículos de revisión". Es como tener un amigo que puede encontrar los mejores libros en la biblioteca en segundos en lugar de horas.
• Viendo lo Invisible: Los estudiantes se asombraron de que la IA pudiera detectar detalles diminutos que los humanos pasan por alto. Un estudiante explicó que para "estenosis [estrechamientos] pequeñas que son difíciles de ver a simple vista, la IA puede calcular directamente la tasa de estenosis". Otro mencionó que podía analizar enormes pilas de datos proteicos para encontrar marcadores de enfermedades. Es como darles a los estudiantes visión de rayos X para los datos.
• Compañero de Lluvia de Ideas: La IA también les ayuda a conectar puntos que no habían visto antes. Un estudiante dijo que puede "analizar 4,000 artículos médicos... en 10 minutos", ayudándoles a generar nuevas ideas más rápido de lo que podrían hacerlo solos.

Lo Malo: Los Malos Hábitos del Robot

Sin embargo, los estudiantes no confiaban ciegamente. De hecho, su mayor preocupación era que pudieran volverse perezosos.

• El Miedo al "Óxido Cerebral": Este fue el temor más común, mencionado por 16 de los 18 estudiantes. Temían que, si dejaban que la IA hiciera todo el pensamiento, sus propios cerebros dejarían de trabajar duro. Un estudiante lo dijo sin rodeos: "Usar la IA directamente conduce a una falta de pensamiento propio". Otro se preocupó de que "el uso prolongado de la IA puede conducir a la pereza mental". Lo compararon con usar una calculadora tanto que uno olvida cómo hacer matemáticas básicas.
• El Problema de las "Noticias Falsas": Los estudiantes no confiaban en que la IA fuera 100% veraz. Señalaron que la IA tiende a "inventar cosas" o "alucinar". Un estudiante se quejó de que "la mayoría de las fuentes de literatura que muestra la IA son falsas". Es como un bibliotecario que te señala con confianza un libro que en realidad no existe.
• Privacidad y Responsabilidad: También les preocupaban los secretos de los pacientes. Si escriben datos de pacientes en la IA, temen que los datos puedan filtrarse, lo que provocaría discriminación o violaciones de la privacidad. Además, estaban confundidos sobre quién es responsable si la IA da una respuesta incorrecta. Como dijo un estudiante: "La IA no puede asumir la responsabilidad; el desarrollador o la institución del usuario debe respaldarla". Si el robot médico comete un error, ¿quién recibe el castigo? ¿El humano? ¿La máquina? La respuesta es actualmente incierta.

Las Reglas: Cómo Jugar Limpio

A pesar de los temores, los estudiantes no querían prohibir al robot. Utilizaron un proverbio chino para explicar su postura: "No debemos dejar de comer por miedo a atragantarnos". En su lugar, trazaron una línea muy clara en la arena sobre lo que está bien y lo que no.

• Luz Verde (Está bien usarlo): Están felices de usar la IA para pulir su inglés, revisar su código de programación o generar un primer borrador de un artículo. Ven esto como el uso de una herramienta para ayudarlos a trabajar más rápido.
• Luz Roja (Nunca usarlo): Son firmes en que la IA nunca debe generar el diagnóstico de un paciente, manejar datos privados de pacientes o crear la idea original de un estudio de investigación. Un estudiante afirmó: "Usaré la IA para generar un primer borza, pero definitivamente lo revisaré y verificaré manualmente". Quieren ser los capitanes del barco, con la IA como el navegante, no el capitán.

Lo Que Quieren: El Asistente de IA Perfecto

Finalmente, los estudiantes le dijeron a los investigadores exactamente qué necesitarían para sentirse seguros usando estas herramientas. No quieren una "caja negra mágica" que dé respuestas sin explicación. En cambio, quieren una IA que:

1. Conozca las Reglas: Debe basar sus respuestas en evidencia médica real y de alta calidad y en directrices, no solo en conjeturas aleatorias.
2. Proteja los Secretos: Debe ser tan segura como una bóveda bancaria, siguiendo estrictas leyes de privacidad (como HIPAA o GDPR) para mantener seguros los datos de los pacientes.
3. Explique su Trabajo: No debería simplemente dar una respuesta; debería explicar por qué dio esa respuesta, para que el estudiante pueda entender la lógica.
4. Se Mantenga Humilde: Debe posicionarse claramente como un "asistente" del médico, nunca como un reemplazo.

La Conclusión

El estudio sugiere que estos futuros médicos no son solo usuarios pasivos de la tecnología; están pensando críticamente sobre cómo usarla. Ven los enormes beneficios de la IA para la eficiencia y el descubrimiento, pero están profundamente preocupados por perder su propia capacidad de pensar de forma creativa y crítica. No están pidiendo que se tire el robot; están pidiendo un robot que sea honesto, seguro y que esté claramente definido como un ayudante, no como un jefe. Sus voces sugieren que para que la IA realmente ayude en la medicina, necesitamos construir herramientas que respeten el juicio humano y mantengan al humano al volante.