When Do Physicians Trust AI? The Role of Clinical Context in Decision Support: SMART vignette study
Este estudio de 420 médicos de EE. UU. revela que la exposición previa a la IA, en lugar del contexto clínico específico o la cantidad de información proporcionada, es el factor principal que influye positivamente en la confianza y la seguridad de los médicos en las herramientas de apoyo a la decisión clínica habilitadas por IA.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En la medicina moderna, los médicos están empezando a utilizar un nuevo tipo de asistente: la inteligencia artificial. Estos programas informáticos, a menudo llamados sistemas de apoyo a la decisión clínica, pueden analizar los expedientes de los pacientes y sugerir los siguientes pasos, como si se debe recetar un medicamento o derivar a un paciente a un especialista. La promesa es que estas herramientas ayudarán a los médicos a tomar decisiones mejores y más rápidas. Sin embargo, una herramienta solo es útil si la persona que la utiliza confía lo suficiente en ella como para escucharla. Si un médico ignora el consejo de la computadora porque no lo entiende o no cree que sea correcto, la tecnología falla. La gran pregunta para los hospitales e investigadores no es solo si el software funciona en una computadora, sino qué hace que un médico humano se sienta lo suficientemente seguro como para usarlo en el mundo real. ¿Es el tipo de problema médico? ¿Es cuánta información recibe el médico sobre cómo piensa la computadora? ¿O es simplemente si el médico ha utilizado este tipo de tecnología antes?
Un equipo de investigadores de la Universidad de Stanford se propuso responder a estas preguntas pidiendo a cuatrocientos veinte médicos de familia y de medicina interna de los Estados Unidos que se imaginaran a sí mismos en situaciones médicas específicas. No pidieron a los médicos que utilizaran un programa informático real con pacientes reales. En su lugar, utilizaron un método de encuesta cuidadosamente diseñado donde los médicos leían historias cortas, o viñetas, sobre una mujer de treinta y tres años llamada Jess que presentaba síntomas de un problema de salud. En algunas historias, Jess necesitaba una receta para la depresión, mientras que en otras, necesitaba una derivación a un especialista por problemas de atención. Los investigadores cambiaron los detalles de la historia para probar tres cosas diferentes. Primero, cambiaron el tipo de decisión médica, comparando una prescripción con una derivación. Segundo, cambiaron cuánta información recibía el médico sobre la herramienta de inteligencia artificial en sí; algunos médicos recibieron una descripción corta, mientras que otros recibieron una mucho más larga que incluía detalles sobre dónde se construyó la herramienta y cómo fue entrenada. Tercero, observaron la propia historia de los médicos, tomando nota de cuáles habían utilizado la inteligencia artificial en su investigación o práctica anteriormente.
Los investigadores querían ver si estos cambios harían que los médicos se sintieran más o menos seguros de su decisión final. Hipotetizaron que los médicos se sentirían más seguros si supieran más sobre cómo funcionaba la herramienta, y que serían más escépticos con la herramienta cuando la decisión implicara mayores riesgos, como recetar un nuevo fármaco. También se preguntaron si los médicos que ya estaban familiarizados con la inteligencia artificial reaccionarían de manera diferente a la cantidad de información proporcionada. El estudio encontró que la cantidad de información no importaba tanto como se esperaba. Ya fuera que un médico leyera cinco frases o diez frases sobre la herramienta, su confianza en la decisión permanecía igual. El tipo de decisión médica tampoco cambió la confianza que los médicos sentían en general, pero sí cambió cómo veían la herramienta en sí. Cuando el escenario implicaba recetar medicación, los médicos eran menos propensos a confiar en que la herramienta daría consejos consistentes para cada paciente y eran más propensos a confiar en su propio juicio en lugar de la sugerencia de la computadora. Por el contrario, cuando el escenario implicaba una derivación, estaban más dispuestos a confiar en la consistencia de la herramienta.
El hallazgo más significativo, sin embargo, surgió al observar las experiencias pasadas de los médicos. El estudio mostró que los médicos que ya habían utilizado la inteligencia artificial en su investigación o práctica clínica se sintieron significativamente más seguros en sus decisiones finales al usar la herramienta. Estos médicos experimentados también eran más propensos a decir que la herramienta mejoraba la atención que podían brindar y que el resultado de la computadora contribuía a su elección final. Esto sugiere que la familiaridad genera confianza. Curiosamente, los investigadores encontraron que la experiencia previa no hacía que los médicos confiaran más ciegamente en la herramienta; más bien, los hacía sentirse más seguros en su propia capacidad para usar la herramienta de manera efectiva. El estudio también descartó la idea de que simplemente volcar más detalles técnicos sobre el software a un médico lo haría confiar más. De hecho, la información adicional no tuvo un impacto mensurable en su confianza o en su percepción de la efectividad de la herramienta.
Estos resultados sugieren que el camino para integrar la inteligencia artificial en la medicina tiene menos que ver con perfeccionar el manual de usuario y más con preparar a las personas que la utilizarán. Los investigadores concluyen que la formación de los futuros médicos debería centrarse en cómo sopesar las sugerencias de la computadora junto con su propio juicio clínico, en lugar de solo enseñarles cómo operar el software. Si los médicos han de confiar en estas herramientas, deben entender cómo usarlas en contexto, y su confianza parece crecer naturalmente con la experiencia. El estudio destaca que, si bien la tecnología avanza rápidamente, el elemento humano sigue siendo el factor crítico. Para que la inteligencia artificial realmente ayude a los pacientes, la comunidad médica debe asegurar que los médicos se sientan preparados y dispuestos a trabajar junto a ella, una disposición que parece provenir de la exposición y la práctica más que de solo más datos.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.