Public perceptions of AI-driven decision-making in healthcare: A structural equation modeling approach

Imagina el sistema de salud como una biblioteca gigante y bulliciosa donde los médicos son los bibliotecarios jefe. Durante años, ellos han sido los únicos autorizados para buscar libros, organizar estantes y recomendar historias para ayudarte a sentirte mejor. Pero últimamente, ha llegado un nuevo tipo de ayudante: un bibliotecario robot superrápido y superinteligente impulsado por la Inteligencia Artificial (IA). Este robot puede escanear millones de libros en un segundo, detectar patrones que los humanos podrían pasar por alto e incluso sugerir la historia perfecta para tu estado de ánimo específico. Suena increíble, ¿verdad? Pero aquí está el truco: el hecho de que el robot sea rápido no significa que todo el mundo confíe en él. Algunos temen que el robot cuente mal la historia, robe sus secretos o incluso reemplace por completo al bibliotecario humano.

Este estudio se sumerge en la mente de la gente común para responder a una gran pregunta: ¿Confiamos en este nuevo bibliotecario robot, o tenemos miedo de que eche a perder nuestra salud? Para entender las respuestas, necesitamos saber algunas cosas. Primero, existe la "alfabetización en IA", que es simplemente una forma elegante de decir: "¿Sabes cómo funciona este cerebro robótico?". Luego está la "familiaridad", que es simplemente qué tan seguido has visto o usado estos robots en tu vida diaria. Finalmente, está la idea de la "supervisión humana", que es la creces de que el bibliotecario humano sigue al mando, vigilando el trabajo del robot para asegurarse de que esté haciendo lo correcto. Los investigadores querían ver si saber más sobre el robot, usarlo tú mismo o confiar en el bibliotecario humano cambia qué tan útil, riesgoso o justo nos parece el robot.

Los investigadores, un equipo de la Universidad de Ámsterdam, decidieron tomar una instantánea gigante del público holandés para ver qué piensan realmente. Pidieron a casi 4,000 personas —aproximadamente la mitad hombres y la mitad mujeres, con una edad promedio de 52 años— que completaran una encuesta. No se limitaron a preguntar: "¿Te gusta la IA?". Lo desglosaron en tres sentimientos específicos: ¿Es la toma de decisiones automatizada (ADM) en la atención médica útil? ¿Es riesgosa? Y ¿es justa?

Para encontrar las respuestas, utilizaron una herramienta matemática especial llamada Modelado de Ecuaciones Estructurales. Piensa en esto como un mapa gigante y complejo que conecta diferentes puntos. Los investigadores dibujaron líneas entre cosas como "¿Cuánto sabes sobre la IA?" y "¿Crees que es riesgosa?" para ver qué puntos tiraban de las cuerdas con más fuerza. Observaron si las personas que usaban chatbots para obtener consejos de salud se sentían de manera diferente a quienes solo usaban Google. También comprobaron si las personas que confiaban en que sus médicos podían distinguir entre una nota escrita por un humano y una escrita por una IA se sentían más seguras con todo el sistema.

Entonces, ¿qué reveló el mapa? Los hallazgos son un poco como una montaña rusa con giros sorprendentes.

Primero, cuanto más sabía la gente sobre diferentes tipos de IA (como chatbots, deepfakes o IA generativa), más pensaban que podía ser útil. Es como saber cómo funciona un truco de magia hace que valores más la habilidad del mago. Pero aquí está el giro: esa misma familiaridad también los hizo pensar que era más riesgosa. Parece que cuando sabes un poco más sobre el robot, te das cuenta de que no es solo una herramienta perfecta; es una herramienta poderosa que puede fallar. Así que, saber más no solo hizo que la gente lo amara; también los hizo más conscientes de los peligros. Por lo tanto, saber más no solo hizo que la gente lo apreciara, sino que también los hizo más conscientes de los riesgos.

Segundo, el estudio encontró algo realmente interesante sobre el bibliotecario humano. El factor más importante que hizo que la gente pensara que la IA era justa y útil fue su confianza en la capacidad del médico para distinguir entre el contenido generado por IA y el humano. Si una persona creía: "Mi médico puede notar si una computadora escribió esto", era mucho más probable que pensara que todo el sistema era justo. Resulta que nos importa menos confiar en el robot en sí y más confiar en el humano que sostiene la correa del robot. Si creemos que el humano tiene el control y puede detectar errores, nos sentimos seguros.

Tercero, las personas que realmente utilizaban agentes conversacionales (como chatbots o asistentes virtuales) para obtener información de salud se sentían de manera diferente a los demás. Estos usuarios pensaban que el sistema era menos riesgoso y más justo. Es como montar en bicicleta: la primera vez que te subes, se siente tambaleante y aterrador. Pero una vez que la has montado algunas veces, se siente normal y segura. Usar estas herramientas parecía hacer que el robot aterrador se sintiera como un ayudante amigable. Sin embargo, el estudio señaló que la mayoría de las personas en la encuesta aún no usaban estos chatbots con mucha frecuencia, por lo que este efecto de "montar la bicicleta" aún no se había activado para todos.

Curiosamente, el estudio también observó si las personas que utilizaban sitios web de salud tradicionales (como las páginas oficiales de los hospitales) se sentían de manera diferente. Resultó que depender de estas fuentes digitales de la vieja escuela hacía que la gente pensara que la IA era más riesgosa, pero no cambiaba realmente sus opiniones sobre si era útil o justa. Es como si aferrarse a los "viejos métodos" hiciera que el nuevo robot pareciera aún más sospechoso.

Algo que el estudio no encontró fue un vínculo fuerte entre la "alfabetización en IA" (qué tan bien entiendes la tecnología) y el sentimiento de que la IA es riesgosa. Podrías pensar que si entiendes cómo funciona el motor de un coche, tendrías menos miedo de él. Pero para la IA, saber cómo funcionaba no necesariamente hacía que la gente se sintiera más segura respecto a los riesgos. Los investigadores sugieren que esto podría deberse a que entender la tecnología hace que algunas personas vean los peligros claramente, mientras que otras se vuelven excesivamente confiadas, cancelándose entre sí.

Los investigadores fueron cuidadosos al decir que este estudio es una instantánea en el tiempo, no una película del futuro. No pueden asegurar que el uso de chatbots cause que la gente sienta menos miedo; solo saben que ambas cosas suceden al mismo tiempo. También señalaron que su encuesta utilizaba preguntas sencillas, por lo que podría haber más matices en estos sentimientos que no lograron captar.

Al final, la historia que cuenta este artículo es sobre la confianza. Sugiere que para que la IA se conviya realmente en una parte útil de la atención médica, no solo necesitamos mejores robots. Necesitamos asegurarnos de que la gente confíe en los médicos humanos que los utilizan. Si la gente cree que sus médicos pueden vigilar la IA y detectar cualquier error, es mucho más probable que el público vea la tecnología como justa y útil. Pero si olvidamos al humano en el proceso, el robot podría parecer ante todos una máquina aterradora y riesgosa.