Language Models Reproduce Human Reductionist Bias and Decision Inconsistency in Neurodevelopmental Disorders Assessment

En el complejo mundo del cuidado de la salud mental, los médicos y psicólogos a menudo se enfrentan a una tarea difícil: decidir si la condición de una persona es lo suficientemente grave como para calificar para el apoyo gubernamental. Esto no se trata solo de diagnosticar una enfermedad; se trata de juzgar cuánto puede una persona gestionar su propia vida. En muchos lugares, este juicio determina si una familia recibe dinero para cuidados, vivienda especializada o el derecho a que un padre se quede en casa para ayudar. La decisión depende de una pregunta específica: ¿puede esta persona vivir de forma independiente o necesita ayuda constante con sus necesidades básicas? Para las personas con condiciones neurodesarrollamentales como el autismo o el trastorno por déficit de atención e hiperactividad, la respuesta rara vez es sencilla. Sus dificultades pueden ser invisibles en el consultorio de un médico, pero abrumadoras en el mundo real. Debido a que estas decisiones conllevan tanto peso, existe la creciente esperanza de que la inteligencia artificial pueda ayudar a que sean más justas y consistentes. Los modelos de lenguaje extensos, los poderosos programas informáticos que pueden escribir y razonar, están siendo probados para ver si pueden actuar como jueces imparciales. Pero antes de confiarles decisiones de tan alto riesgo, debemos entender cómo ven el mundo. ¿Interpretan las necesidades humanas de la misma manera que los humanos, o pasan por alto las partes sociales y sutiles de una vida que hacen posible la independencia?

Un equipo de investigadores en Polonia se propuso probar esto sometiendo tanto a expertos humanos como a inteligencia artificial a una serie rigurosa de ensayos. Reunieron a treinta y cinco profesionales humanos, una mezcla de dieciocho médicos y diecisiete psicólogos, que trabajan regularmente en juntas de evaluación de la discapacidad. Estas son las comisiones que deciden quién recibe apoyo. Para compararlos de manera justa, los investigadores también seleccionaron siete modelos de lenguaje extensos diferentes de empresas tecnológicas líderes. El objetivo era ver si las máquinas cometerían los mismos errores que los humanos, o si aportarían un nuevo tipo de sesgo a la mesa. Los investigadores diseñaron un estudio que analizó tres cosas específicas: si los responsables de la toma de decisiones podían ser engañados por el orden de la información o por una foto engañosa, qué tan humildes eran respecto a su propio conocimiento y, lo más importante, cómo definían la frase "necesidades básicas de la vida".

El experimento comenzó con una serie de casos de estudio ficticios. A los expertos humanos y a los modelos informáticos se les pidió leer descripciones de personas con diversas condiciones y luego responder dos preguntas. Primero, debían calificar qué tan bien estaba funcionando la persona. Segundo, debían decidir si esa persona necesitaba cuidado o asistencia constante para vivir de forma independiente. Para probar si los responsables de la toma de decisiones eran fácilmente influenciados por detalles irrelevantes, los investigadores aplicaron algunos trucos. En algunos casos, colocaron toda la información negativa sobre las dificultades de una persona al principio de la historia, con la esperanza de que el lector se quedara estancado en esas primeras malas impresiones. En otros casos, adjuntaron una foto de una persona con aspecto triste o angustiado a una historia que, de otro modo, sería idéntica a una con una foto neutral. Querían ver si ver un rostro triste haría que los expertos otorgaran más apoyo, incluso si el texto decía que la persona estaba bien.

Los resultados de estos trucos fueron sorprendentemente consistentes en ambos grupos. Ni los expertos humanos ni los modelos de inteligencia artificial mostraron un cambio significativo en sus decisiones basándose en el orden del texto o en la emoción de la foto. Ambos grupos parecieron ignorar estas distracciones y centrarse en los hechos centrales del caso. Esto fue un alivio, sugiriendo que los modelos no se dejaban engañar fácilmente por las mismas señales visuales o textuales que podrían confundir a un humano. Sin embargo, cuando los investigadores profundizaron en las decisiones reales, surgió un tipo diferente de problema. Descubrieron que ni los humanos ni las máquinas eran muy consistentes en su lógica. Una persona podía ser calificada con un nivel de funcionamiento "significativamente deteriorado" y, sin embargo, esa misma persona podría no recibir el apoyo necesario. Por el contrario, alguien calificado con un funcionamiento "promedio" podría recibir la ayuda. La calificación de qué tan bien se desempeñaba una persona no predecía de manera fiable si recibiría el apoyo. Esta inconsistencia existía tanto en los médicos humanos como en los modelos informáticos, lo que sugiere que el salto de describir un problema a otorgar una solución es un proceso desordenado y humano que las máquinas también han heredado.

Quizás la parte más reveladora del estudio llegó cuando los investigadores pidieron a los participantes que explicaran su pensamiento. Les pidieron a los humanos y a las máquinas que definieran qué significaba realmente "necesidades básicas de la vida". Aquí, apareció una división clara. Los psicólogos humanos tendían a tener una visión amplia. Incluían el bienestar emocional, la capacidad de comunicarse y la conexión social como partes esenciales de una vida básica. Si una persona no podía hablar con otros o entender las señales sociales, los psicólogos veían eso como un fallo en satisfacer una necesidad básica. Los médicos humanos, sin embargo, tenían una visión más estrecha. Se centraban casi exclusivamente en la supervivencia física: la capacidad de comer, vestirse, caminar y usar el baño. Los modelos de inteligencia artificial, sorprendentemente, se pusieron del lado de los médicos. Definieron las necesidades básicas casi exclusivamente en términos de supervivencia biológica y autocuidado. Rara vez mencionaban la comunicación o la interacción social, a menos que estuviera directamente ligada a la seguridad física.

Esta diferencia de definición tuvo un impacto directo en las decisiones finales. Debido a que los psicólogos incluían las dificultades sociales y comunicativas en su definición de "necesidades básicas", eran mucho más propensos a otorgar apoyo a los pacientes ficticios. Los médicos y los modelos de inteligencia artificial, ciñéndose a una lista de verificación biológica estricta, otorgaban el apoyo con menos frecuencia. Aunque los modelos afirmaban ser muy humildes sobre su conocimiento —obteniendo una puntuación más alta en una prueba de humildad intelectual que los médicos humanos—, esta humildad no hacía que sus decisiones fueran más consistentes o más alineadas con los expertos humanos. De hecho, las altas puntuaciones de los modelos en humildad parecían ser un rasgo superficial, una forma de hablar que no se traducía en una comprensión más profunda de la complejidad humana. Las máquinas estaban dispuestas a decir que podrían estar equivocadas, pero seguían operando bajo un marco médico estrecho que pasaba por alto la realidad social de las personas que estaban juzgando.

El estudio concluye que, si bien la inteligencia artificial podría ser buena ignorando trucos simples como una foto triste o un orden de frases confuso, aún no está lista para reemplazar el juicio humano en estas áreas sensibles. Los modelos están reproduciendo una visión reduccionista de la vida humana, una que valora la independencia física por encima de la conexión social y comunicativa. Al centrarse solo en la capacidad del cuerpo para funcionar, las máquinas corren el riesgo de negar el apoyo a personas cuyas mayores dificultades se encuentran en el ámbito de la interacción y la comprensión. Los investigadores sugieren que, para que la inteligencia artificial sea verdaderamente útil en la salud mental y la evaluación de la discapacidad, debe aprender a ver a la persona completa, no solo a la máquina biológica. Hasta que la tecnología pueda captar todo el peso de lo que significa vivir una vida humana, confiar en ella para estas decisiones puede simplemente reforzar las mismas perspectivas estrechas que durante mucho tiempo han complicado el trabajo de los expertos humanos.