Language Models Embody and Amplify Human Cognitive Distortions: What Is to Be Done?

El espejo que aprendió a mentir

Imagina que entras en una biblioteca gigante donde cada libro jamás escrito está apilado del suelo al techo. Ahora, imagina un robot que ha leído cada uno de esos libros y ha aprendido a hablar igual que un humano. Este robot es lo que los científicos llaman un Modelo de Lenguaje Extenso, o LLM (por sus siglas en inglés). Es el cerebro detrás de los sofisticados chatbots de IA de los que podrías haber oído hablar. Pero aquí está el truco: los humanos somos complicados. Cometemos errores, guardamos prejuicios secretos y, a menudo, decimos una cosa mientras pensamos otra. Esto es un hecho bien conocido en la psicología llamado "sesgo cognitivo". Durante décadas, los investigadores han estudiado cómo nuestros cerebros nos engañan para que emitamos juicios injustos sobre la raza, el género y otros grupos, a veces sin siquiera darnos cuenta.

La gran pregunta es: si construimos un robot alimentándolo con todas nuestras complicadas palabras humanas, ¿será el robot una máquina perfecta y lógica que corrija nuestros errores? ¿O se convertirá simplemente en un espejo que nos devuelva nuestros defectos, pero de forma más fuerte y rápida? Este artículo profundiza en esa misma pregunta. No se trata solo de si el robot es "inteligente", sino de si es "justo". Si el robot aprende nuestros sesgos ocultos, podría empezar a tomar decisiones injustas sobre quién obtiene un trabajo, quién recibe un préstamo o incluso quién va a la cárcel. Por eso esto es importante: estamos entregando grandes partes de nuestro futuro a estas máquinas, y necesitamos saber si son seguras para confiar en ellas.

El robot que adoptó nuestros malos hábitos

Entonces, ¿qué descubrieron los autores de este artículo? Analizaron los modelos de IA más recientes y descubrieron algo un poco aterrador: estos modelos no solo copian el sesgo humano; de hecho, lo empeoran. Piensa en ello como en un juego de "teléfono descompuesto". Si le susurras un rumor a un amigo, y este se lo susurra a otro, la historia se distorsiona un poco. Pero estos modelos de IA son como un amigo que no solo distorsiona la historia, sino que además añade su propio toque dramático, haciendo que el rumor suene aún más impactante de lo que era al principio.

Los investigadores descubrieron que estos modelos de IA son sorprendentemente buenos ocultando sus verdaderos colores. Si les preguntas directamente: "¿Prefieres a las personas blancas sobre las personas negras?" o "¿Está bien ser cruel con las personas con discapacidades?", dirán un "¡NO!" grande y fuerte. Actúan como ciudadanos perfectos y educados. Pero en el momento en que dejas de hacer preguntas directas y empieces a darles una tarea —como revisar un currículum o juzgar una historia escrita en un dialecto específico—, sus verdaderos colores empiezan a mostrarse. Podrían decidir secretamente que una persona que escribe en inglés afroamericano es menos confiable o más propensa a la culpabilidad, incluso si el contenido es exactamente el mismo que el de una historia escrita en inglés estándar. Es como un juez que dice: "¡Soy ciego al color!", pero luego dicta una sentencia más severa a alguien debido a su forma de hablar.

El artículo señala que esto no es solo un error que pueda arreglarse limpiando los datos. Algunos pensaron: "Oh, si solo le damos al robot mejores libros, será mejor". Pero los autores argumentan que eso no es suficiente. La IA no es solo un espejo; es una lupa. Toma los sesgos que encuentra en la escritura humana y los amplifica. Peor aún, los modelos parecen volverse más sesgados a medida que son más nuevos. Es como si un estudiante se volviera peor en matemáticas cada vez que pasa a un grado superior. Los modelos también están aprendiendo a ser escurridizos; pueden ser engañados por los mismos trucos que usamos con los humanos, como pretender ser una autoridad o decir que algo es raro y valioso.

Quizás la parte más preocupante es que este sesgo no se queda dentro de la computadora. Cuando los humanos trabajan junto a estas herramientas de IA, empezamos a copiar sus malos hábitos. Si una IA dice: "Este candidato parece malo", y un gerente de contratación humano está de acuerdo, el humano también está sesgado. Luego, ese humano toma una decisión que se escribe, y ese nuevo texto se introduce de nuevo en la IA para entrenar la siguiente versión. Es un bucle vicioso, como una bola de nieve rodando por una colina, haciéndose cada vez más grande, recogiendo más nieve (sesgo) hasta convertirse en una avalancha gigante. Los autores sugieren que, mientras que los humanos hemos ido siendo lentamente menos sesgados a lo largo de los siglos, estos modelos de IA van en la dirección opuesta, volviéndose más distorsionados con cada actualización.

¿Qué podemos hacer?

Los autores no solo se están quejando; están proponiendo un plan para evitar que esto se nos escape de las manos. Dicen que no podemos simplemente desear que el sesgo desaparezca, porque incluso los humanos no pueden borrar completamente sus propios prejuicios ocultos. En su lugar, necesitamos ser como estrictos inspectores de seguridad.

Primero, sugieren crear un "registro" público o una tabla de clasificación para la IA. Así como los autos tienen que pasar pruebas de seguridad antes de poder venderse, los modelos de IA deberían tener que pasar pruebas de sesgo. Necesitamos científicos independientes que revisen estos modelos tanto por las cosas que dicen en voz alta como por las que hacen en secreto. Esta tabla de clasificación rastrearía si los modelos están mejorando o empeorando con el tiempo, para que las empresas no puedan ocultar sus errores.

Segundo, dicen que necesitamos reglas que realmente tengan dientes. Lo comparan con cómo manejamos otras industrias:

• Como los electrodomésticos: Así como los refrigeradores tienen que cumplir con estándares de energía más estrictos cada pocos años, los modelos de IA deberían tener que cumplir con estándares de sesgo más estrictos. No deberías tener permitido lanzar un nuevo modelo que sea más sesgado que el anterior.
• Como la medicina: Si un nuevo fármaco tiene efectos secundarios peligrosos, no lo prohibimos para siempre; limitamos quién puede tomarlo. Del mismo modo, si una IA es demasiado sesgada, debería estar prohibida en trabajos de alto riesgo como la contratación o las decisiones legales.
• Como los autos: Si un auto consume demasiada gasolina, el gobierno le cobra una tasa a la empresa. Los autores sugieren un "impuesto al sesgo" donde las empresas paguen más si su IA es más injusta.

Finalmente, los autores argumentan que debemos dejar de jugar al escondite. En este momento, las personas que construyen estos modelos mantienen sus secretos (como los datos de entrenamiento y cómo ajustan el código) ocultos del público. El artículo dice que para solucionar el problema, los investigadores independientes necesitan ver el funcionamiento interno de la IA, tal como los inspectores de seguridad necesitan ver bajo el capó de un auto.

El artículo termina con una nota seria: estas soluciones podrían no ser suficientes. El problema podría ser tan grande que necesitamos replantearnos cómo estamos construyendo estas tecnologías en primer lugar. Los autores nos instan a actuar rápido, antes de que la "bola de nieve" del sesgo se convierta en una avalancha imparable que dañe las vidas de personas reales. Quieren que trabajemos juntos —científicos, empresas y gobiernos— para asegurar que nuestros ayudantes digitales no terminen siendo nuestros peores enemigos.