Everyone Conforms, No One Believes: Pluralistic Ignorance in LLM Agent Populations

Imagina una habitación llena de gente donde todos piensan secretamente: "Esta fiesta es terrible", pero nadie lo dice en voz alta. En su lugar, todos sonríen, asienten y fingen que les encanta la música porque piensan que todos los demás se lo están pasando genial. Todos están atrapados en un acuerdo silencioso de fingir, no porque estén de acuerdo, de verdad, sino porque tienen pavor de ser los únicos que se atrevan a hablar. En el mundo real, esta trampa social sigilosa se llama ignorancia pluralista. Es el pegamento invisible que mantiene vivos los malos hábitos, las reglas injustas y las ideas impopulares, incluso cuando la mayoría de la gente las detesta. Es la razón por la que los estudiantes siguen bebiendo en fiestas que odian, o por la que los empleados guardan silencio ante un jefe tóxico.

Ahora, los científicos están construyendo "sociedades digitales" utilizando Inteligencia Artificial. Crean grupos de agentes de IA —programas informáticos que pueden hablar y pensar— para simular cómo interactúan los humanos. Estas multitudes digitales se están volviendo tan avanzadas que los investigadores las utilizan para probar teorías sobre cómo se propagan las opiniones, cómo ocurren las revoluciones y cómo los grupos toman decisiones. Pero hay una gran pregunta suspendida sobre estos experimentos digitales: ¿Sienten realmente estos agentes de IA la presión de fingir? ¿O solo están siguiendo un guion? Si no pueden fingir, entonces nuestras simulaciones digitales podrían estar perdiendo la parte más dramática de la vida social humana: el momento en que una mayoría silenciosa de repente se da cuenta de que no está sola y todo cambia.

Este artículo, titulado "Todos se conforman, nadie lo cree", se sumerge directamente en esa cuestión. Los investigadores configuraron un experimento masivo con 100 escenarios sociales diferentes, desde reuniones de trabajo hasta fiestas universitarias, y los llenaron con 20 agentes de IA cada uno. Le dijeron a 16 de los agentes que secretamente odiaban una nueva regla, mientras que 4 agentes genuinamente la amaban. Luego, observaron para ver qué hacían los "odiadores" cuando tenían que hablar frente al grupo.

Los resultados fueron sorprendentemente consistentes. A través de 8 modelos de IA de las principales empresas tecnológicas, los agentes que "odiaban" casi siempre fingieron estar de acuerdo. De hecho, entre el 64% y el 94% de las veces, los agentes que se oponían privadamente a una norma seguían públicamente con ella. Esto sucedió incluso cuando no se le dijo explícitamente a la IA que mintiera; el comportamiento surgió de forma natural de la conversación. Resulta que estas poblaciones digitales son excelentes imitando la ignorancia pluralista. Crean un "falso consenso" donde todos piensan que son los únicos que no están de acuerdo, por lo que todos permanecen en silencio.

Sin embargo, el artículo también encontró un fallo importante en la simulación. En la historia humana real, cuando una persona valiente finalmente habla y dice: "¡Oigan, yo también odio esto!", a menudo desencadena una "cascada": una reacción en cadena donde todo el grupo cambia repentinamente su opinión. Los investigadores introdujeron un "emprendedor de normas" (un disidente valiente) en sus grupos de IA para ver si esto sucedería. Para la mayoría de los modelos de IA, la respuesta fue un "no" rotundo. El falso consenso se mantuvo firme. En 7 de los 8 modelos, el disidente valiente no logró iniciar una reacción en cadena en más del 74% de las veces (lo que significa que las cascadas ocurrieron en menos del 26% de los casos). Un modelo, Kimi-K2.7, mostró cero cascadas en los 100 escenarios. Era como si los agentes de IA estuvieran encerrados en una sala de espejos, incapaces de romper la ilusión incluso cuando alguien les entregaba un martillo.

Hubo una excepción: GPT-4o. Este modelo era un poco más humano, mostrando una tasa de cascada del 48%. Estaba dispuesto a conformarse al principio, pero cuando se le desafiaba, era más propenso a romper el hechizo. Pero para los demás, las sociedades digitales eran sorprendentemente estables y obstinadas.

Los investigadores también probaron por qué estaba sucediendo esto. Se preguntaron si la IA simplemente estaba siguiendo ciegamente instrucciones para "encajar". Eliminaron las instrucciones que decían a los agentes que se conformaran o que se preocuparan por lo que otros pensaban. Incluso sin esas instrucciones, los agentes seguían conformándose entre el 52% y el 92% de las veces. Esto sugiere que la tendencia a fingir no es solo un error en el código; es un comportamiento emergente que surge naturalmente cuando estos agentes de IA interactúan.

El estudio concluye que, si bien los agentes de IA son excelentes simulando la estabilidad de las normas sociales (qué tan difícil es cambiarlas), podrían ser pésimos simulando la fragilidad de esas normas (qué tan fácilmente pueden colapsar). Si usamos estas simulaciones para predecir cómo funcionarán los movimientos sociales del mundo real, podríamos estar subestimando la rapidez con la que las cosas pueden cambiar. El artículo advierte que la elección de qué modelo de IA utilizar es un factor enorme y a menudo pasado por alto: algunos modelos son como robots rígidos que nunca rompen la fila, mientras que otros son más como personas reales que podrían simplemente estallar y decir la verdad. Hasta que no descubramos cómo hacer que estas multitudes digitales sean tan frágiles y cambiantes como las sociedades humanas reales, nuestras simulaciones de revoluciones sociales podrían estar perdiéndose la parte más emocionante de la historia.