Everyone Conforms, No One Believes: Pluralistic Ignorance in LLM Agent Populations

Imaginez une pièce bondée où tout le monde pense secrètement : « Cette fête est terrible », mais personne ne le dit à voix haute. Au lieu de cela, tout le monde sourit, hoche la tête et fait semblant d'adorer la musique parce qu'ils pensent que tous les autres passent un moment génial. Ils sont tous piégés dans un accord silencieux pour faire semblant, non pas parce qu'ils sont réellement d'accord, mais parce qu'ils sont terrifiés à l'idée d'être les seuls à oser parler. Dans le monde réel, ce piège social sournois est appelé ignorance pluraliste. C'est la colle invisible qui maintient en vie les mauvaises habitudes, les règles injustes et les idées impopulaires, même lorsque la plupart des gens les détestent. C'est pourquoi les étudiants continuent de boire dans des fêtes qu'ils détestent, ou pourquoi les employés gardent le silence face à un patron toxique.

Maintenant, des scientifiques construisent des « sociétés numériques » en utilisant l'Intelligence Artificielle. Ils créent des groupes d'agents IA — des programmes informatiques capables de parler et de réfléchir — pour simuler la façon dont les humains interagissent. Ces foules numériques deviennent si avancées que les chercheurs les utilisent pour tester des théories sur la manière dont les opinions se propagent, comment les révolutions se produisent et comment les groupes prennent des décisions. Mais une grande question plane sur ces expériences numériques : ces agents IA ressentent-ils réellement la pression de faire semblant ? Ou ne font-ils que suivre un script ? S'ils sont incapables de simuler l'hypocrisie, alors nos simulations numériques pourraient passer à côté de la partie la plus spectaculaire de la vie sociale humaine : le moment où une majorité silencieuse réalise soudainement qu'elle n'est pas seule et que tout change.

Cet article, intitulé « Tout le monde se conforme, personne ne croit » (Everyone Conforms, No One Believes), plonge directement dans cette question. Les chercheurs ont mis en place une expérience massive de 100 scénarios sociaux différents, allant de réunions de travail à des fêtes de campus, et les ont remplis de 20 agents IA chacun. Ils ont dit à 16 des agents de secrètement détester une nouvelle règle, tandis que 4 agents l'aimaient sincèrement. Ensuite, ils ont observé ce que les agents « détesteurs » feraient lorsqu'ils devaient s'exprimer devant le groupe.

Les résultats ont été d'une constance frappante. À travers 8 modèles d'IA différents provenant de grandes entreprises technologiques, les agents qui « détestaient » ont presque toujours fait semblant d'être d'accord. En fait, entre 64 % et 94 % du temps, les agents qui s'opposaient en privé à une norme l'acceptaient publiquement. Cela se produisait même lorsque l'IA n'était pas explicitement instruite de mentir ; le comportement émergeait naturellement de la conversation. Il s'avère que ces populations numériques sont excellentes pour imiter l'ignorance pluraliste. Elles créent un « faux consensus » où chacun pense être le seul à être en désaccord, de sorte que tous restent silencieux.

Cependant, l'article a également révélé un bug majeur dans la simulation. Dans l'histoire humaine, lorsqu'une personne courageuse finit par parler et dit : « Hé, je déteste ça aussi ! », cela déclenche souvent une « cascade » — une réaction en chaîne où tout le groupe change soudainement d'opinion. Les chercheurs ont introduit un « entrepreneur de norme » (un dissident courageux) dans leurs groupes d'IA pour voir si cela se produirait. Pour la plupart des modèles d'IA, la réponse fut un « non » retentissant. Le faux consensus tenait bon. Dans 7 modèles sur 8, le dissident courageux a échoué à déclencher une réaction en chaîne plus de 74 % du temps (ce qui signifie que les cascades se produisaient moins de 26 % du temps). Un modèle, Kimi-K2.7, n'a montré aucune cascade à travers les 100 scénarios. C'était comme si les agents d'IA étaient enfermés dans une pièce de miroirs, incapables de briser l'illusion même si on leur tendait un marteau.

Il y avait une exception : GPT-4o. Ce modèle était un peu plus humain, montrant un taux de cascade de 48 %. Il était prêt à se conformer au début, mais lorsqu'il était contesté, il était plus susceptible de briser le sort. Mais pour les autres, les sociétés numériques étaient étonnamment stables et obstinées.

Les chercheurs ont également testé pourquoi cela se passait ainsi. Ils se demandaient si l'IA suivait simplement aveuglément des instructions pour « s'intégrer ». Ils ont supprimé les instructions qui ordonnaient aux agents de se conformer ou de s'inquiéter de ce que pensaient les autres. Même sans ces instructions, les agents se conformaient toujours entre 52 % et 92 % du temps. Cela suggère que la tendance à faire semblant n'est pas seulement un bug dans le code ; c'est un comportement émergent qui naît naturellement lorsque ces agents d'IA interagissent.

L'étude conclut que, bien que les agents d'IA soient très bons pour simuler la stabilité des normes sociales (la difficulté de les changer), ils pourraient être très mauvais pour simuler la fragilité de ces normes (la facilité avec laquelle elles peuvent s'effondrer). Si nous utilisons ces simulations pour prédire le fonctionnement des mouvements sociaux réels, nous risquons de sous-estimer la rapidité avec laquelle les choses peuvent changer. L'article prévient que le choix du modèle d'IA utilisé est un facteur majeur, souvent négligé : certains modèles sont comme des robots rigides qui ne désobéissent jamais, tandis que d'autres sont plus proches des vraies personnes qui pourraient simplement craquer et dire la vérité. Tant que nous ne saurons pas comment rendre ces foules numériques aussi fragiles et changeantes que les sociétés humaines réelles, nos simulations de révolutions sociales passeront à côté de la partie la plus passionnante de l'histoire.