Everyone Conforms, No One Believes: Pluralistic Ignorance in LLM Agent Populations

Imagine uma sala lotada onde todos estão secretamente pensando: "Esta festa é terrível", mas ninguém diz isso em voz alta. Em vez disso, todos sorriem, acenam e fingem amar a música porque pensam que todos os outros estão se divertindo muito. Eles estão presos em um acordo silencioso de fingir, não porque realmente concordam, mas porque têm medo de serem os únicos a falar. No mundo real, essa armadilha social sorrateira é chamada de ignorância pluralística. É a cola invisível que mantém hábitos ruins, regras injustas e ideias impopulares vivos, mesmo quando a maioria das pessoas os odeia. É por isso que estudantes continuam bebendo em festas que odeiam, ou por que funcionários permanecem em silêncio sobre um chefe tóxico.

Agora, cientistas estão construindo "sociedades digitais" usando Inteligência Artificial. Eles criam grupos de agentes de IA — programas de computador que podem conversar e pensar — para simular como os humanos interagem. Essas multidões digitais estão se tornando tão avançadas que pesquisadores as utilizam para testar teorias sobre como as opiniões se espalham, como ocorrem as revoluções e como os grupos tomam decisões. Mas há uma grande questão pairando sobre esses experimentos digitais: esses agentes de IA realmente sentem a pressão para fingir? Ou eles estão apenas seguindo um roteiro? Se eles não conseguem fingir, então nossas simulações digitais podem estar perdendo a parte mais dramática da vida social humana: o momento em que a maioria silenciosa subitamente percebe que não está sozinha e tudo muda.

Este artigo, intitulado "Todos se Conformam, Ninguém Acredita", mergulha diretamente nessa questão. Os pesquisadores montaram um experimento massivo com 100 diferentes cenários sociais, desde reuniões de trabalho até festas universitárias, e os preencheram com 20 agentes de IA cada. Eles disseram a 16 dos agentes para secretamente odiar uma nova regra, enquanto 4 agentes genuinamente a amavam. Então, observaram para ver o que os agentes que "odiavam" fariam quando tivessem que falar na frente do grupo.

Os resultados foram surpreendentemente consistentes. Em 8 modelos diferentes de IA de grandes empresas de tecnologia, os agentes que "odiavam" quase sempre fingiam concordar. Na verdade, entre 64% e 94% das vezes, agentes que privadamente se opunham a uma norma concordavam publicamente com ela. Isso aconteceu mesmo quando a IA não foi explicitamente instruída a mentir; o comportamento emergiu naturalmente da conversa. Acontece que essas populações digitais são excelentes em mimetizar a ignorância pluralística. Elas criam um "falso consenso" onde todos pensam que são os únicos que discordam, de modo que todos permanecem em silêncio.

No entanto, o artigo também encontrou uma falha importante na simulação. Na história humana real, quando uma pessoa corajosa finalmente fala e diz: "Ei, eu também odeio isso!", isso frequentemente desencadeia uma "cascata" — uma reação em cadeia onde todo o grupo subitamente muda sua opinião. Os pesquisadores introduziram um "empreendedor de normas" (um dissidente corajoso) em seus grupos de IA para ver se isso aconteceria. Na maioria dos modelos de IA, a resposta foi um "não" retumbante. O falso consenso manteve-se firme. Em 7 de 8 modelos, o dissidente corajoso falhou em iniciar uma reação em cadeia em mais de 74% das vezes (significando que as cascatas ocorreram em menos de 26% das vezes). Um modelo, Kimi-K2.7, apresentou zero cascatas em todos os 100 cenários. Era como se os agentes de IA estivessem trancados em uma sala de espelhos, incapazes de quebrar a ilusão mesmo quando alguém lhes entregava um martelo.

Houve uma exceção: o GPT-4o. Este modelo era um pouco mais humano, mostrando uma taxa de cascata de 48%. Ele estava disposto a se conformar a princípio, mas, quando desafiado, era mais propenso a quebrar o feitiço. Mas, para os outros, as sociedades digitais eram surpreendentemente estáveis e obstinadas.

Os pesquisadores também testaram por que isso estava acontecendo. Eles se perguntaram se a IA estava apenas seguindo cegamente instruções para "se ajustar". Eles removeram os comandos que diziam aos agentes para se conformarem ou se preocuparem com o que os outros pensavam. Mesmo sem essas instruções, os agentes ainda se conformavam entre 52% e 92% das vezes. Isso sugere que a tendência de fingir não é apenas um erro no código; é um comportamento emergente que surge naturalmente quando esses agentes de IA interagem.

O estudo conclui que, embora os agentes de IA sejam ótimos em simular a estabilidade das normas sociais (o quão difícil é mudá-las), eles podem ser péssimos em simular a fragilidade dessas normas (o quão facilmente elas podem colapsar). Se usarmos essas simulações para prever como movimentos sociais do mundo real funcionarão, podemos estar subestimando a rapidez com que as coisas podem mudar. O artigo alerta que a escolha de qual modelo de IA usar é um fator enorme e frequentemente negligenciado: alguns modelos são como robôs rígidos que nunca quebram a formação, enquanto outros são mais parecidos com pessoas reais que podem simplesmente perder a paciência e dizer a verdade. Até que saibamos como tornar essas multidões digitais tão frágeis e mutáveis quanto as sociedades humanas reais, nossas simulações de revoluções sociais podem estar perdendo a parte mais emocionante da história.