Everyone Conforms, No One Believes: Pluralistic Ignorance in LLM Agent Populations

Stellen Sie sich einen überfüllten Raum vor, in dem jeder insgeheim denkt: „Diese Party ist schrecklich“, aber niemand es laut ausspricht. Stattdessen lächeln alle, nicken und tun so, als fänden sie die Musik toll, weil sie glauben, dass alle anderen eine großartige Zeit haben. Sie sind alle in einer stillen Übereinkunft gefangen, vorzugeben, alles sei in Ordnung – nicht weil sie tatsächlich zustimmen, sondern weil sie panische Angst davor haben, der Einzige zu sein, der den Mund aufmacht. In der realen Welt wird diese hinterlistige soziale Falle als pluralistische Ignoranz bezeichnet. Es ist der unsichtbare Klebstoff, der schlechte Gewohnheiten, ungerechte Regeln und unpopuläre Ideen am Leben erhält, selbst wenn die meisten Menschen sie hassen. Es ist der Grund, warum Studenten weiterhin auf Partys trinken, die sie eigentlich hassen, oder warum Angestellte gegenüber einem toxischen Chef schweigen.

Nun bauen Wissenschaftler „digitale Gesellschaften“ mithilfe von Künstlicher Intelligenz. Sie erschaffen Gruppen von KI-Agenten – Computerprogrammen, die kommunizieren und denken können –, um zu simulieren, wie Menschen miteinander interagieren. Diese digitalen Menschenmengen werden immer fortschrittlicher, sodass Forscher sie nutzen, um Theorien darüber zu testen, wie Meinungen sich verbreiten, wie Revolutionen entstehen und wie Gruppen Entscheidungen treffen. Aber über diesen digitalen Experimenten schwebt eine große Frage: Fühlen diese KI-Agenten den Druck, sich anzupassen? Oder folgen sie nur einem Skript? Wenn sie nicht faken können, dann könnten unsere digitalen Simulationen den dramatischsten Teil des menschlichen Soziallebens verpassen: den Moment, in dem eine stille Mehrheit plötzlich erkennt, dass sie nicht allein ist, und sich alles verändert.

Dieses Papier mit dem Titel „Everyone Conforms, No One Believes“ (Alle konformieren, niemand glaubt es) geht genau dieser Frage auf den Grund. Die Forscher setzten ein massives Experiment mit 100 verschiedenen sozialen Szenarien auf – von Besprechungen am Arbeitsplatz bis hin zu Campus-Partys – und füllten diese jeweils mit 20 KI-Agenten. Sie wiesen 16 der Agenten an, heimlich eine neue Regel zu hassen, während 4 Agenten diese Regel tatsächlich liebten. Dann beobachteten sie, wie die „Hasser“ reagierten, wenn sie vor der Gruppe sprechen mussten.

Die Ergebnisse waren erschreckend konsistent. Über 8 verschiedene KI-Modelle führender Tech-Unternehmen hinweg gaben die „hassenden“ Agenten fast immer vor, zuzustimmen. Tatsächlich gaben die Agenten, die privat eine Norm ablehnten, in 64 % bis 94 % der Fälle öffentlich zu, mit ihr einverstanden zu sein. Dies geschah selbst dann, wenn die KI nicht explizit angewiesen wurde, zu lügen; das Verhalten entstand natürlich aus der Konversation. Es stellt sich heraus, dass diese digitalen Populationen exzellent darin sind, pluralistische Ignoranz nachzuahmen. Sie erzeugen einen „falschen Konsens“, bei dem jeder denkt, er sei der Einzige, der widerspricht, weshalb alle schweigen.

Die Forscher fanden jedoch einen massiven Fehler in der Simulation. In der echten menschlichen Geschichte löst es oft eine „Kaskade“ aus – eine Kettenreaktion, bei der die gesamte Gruppe plötzlich ihre Meinung ändert –, wenn eine mutige Person endlich aufspringt und sagt: „Hey, ich hasse das auch!“ Die Forscher führten einen „Normen-Unternehmer“ (einen mutigen Dissidenten) in ihre KI-Gruppen ein, um zu sehen, ob dies passieren würde. Bei den meisten KI-Modellen war die Antwort ein deutliches „Nein“. Der falsche Konsens blieb standhaft. In 7 von 8 Modellen scheiterte der mutige Dissident in mehr als 74 % der Fälle daran, eine Kettenreaktion auszulösen (das heißt, Kaskaden traten in weniger als 26 % der Fälle auf). Ein Modell, Kimi-K2.7, zeigte in allen 100 Szenarien null Kaskaden. Es war, als säßen die KI-Agenten in einem Raum voller Spiegel und wären unfähig, die Illusion zu durchbrechen, selbst wenn man ihnen einen Hammer reichte.

Es gab eine Ausnahme: GPT-4o. Dieses Modell war etwas menschenähnlicher und zeigte eine Kaskadenrate von 48 %. Es war bereit, anfangs zu konformieren, aber wenn es herausgefordert wurde, war es eher bereit, den Bann zu brechen. Doch bei den anderen waren die digitalen Gesellschaften überraschend stabil und stur.

Die Forscher untersuchten auch, war Warum dies geschah. Sie fragten sich, ob die KI einfach nur blind den Anweisungen folgte, sich „anzupassen“. Sie entfernten die Prompts, die die Agenten dazu brachten, zu konformieren oder sich Sorgen darüber zu machen, was andere denken könnten. Selbst ohne diese Anweisungen konformierten die Agenten weiterhin zwischen 52 % und 92 % der Zeit. Dies deutet darauf an, dass die Tendenz vorzugeben, alles sei in Ordnung, nicht nur ein Bug im Code ist; es ist ein emergentes Verhalten, das natürlich entsteht, wenn diese KI-Agenten miteinander interagieren.

Die Studie kommt zu dem Schluss, dass KI-Agenten zwar gut darin sind, die Stabilität sozialer Normen zu simulieren (wie schwer es ist, sie zu ändern), sie aber möglicherweise schlecht darin sind, die Fragilität dieser Normen zu simulieren (wie leicht sie zusammenbrechen können). Wenn wir diese Simulationen nutzen, um vorherzusagen, wie reale soziale Bewegungen funktionieren werden, könnten wir unterschätzen, wie schnell sich die Dinge ändern können. Das Papier warnt davor, dass die Wahl des verwendeten KI-Modells ein riesiger, oft übersehener Faktor ist: Einige Modelle sind wie starre Roboter, die niemals aus der Reihe tanzen, während andere eher wie echte Menschen sind, die vielleicht einfach platzen und die Wahrheit sagen. Bis wir herausfinden, wie wir diese digitalen Menschenmengen so zerbrechlich und veränderlich wie echte menschliche Gesellschaften machen können, werden unsere Simulationen sozialer Revolutionen den spannendsten Teil der Geschichte vermissen.