Same physical state, different collective dynamics: state encodings select synchronization outcomes in language-model agents

Stellen Sie sich eine Welt vor, in der tausende winziger, unsichtbarer Tänzer versuchen, in perfektem Einklang zu sich zu bewegen. Sie können einander nicht direkt sehen; stattdin verlassen sie sich auf einen Übersetzer, der die Bewegungen der Menge beschreibt. Wenn der Übersetzer sagt: „Alle bewegen sich leicht nach links“, wird der Tänzer vielleicht einen Schritt nach links machen. Aber was, wenn der Übersetzer sagt: „Die durchschnittliche Position der Menge liegt 30 Grad nördlich“? Oder wenn er sagt: „Hier ist eine Grafik, die 24 verschiedene Behälter von Bewegungen zeigt“? Obwohl sich die eigentliche Tanzfläche nicht verändert hat, könnte die Reaktion des Tänzers völlig unterschiedlich ausfallen, je nachdem, wie die Informationen beschrieben werden. Dies ist der Kern einer neuen Studie, die untersucht, wie KI-Agenten (Künstliche Intelligenz) reagieren, wenn sie Teil einer Gruppe sind.

In der Welt der Informatik bauen Forscher zunehmend „Schwärme“ von KI-Agenten – Programme, die miteinander kommunizieren, um Probleme zu lösen, Entscheidungen zu treffen oder sogar menschliche Gesellschaften zu simulieren. Ein Schlüsselkonzept der Physik und Mathematik ist die „Synchronisation“, wie etwa Glühwürmchen, die gemeinsam blinken, oder Uhren, die im gleichen Takt ticken. Normalerweise gehen Wissenschaftler davon aus, dass eine KI auf die gleichen Fakten gleich reagiert. Aber diese neue Forschung stellt eine knifflige Frage: Spielt das Format der Fakten eine Rolle? Wenn man einer KI sagt „die Menge ist zu 60 % nach links versetzt“ gegenüber „hier ist eine Liste von 24 Zahlen, die zusammen 60 % ergeben“ – verarbeitet das Gehirn der KI dies anders? Die Antwort könnte die Art und Weise verändern, wie wir alles von Verkehrssystemen bis hin zu Finanzmärkten bauen, denn wenn die „Übersetzung“ das Ergebnis verändert, dann ist die Art und Weise, wie wir mit der KI sprechen, genauso wichtig wie das, was wir sagen.

Der große KI-Tanzwettbewerb

Die Forscher richteten eine riesige, digitale Tanzfläche mit 17 KI-Agenten ein. Jeder Agent war ein „Phasenoszillator“, ein schicker Begriff für einen Tänzer, der im Kreis wirbelt. Ihr Ziel war es nicht, einen Preis zu gewinnen; sie wurden lediglich angewiesen, auf ihre Nachbarn zu schauen und zu entscheiden, ob sie schneller drehen (vorziehen), langsamer drehen (verzögern) oder auf der Stelle bleiben (bleiben). Die Computer-Engine, die die Tanzfläche steuerte, war vollkommen fair und identisch für alle. Das Einzige, was sich änderte, war die „Beobachtungskarte“ (observation map) – die spezifische Art und Weise, wie der KI über die Positionen ihrer Nachbarn berichtet wurde.

Das Team testete drei verschiedene Arten, dieselbe Tanzfläche zu beschreiben:

1. Die „Momente“-Karte: Dies war wie eine Zusammenfassung auf hoher Ebene, ein „Vibe-Check“, der die gesamte Bewegung der Menge in nur drei Zahlen komprimierte, welche die allgemeine Richtung und die Dichte der Gruppierung beschrieben.
2. Die „Zentren“-Karte: Dies war eine detaillierte Liste von 24 Behältern, die der KI genau sagte, wie viele Tänzer in jedem Segment des Kreises waren, beschriftet durch den Mittelpunkt dieses Segments.
3. Die „Intervalle“-Karte: Dies war dieselbe detaillierte Liste von 24 Behältern, aber beschriftet durch die Ränder der Segmente anstatt durch deren Zentren.

Hier ist die Wendung: Die „Zentren“- und „Intervalle“-Karten enthielten exakt die gleiche Menge an Informationen (dieselbe Anzahl von 24 Zahlen), nur mit unterschiedlichen Beschriftungen geschrieben. Die „Momente“-Karte enthielt weniger Rohdaten, aber eine andere Art der Zusammenfassung.

Die Ergebnisse: Es kommt auf die Präsentation an

Als die Forscher das Experiment mit GPT (einem spezifischen KI-Modell) durchführten, waren die Ergebnisse schockierend. Wenn die KI die „Momente“-Zusammenfassung sah, synchronisierte sich die gesamte Gruppe von 17 Tänzern zu 100 % der Zeit (6 von 6 Versuchen). Aber wenn sie die detaillierten „Zentren“- oder „Intervalle“-Listen sahen, synchronisierte sich die Gruppe nie (0 von 6 Versuchen). Die KI-Agenten handelten, als befänden sie sich in einer völlig anderen Welt, obwohl die physische Tanzfläche identisch war.

Um sicherzustellen, dass dies kein Zufall war, führten sie denselben Test mit Claude und Gemini durch, zwei anderen KI-Modellen. Die Ergebnisse waren noch überraschender. Bei Claude bewirkte die „Momente“-Zusammenfassung, dass die Gruppe die Synchronisation verfehlte, während die detaillierten „Zentren“- und „Intervalle“-Listen sie tatsächlich perfekt zusammenführten. Die KI-Modelle reagierten nicht nur unterschiedlich; sie reagierten in entgegengesetzte Richtungen.

Dies beweist, dass die „Beobachtungskarte“ nicht nur ein neutrales Fenster zur Realität ist. Sie ist Teil des Gehirns der KI. Die Art und Weise, wie man die Welt beschreibt, verändert, wie die KI handelt, und dieser Effekt bleibt bestehen, selbst wenn die KI Teil einer Rückkopplungsschleife ist, in der ihre Handlungen die Welt verändern, die sie als Nächstes sieht.

Das mikroskopische Rätsel

Um zu verstehen, warum dies geschah, untersuchten die Forscher die „mikroskopische Reaktion“ der KI – also die Entscheidung der KI, wenn ihr ein einzelnes, eingefrorenes Schnappschuss der Tanzfläche gezeigt wurde. Sie fanden heraus, dass sich der Entscheidungsprozess („Operator“) der KI – also ihre interne Regel für die Wahl zwischen Vorziehen, Bleiben oder Verzögern – je nach Kodierung drastisch verschob.

Wenn die KI beispielsweise ein bestimmtes Muster von Tänzern sah, entschied sie bei der „Momente“-Variante vielleicht fast immer für „vorziehen“, während die „Zentren“-KI meistens für „bleiben“ entschied. Dies geschah selbst dann, wenn die Forscher exakt dieselben Zahlen verwendet hatten, nur anders angeordnet. Sie testeten sogar, ob es nur die Länge des Textes oder die Position der Zahlen war, die eine Rolle spielte. Sie fanden heraus, dass das Hinzufügen von „aufgabenirrelevantem“ Text (Füllmaterial, das die Zahlen nicht veränderte) die Reaktion der KI genauso stark beeinflusste wie die Änderung des Datenformats selbst.

Der „Surrogat“-Test: Kann man es fälschen?

Schließlich stellten die Forscher eine praktische Frage: Könnte man ein einfaches, kostengünstiges Computerprogramm (ein „Surrogat“) trainieren, um vorherzusagen, was die teure KI tun würde, damit man nicht jedes Mal die echte KI laufen lassen muss? Sie versuchten, diese Surrogate für die drei verschiedenen Karten zu bauen.

Das „Momente“-Surrogat konnte das Verhalten der KI gut vorhersagen, allerdings erst, nachdem die Forscher einen spezifischen Fehler behoben hatten, bei dem die KI eigentlich „bleiben“ sollte, das Surrogat aber vorhersagte, dass sie „handeln“ würde. Die Surrogate für die „Zentren“- und „Intervalle“-Karten hingegen scheiterten vollständig. Obwohl sie das Verhalten der KI auf den Trainingsdaten vorhersagen konnten, konnten sie die neuen, komplexen Muster, die die KI tatsächlich in einer Gruppe generierte, nicht bewältigen. Die Forscher stellten fest, dass das Verhalten der KI bei diesen Karten zu inkonsistent war, um von einem einfachen Modell vorhergesagt zu werden, was darauf hindeutet, dass die Art und Weise, wie die Informationen serialisiert (aufgeschrieben) wurden, einen chaotischen Effekt erzeugte, den die einfache Mathematik nicht erfassen konnte.

Das Fazit

Die wichtigste Erkenntnis ist: Für KI-Agenten ist die Art und Weise, wie man die Welt beschreibt, Teil der Regeln der Welt. Es gibt keine „neutrale“ Schnittstelle. Wenn man das Format der Daten ändert, ändert man das kollektive Ergebnis, und diese Änderung hängt vollständig davon ab, welches KI-Modell man verwendet. Was für GPT funktioniert, kann für Claude scheitern, und was einer Gruppe hilft, zu synchronisieren, kann eine andere Gruppe aus dem Takt bringen.

Dies ist nicht nur eine theoretische Kuriosität. Es bedeutet, dass wir beim Bau von Systemen mit mehreren KI-Agenten nicht einfach davon ausgehen können, dass „mehr Daten“ oder „bessere Daten“ die Lösung sind. Wir müssen extrem vorsichtig mit der „Beobachtungskarte“ sein – der spezifischen Art und Weise, wie die Realität in Text für die KI übersetzt wird. Denn wie diese Studie zeigt, ist die Übersetzung nicht nur ein Spiegel, sondern eine Linse, die die Realität, die sie zeigen soll, verzerrt.