🤖 AI

From Signals to Structure: How Memory Architecture Drives Language Emergence in LLM Agents

Diese Arbeit zeigt, dass in Lewis-Signalisierungsspielen zwischen LLM-Agenten persistente Speicherarchitekturen (wie etwa private Notizbücher) entscheidender als die Kanalkapazität für das Erreichen einer stabilen Sprachemergenz sind, da sie einen High-Capacity-Kollaps verhindern und es den Agenten ermöglichen, Konventionen für eine zuverlässige Koordination zu externalisieren.

Ursprüngliche Autoren: Yashar Talebirad, Eden Redman, Ali Parsaee, Osmar R. Zaiane

Veröffentlicht 2026-07-02

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yashar Talebirad, Eden Redman, Ali Parsaee, Osmar R. Zaiane

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich zwei Personen vor, die versuchen, eine Geheimsprache von Grund auf neu zu erfinden, aber sie können nicht direkt miteinander sprechen. Sie können nur kurze, kodierte Nachrichten senden. Wenn Person A eine Nachricht sendet, muss Person B erraten, über welches Objekt Person A spricht. Wenn sie es richtig errät, lernt sie ein wenig mehr; wenn sie falsch liegt, versucht sie es erneut. Dies ist der Kern des Experiments in dieser Arbeit: Können zwei KI-Agenten durch das bloße Spielen eines Ratespiels eine gemeinsame Sprache erfinden?

Die Forscher wollten wissen, was diesen KIs zum Erfolg verhilft. Sie testeten zwei Hauptasachen:

Die Größe des „Alphabets“ (Kanalkapazität): Wie viele verschiedene Symbole oder Codes können sie verwenden?
Das „Notizbuch“ (Gedächtnisarchitektur): Wie erinnern sie sich an das, was sie in vorangegangenen Runden gelernt haben?

Hier ist das, was sie herausgefunden haben, erklärt durch einfache Analogien.

Die zwei Arten von „Notizbüchern“

Die Forscher gaben den KIs unterschiedliche Möglichkeiten, ihre Historie zu speichern. Stellen Sie sich das wie zwei verschiedene Lerngewohnheiten vor:

Das „Rollende Fenster“ (Zustandslos/Stateless): Stellen Sie sich vor, Sie machen einen Test, dürfen aber nur die letzten 2-mal 10 Fragen anschauen, die Sie beantwortet haben. Sobald Sie Frage 21 beantworten, fällt Frage 1 von Ihrem Schreibtisch und ist für immer verloren. Sie müssen sich ausschließlich auf Ihr Kurzzeitgedächtnis der jüngsten Vergangenheit verlassen.
Das „Beständige Notizbuch“ (Scratchpad): Stellen Sie sich vor, Sie haben ein physisches Notizbuch, in das Sie Regeln schreiben wie „Roter Kreis = Code A“ und „Blaues Quadrat = Code B“. Jedes Mal, wenn Sie eine neue Runde spielen, können Sie in Ihrem Notizbuch lesen, es aktualisieren, falls Sie einen Fehler gemacht haben, und es für immer behalten. Sie verlieren Ihre alten Regeln nicht, nur weil Sie ein paar weitere Runden gespielt haben.

Die große Überraschung: Größer ist nicht immer besser (es sei denn, man hat ein Notizbuch)

1. Die „Sweet Spot“-Falle
In der Kommunikationstheorie gibt es die Idee, dass man perfekt sein sollte, wenn man exakt so viele Codes wie Objekte hat (8 Objekte = 8 Codes). Die Forscher dachten, dass dieser „Engpass“ der beste Ort für die KIs zum Lernen sein könnte.

Was tatsächlich geschah: Wenn die KIs genau 8 Codes für 8 Objekte hatten, scheiterten sie oft. Es war wie ein Seiltanz ohne Sicherheitsnetz. Wenn sie früh einen kleinen Fehler machten, konnten sie ihn nicht korrigieren, weil es keine „übrigen“ Codes gab, zu denen sie wechseln konnten. Es war ein Fragilitätspunkt, kein perfekter Ort.

2. Der „Nur-Gedächtnis“-Agent (Das rollende Fenster)
Dieser Agent versuchte zu lernen, indem er nur die letzten 20 Runden der Historie nutzte.

Das Problem: Als die Forscher ihm mehr Codes (ein größeres Alphabet) gaben, wurde er verwirrt. Es ist, als würde man versuchen, ein Telefonbuch auswendig zu lernen, indem man nur die letzte Seite betrachtet, die man umgeblättert hat. Wenn die Liste zu lang wird, vergisst der Agent die frühen Regeln.
Das Ergebnis: Dieser Agent kam mit einem mittelgroßen Alphabet gut zurecht, aber als das Alphabet riesig wurde, brach seine Leistung ein. Er konnte das gesamte „Vokabular“ nicht in seinem Kopf behalten.

3. Der „Notizbuch“-Agent (Beständiges Gedächtnis)
Dieser Agent konnte seine Regeln aufschreiben und behalten.

Das Ergebnis: Dieser Agent war der Champion. Es war ihm egal, ob das Alphabet klein oder riesig war. Da er aufschreiben konnte: „Okay, wir haben vereinbart, dass 'X' 'Roter Kreis' bedeutet“, konnte er eine stabile Sprache aufbauen.
Das Geheimnis: Das Vorhandensein von zusätzlichen Codes (Überschusskapazität) half diesem Agenten tatsächlich. Es gab ihnen Raum, Fehler zu machen und sie zu korrigieren, ohne das gesamte System zu beschädigen.

Das „Drift“-Problem

Selbst die Agenten mit Notizbüchern hatten einen Makel. Manchmal wurde der „Sender“-Agent gelangweilt oder verwirrt und begann, die Regeln mitten im Spiel zu ändern.

Die Analogie: Stellen Sie sich vor, Sie und ein Freund vereinbaren, dass „Apfel“ „Rot“ bedeutet. Dann, mitten im Spiel, entscheiden Sie: „Eigentlich bedeutet 'Apfel' heute 'Blau'“. Ihr Freund, der noch die alte Regel verwendet, wird verwirrt, und Sie beide beginnen zu scheitern. Das Papier nennt dies „Konventionsdrift“ (Convention Drift). Der Agent mit dem Notizbuch war gut darin zu lernen, aber manchmal war er zu bereit, seine eigene Geschichte umzuschreiben, was dazu führte, dass die Sprache gegen Ende des Spiels auseinanderbrach.

Die wichtigste Erkenntnis

Das Papier kommt zu dem Schluss, dass wie eine KI sich erinnert, wichtiger ist als wie viele Signale sie senden kann.

Wenn man einer KI einen riesigen Wortschatz gibt, aber keinen Weg, ihre Regeln zu speichern (kein Notizbuch), wird sie überfordert sein und alles vergessen.
Wenn man ihr ein Notizbuch gibt, kann sie ein riesiges Vokabular bewältigen und eine starke, gemeinsame Sprache aufbauen.
Die „perfekte“ Anzahl an Codes (die exakt der Anzahl der Objekte entspricht) ist eigentlich eine Falle, die das Lernen erschwert. Es ist besser, zusätzlichen Platz für Fehler zu haben.

Kurz gesagt: Um eine Sprache aufzubauen, braucht man einen Ort, um sie aufzuschreiben. Ohne ein beständiges Gedächtnis sind die Signale nur Rauschen; mit einem Notizbuch werden sie zu einer Sprache.

Technisches Resümee: Von Signalen zu Strukturen

Problemstellung
Diese Arbeit untersucht, wie LLM-Agenten (Large Language Model) innerhalb eines Lewis-Signalisierungsspiels eine gemeinsame Sprache aus dem Nichts erfinden. Während die bisherige Forschung zur emergenten Kommunikation sich weitgehend auf gradientengesteuerte neuronale Agenten und die Rolle der Kanalkapazität (Bandbreite) als Treiber für kompositorische Struktur konzentriert hat, verlagert diese Studie den Fokus auf die Speicherarchitektur. Die Autoren fragen, ob die Fähigkeit der Agenten, die Interaktionshistorie zu speichern und zu strukturieren (mittels persistenter Speicherung), ein kritischerer Bestimmungsfaktor für das Entstehen von Sprache ist als die reine Kapazität des Kommunikationskanals. Insbesondere stellen sie die informationstheoretische Hypothese infrage, wonach eine Kanalkapazität, die exakt der Anzahl der Referenten entspricht (der „Bottleneck“), als optimaler Druckpunkt für Kompositionalität fungiert.

Methodik
Die Autoren führten drei Studien unter Verwendung von gpt-5.4-mini als Basismodell für sowohl Sender- als auch Empfängeragenten durch. Die Agenten spielten ein referentielles Signalisierungsspiel über $N=200$ Runden, wobei der Sender ein Zielobjekt (aus einem Pool von 8 Objekten, definiert durch 3 binäre Merkmale) beobachtete und eine Nachricht mit fester Länge in symbolischer Form an den Empfänger übermittelte, der dann das Zielobjekt erraten musste.

Speicherarchitekturen: Die Studie verglich fünf verschiedene Speicherbedingungen, die alle ein gemeinsames Basiselement eines rollierenden Fensters der letzten 20 Interaktionen teilten:
1. Nur Speicher (Memory Only): Agenten verlassen sich ausschließlich auf das rollierende Fenster.
2. Scratchpad: Agenten führen ein persistentes, freiformatiges Notizbuch (das in jeder Runde überschrieben wird), um Konventionen zu verfolgen.
3. Codebuch (Codebook): Agenten führen eine Liste mit fester Kapazität (10 Slots), die vor Ort bearbeitet wird.
4. Codebuch Meta (Codebook Meta): Ein Codebuch plus eine persistente Meta-Notiz für Regeln auf Sprachebene.
5. Umgebungs-Board (Env Board): Eine von der Umgebung bereitgestellte, öffentliche Tabelle (kein privater Speicher).
Kanal-Konfigurationen: Die Kanalkapazität ( $C = |V|^L$ ) wurde durch Variation der Vokabulargröße ( $|V|$ ) und der Nachrichtenlänge ( $L$ ) im Bereich von 4 bis 125 untersucht.
Metriken: Die Leistung wurde durch die Genauigkeit in der Spätphase des Spiels (Runden 151–200), die topografische Ähnlichkeit (TopSim) zur Bewertung der kompositorischen Struktur, die gegenseitige Information (Mutual Information, MI) zwischen Signalpositionen und Objektmerkmalen sowie die Kollisionsraten gemessen.

Wesentliche Ergebnisse

Speicherarchitektur dominiert Kanalkapazität:
Die Studie zeigt, dass die Speicherarchitektur ein stärkerer Prädiktor für den Koordinationserfolg ist als die Kanalkapazität. Agenten mit einem persistenten privaten Notizbuch (Scratchpad) erreichten die zuverlässigste Koordination (Genauigkeit $0,867 \pm 0,023$ bei Kapazität 25) und vermieden den Leistungsabfall, der bei zustandslosen Agenten auftrat. Im Gegensatz dazu erreichten zustandslose Agenten (Memory Only) ihren Höhepunkt bei moderater Kapazität (25), verschlechterten sich jedoch signifikant bei einer Erhöhung der Kapazität auf 64, wo die Kollisionsraten 1,0 erreichten.
Der Bottleneck ist ein Fragilitätspunkt, kein Optimum:
Entgegen den Information-Bottleneck-Theorien, die nahelegen, dass eine Kanalkapazität, die der Anzahl der Referenten entspricht ( $C=8$ für 8 Objekte), eine optimale Kompression erzwingt, fanden die Autoren diesen Punkt als einen Fragilitätspunkt vor. Bei $C=8$ waren die Ergebnisse bimodal: Agenten entweder erfolgreich oder komplett gescheitert, ohne einen Mittelweg. Das Fehlen von Übersprungskapazität verhinderte, dass Agenten frühe Kollisionen reparieren konnten, was zu hoher Varianz und niedriger Durchschnittsleistung führte.
Übersprungskapazität stabilisiert Konventionen:
Agenten mit persistentem Speicher profitierten von Übersprungskapazität. Die Scratchpad-Bedingung zeigte eine zunehmende Genauigkeit mit wachsender Kapazität und erreichte 0,90 bei $C=125$ . Umgekehrt litten zustandslose Agenten unter „Code-Proliferation“ bei hohen Kapazitäten; das rollierende Fenster konnte nicht genügend Evidenz pro Code akkumulieren, während sich der Signalraum ausdehnte, was zu Ambiguität und einem Zusammenbruch der Leistung führte.
Konsolidierung vs. Historienlänge:
Studie 3 demonstrierte, dass das Scheitern zustandsloser Agenten bei hoher Kapazität ein Konsolidierungsproblem ist und nicht bloß ein Problem der Historienlänge. Die Vergrößerung des rollierenden Fensters für zustandslose Agenten von 20 auf 40 Runden verbesserte die Leistung bei $C=64$ nicht. Scratchpad-Agenten erreichten jedoch eine hohe Genauigkeit mit nur 10 Runden Kontext, was beweist, dass die Fähigkeit, gelernte Konventionen zu externalisieren und zu persistieren, der entscheidende Faktor ist und nicht das Volumen der rohen Historie.
Kompositionalität und Drift:
Obwohl eine hohe Genauigkeit erreicht wurde, waren die resultierenden Sprachen oft ganzheitliche Nachschlagewerte (Lookup Tables) statt voll kompositorischer Codes. Die Scratchpad-Bedingung zeigte eine teilweise Positionsstruktur, aber „Konventionsdrift“ (bei dem Sender Token mitten im Spiel neuen Objekten neu zuweisen) wurde als Ursache für Genauigkeitsrückgänge in der Spätphase identifiziert.

Bedeutung und Behauptungen
Das Paper behauptet, dass Kanalkapazität allein die Koordination nicht vorhersagen kann. Stattdessen hängt der Übergang von Signalen zu Sprache von der gemeinsamen Interaktion von Kanalkapazität und Speicherarchitektur ab.

Speicherarchitektur als Determinante: Die Struktur der intermediären Repräsentationen (wie Agenten das Gelernte speichern) bestimmt, ob die Interaktionshistorie in stabile Konventionen umgewandelt wird. Persistente Notizbücher ermöglichen es Agenten, Konventionen zu externalisieren, wodurch sie nicht mehr gezwungen sind, Codes in jeder Runde neu abzuleiten.
Neubewertung des Bottlenecks: Die Studie argumentiert, dass der „Bottleneck“ ( $C=8$ ) kein kompositorisches Optimum für LLM-Agenten ist, sondern ein Punkt der Fragilität, an dem frühe Fehler aufgrund mangelnder Redundanz permanent werden. Übersprungskapazität ist im Allgemeinen überlegen, da sie es den Agenten ermöglicht, Kollisionen zu reparieren und Konventionen zu stabilisieren.
Limitierungen: Die Autoren merken bescheiden an, dass die Ergebnisse aufgrund der Verwendung eines einzelnen Modells und begrenzter Seeds für einige Bedingungen eher indikativ als statistisch abschließend sind. Sie betonen, dass die beobachteten Kurven spezifische Eigenschaften von LLMs widerspiegeln könnten und nicht universelle Agentenverhaltensweisen darstellen, was auf zukünftige Arbeiten hindeutet, die Open-Weight-Modelle und größere kompositorische Räume testen sollten.

Zusammenfassend lässt sich sagen, dass das Paper postuliert, dass für LLM-Agenten Signale erst dann zu Sprache werden, wenn Kanalkapazität und Speicherarchitektur gemeinsam die Stabilisierung von Konventionen unterstützen. Ohrem fehlt die persistente Speicherung können Agenten keine stabilen Codes in Umgebungen mit hoher Kapazität aufrechterhalten, unabhängig von der theoretischen Optimalität der Kanaldurchsatzrate.

Die zwei Arten von „Notizbüchern“

Die große Überraschung: Größer ist nicht immer besser (es sei denn, man hat ein Notizbuch)

Das „Drift“-Problem

Die wichtigste Erkenntnis

Mehr davon