💬 NLP

Forgetting Our Way to Shared Meaning: Effects of Forgetting on Conceptual Alignment in a Non-Partnership Coordination Game

Diese Arbeit untersucht, wie Gedächtniseigenschaften, wie etwa Adaptivität und Degradation, die Entstehung und Entwicklung geteilter Bedeutung in einem Nicht-Partnerschafts-Koordinationsspiel beeinflussen, wobei sie aufzeigt, dass adaptive Agenten eine schnellere und genauere konzeptionelle Konvergenz erreichen, während nicht-adaptive Agenten Konvergenz früher wahrnehmen, und dass eine über die Zeit abnehmende Gewichtung neuer Informationen stabilere Übereinkünfte fördert.

Ursprüngliche Autoren: Landon Liu, Mary Kelly, Alan Tsang

Veröffentlicht 2026-07-14

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Landon Liu, Mary Kelly, Alan Tsang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich zwei Freunde vor, die versuchen zu vereinbaren, was eine „gute Woche“ eigentlich bedeutet. Für den einen bedeutet es, eine Katastrophe zu überstehen; für den anderen ist es, einen Pokal zu gewinnen. Sie reden zwar miteinander, aber sie können nicht ganz synchronisieren. Warum? Weil unsere Gehirne nicht einfach nur Festplatten sind; sie sind chaotische, sich ständig verändernde Landschaften, die vergessen und sich wandeln.

Dieses Paper führt ein digitales Experiment durch, um zu sehen, wie die Fähigkeit unseres Gedächtnisses, sich zu verändern (oder zu „vergessen“), beeinflusst, wie gut wir einander verstehen. Die Forscher bauten ein Computerspiel, in dem zwei Agenten (nennen wir sie Roboter A und Roboter B) versuchen, Objekte in Kategorien zu sortieren. Sie sprechen nicht darüber, wie man sortiert; sie rufen einfach nur Bezeichnungen aus. Wenn sie dieselbe Bezeichnung rufen, erhalten sie einen Punkt. Wenn sie unterschiedliche Bezeichnungen rufen, erhalten sie einen „Schmerzpunkt“, der darauf basiert, wie weit ihre mentalen Definitionen auseinanderliegen.

Die große Frage lautet: Hilft es, wenn das Gehirn super flexibel ist und mit jeder neuen Information schnell aktualisiert? Oder ist es besser, wenn das Gehirn ein wenig stur ist und an seinen alten Ideen festhält?

Die zwei Arten von Gehirnen

Die Forscher testeten zwei Hauptstrategien:

Das „adaptive“ Gehirn: Dieser Agent ist wie ein Schwamm. Jedes Mal, wenn er etwas Neues lernt, verschiebt er seine mentalen Kategorien ein kleines Stück, um die neue Information einzupassen. Er verändert sich ständig.
Das „nicht-adaptive“ Gehirn: Dieser Agent ist wie ein Stein. Er hat einen Plan und hält daran fest. Er verschiebt seine Kategorien nur ein winziges Stück, und im Laufe der Zeit wird er sogar noch weniger flexibel und verlernt schließlich, sich überhaupt zu verändern.

Die große Überraschung: Gefühl vs. Sein

Hier ist der Wendepunkt, den die Simulation enthüllte. Die „adaptiven“ Agenten waren tatsächlich besser darin, sich zu einigen. Sie erreichten schneller ein wahres, gemeinsames Verständnis, und ihre endgültigen mentalen Kategorien lagen näher beieinander. Sie waren diejenigen, die sich tatsächlich synchronisierten.

Aber hier ist der kuriose Teil: Die „adaptiven“ Agenten dachten, sie würden scheitern. Da sie ihre Ansichten ständig verschoben, hatten sie das Gefühl, nie ganz auf derselben Wellenlänge wie ihr Partner zu sein. Sie verwechselten ihre eigene Flexibilität mit einem Mangel an Übereinstimmung.

Die „nicht-adaptiven“ Agenten hingegen waren in Wirklichkeit schlechter darin, sich zu einigen. Ihre mentalen Kategorien blieben weiter auseinander. Aber sie dachten, sie wären perfekt. Weil sie so starr und stabil waren, glaubten sie, viel früher Einigkeit erzielt zu haben, als sie es tatsächlich hatten. Sie verwechselten ihre eigene Sturheit mit Harmonie.

Die Zahlen hinter der Magie

Die Forscher führten tausende dieser digitalen Gespräche durch. Sie fanden heraus, dass, wenn die „adaptiven“ Agenten ihre Erinnerungen um 10 % mit neuen Informationen aktualisieren durften, sie am Ende eine durchschnittliche Distanz zwischen ihren Konzepten von nur 0,62 erreichten. Wenn sie nur um 1 % aktualisierten, lag diese Distanz bei 0,747.

Im Gegensatz dazu waren die „nicht-adaptiven“ Agenten, deren Fähigkeit zur Veränderung im Laufe der Zeit um winzige Beträge wie 0,001 % oder 0,1 % abnahm, oft gar nicht in der Lage, sich jemals wirklich zu synchronisieren. Wenn ihre Fähigkeit zur Veränderung zu schnell zu schwach wurde, konnten sie ihre mentalen Kategorien nicht nah genug an die ihres Partners heranführen, egal wie viele Runden sie spielten.

Warum das wichtig ist (und was es nicht ist)

Die Autoren schlagen vor, dass dies erklären hilft, warum wir manchmal das Gefühl haben, mit Menschen zu sprechen, die „es nicht verstehen“, selbst wenn wir uns in unserem Verständnis eigentlich recht nah sind. Es deutet auch darauf hin, warum wir das Gefühl haben könnten, dass wir es verstehen, obwohl wir es nicht tun.

Entscheidend ist, dass die Autoren gegen die Idee argumentieren, dass wir ein perfektes, unveränderliches Gedächtnis benötigen, um Bedeutung zu teilen. Tatsächlich legt die Simulation nahe, dass zu viel Starrheit (wie bei den nicht-adaptiven Agenten) uns sogar daran hindern kann, jemals eine echte Übereinstimmung zu finden.

Die Autoren betonen jedoch vorsichtiggehend, dass dies lediglich eine Simulation ist. Sie haben noch nicht bewiesen, dass dies exakt so in echten menschlichen Gehirnen abläuft. Sie haben auch nicht getestet, was passiert, wenn die Agenten Teil eines riesigen, chaotischen sozialen Netzwerks sind; sie betrachteten nur Paare. Und sie haben nicht das Problem gelöst, wie man Künstliche Intelligenz (KI) intelligenter macht; sie haben lediglich gezeigt, dass KI-Modelle „nicht-adaptiv“ werden und bei der Abstimmung mit menschlichen Nutzern scheitern können, wenn sie aufhören, sich an neue Daten anzupassen und stattdessen einfach nur immer mehr Informationen anhäufen, ohne aktuelle Informationen stärker zu gewichten.

Wenn Sie also das nächste Mal das Gefühl haben, dass Sie und ein Freund auf unterschiedlichen Wellenlängen sind, denken Sie daran: Vielleicht sind Sie sich tatsächlich näher, als Sie glauben, und vielleicht ist Ihr Freund einfach nur zu stur, um es zu merken. Oder vielleicht sind Sie es selbst, der sich zu schnell verändert, um die Übereinstimmung direkt vor sich zu sehen. Der einzige Weg, es sicher zu wissen? Weiterreden, weiter anpassen und vielleicht finden Sie ja doch diesen idealen Punkt, an dem eine „gute Woche“ für Sie beide dasselbe bedeutet.

Technisches Resümee: Verzweiflung durch Vergessen auf dem Weg zur gemeinsamen Bedeutung

Problemstellung

Die Entstehung und Evolution von gemeinsamer Bedeutung in der Sprache beruhen darauf, dass Agenten lernen und sich auf konzeptionelle Kategorien einigen. Während bestehende Modelle der konzeptionellen Semantik oft Koordinationsspiele nutzen, setzen diese jedoch überwiegend ein „Partnerschafts“-Szenario voraus, in dem die Spieler identische Auszahlungen teilen. Diese Annahme erfasst nicht die Nuancen realer Sprachgemeinschaften, in denen Agenten über asymmetrische Informationen und unterschiedliche kognitive Architekturen verfügen. Darüber hinaus stehen Large Language Models (LLMs) vor theoretischen Herausforderungen hinsichtlich des „Symbol Grounding Problems“ (Problem der Symbolverankerung) und der informationellen Ineffizienz ihres Trainings im Vergleich zum menschlichen Lernen.

Dieses Paper adressiert die Lücke im Verständnis darüber, wie spezifische Merkmale des semantischen Gedächtnisses – insbesondere Vergessensraten, Grad der Verankerung (Entrenchment) und Plastizität – die Qualität, Stabilität und Geschwindigkeit der gemeinsamen Übereinkunft beeinflussen. Die Autoren untersuchen, wie die Adaptivität des Gedächtnisses sowohl die tatsächliche Konvergenz konzeptioneller Regionen als auch die wahrgenommene Konvergenz (die Überzeugung der Agenten, aufeinander abgestimmt zu sein) beeinflusst, insbesondere in Nicht-Partnerschafts-Settings, in denen die Auszahlungen nicht strikt geteilt werden.

Methodik

Die Autoren schlagen ein neuartiges Nicht-Partnerschafts-Koordinationsspiel vor, um konzeptionelle Ausrichtung zu modellieren. Das Framework nutzt Agentenbasierte Modellierung mit den folgenden Kernkomponenten:

Konzeptionelle Repräsentation: In Anlehnung an Gärdenfors (2014) wird Bedeutung als „konzeptionelle Regionen“ innerhalb eines euklidischen Raums ( $R^n$ ) dargestellt. Diese Regionen sind konvexe Subräume, die durch Voronoi-Tessellierungen um konzeptionelle Prototypen (Zentroide) gebildet werden.
Spielmechanik:
- Zwei Agenten ( $p_1, p_2$ ) starten mit zufällig generierten Gedächtnissen, die aus Sätzen von Prototypen bestehen.
- In jeder Runde wird ein Objekt (ein Vektor in $R^n$ ) präsentiert.
- Die Agenten klassifizieren das Objekt, indem sie das Signal verkünden, das dem nächsten Prototyp entspricht.
- Auszahlungsstruktur: Im Gegensatz zu Partnerschaftsspielen werden die Auszahlungen nicht geteilt. Wenn die Signale übereinstimmen, erhalten die Agenten eine hohe Auszahlung. Wenn die Signale voneinander abweichen, wird die Auszahlung eines Agenten durch die Distanz zwischen dem Objekt und der Grenze des durch den anderen Spieler signalisierten Konzepts innerhalb seines eigenen Gedächtnisraums bestimmt.
Gedächtnis-Update-Strategien:
- Adaptive Spieler: Aktualisieren ihre Prototypen, indem sie diese um einen festen Prozentsatz ( $a$ ) in Richtung des Objekts bewegen, wann immer eine Diskrepanz auftritt.
- Nicht-adaptive Spieler: Besitzen einen Degradationsparameter ( $d$ ). Ihr Adaptivitätsgrad nimmt im Zeitverlauf ab ( $a' = a \times (1-d)$ ), was die Degradation des Gedächtnisses oder reduzierte Plastizität simuliert.
Konvergenzmetriken:
- Tatsächliche Konvergenz: Gemessen durch die durchschnittliche euklidische Distanz zwischen den entsprechenden Prototypen der beiden Agenten, die unter einen Toleranzschwellenwert ( $\delta$ ) fällt.
- Wahrgenommene Konvergenz: Gemessen durch die Produktion übereinstimmender Signale durch die Agenten über eine aufeinanderfolgende Anzahl von Runden ( $\alpha$ ), unabhängig von der tatsächlichen Distanz zwischen ihren Prototypen.

Simulationen wurden mit variierenden Prototypenanzahlen (3, 5, 10), Adaptivitätsstufen (1 %, 5 %, 10 %) und Degradationsraten für nicht-adaptive Agenten durchgeführt.

Zentrale Beiträge

Nicht-Partnerschafts-Spielmodell: Das Paper führt ein spieltheoretisches Framework ein, in dem Agenten keine gemeinsamen Auszahlungen haben, was eine realistischere Darstellung des epistemischen Zugangs und der Divergenz zwischen tatsächlicher und wahrgenommener Ausrichtung ermöglicht.
Unterscheidung zwischen tatsächlicher und wahrgenommener Konvergenz: Die Studie trennt explizit den objektiven Zustand der konzeptionellen Ausrichtung vom subjektiven Glauben an eine Ausrichtung und zeigt auf, dass sich diese beiden Metriken basierend auf Gedächtnisstrategien signifikant unterscheiden können.
Analyse der Gedächtnis-Adaptivität: Die Autoren modellieren die Zielkonflikte zwischen hoher Adaptivität (schnelles Update) und Nicht-Adaptivität (Stabilität mit Degradation) und liefern eine theoretische Basis dafür, wie Gedächtnismerkmale die Sprachevolution beeinflussen, ohne auf komplexen Austausch von Meta-Informationen angewiesen zu sein.

Ergebnisse

Kontrafaktische Simulationen lieferten die folgenden Erkenntnisse:

Adaptive Spieler:
- Erreichten die tatsächliche Konvergenz schneller als nicht-adaptive Spieler.
- Endeten mit näher beieinander liegenden finalen konzeptionellen Regionen (geringere mittlere Distanz zwischen den Prototypen).
- Unterschätzten ihre Abstimmung; sie neigten weniger dazu, eine frühe Konvergenz wahrzunehmen, da sie die Instabilität ihres eigenen Update-Prozesses oft mit einem Mangel an Abstimmung mit ihrem Partner verwechselten.
Nicht-adaptive Spieler:
- Erreichten die tatsächliche Konvergenz später und mit einer größeren finalen Distanz zwischen den Prototypen im Vergleich zu adaptiven Agenten.
- Überschätzten ihre Abstimmung; sie neigten eher dazu, eine frühe Konvergenz wahrzunehmen.
- Ihre individuellen Lernstrategien waren stabiler, was dazu führte, dass sie Signalübereinstimmungen als erfolgreiche Ausrichtung interpretierten, selbst wenn die tatsächlichen konzeptionellen Distanzen noch größer waren.
Einfluss des Adaptivitätsgrades: Höhere Adaptivität (z. B. 10 %) führte zu engeren finalen konzeptionellen Regionen im Vergleich zu geringerer Adaptivität (z. B. 1 %).
Einfluss der Degradation: Bei nicht-adaptiven Agenten hatte die Rate der Gedächtnisdegradation einen vernachlässigbaren Effekt auf den Zeitpunkt der Konvergenz, beeinflusste jedoch die finale Distanz zwischen den Prototypen. Eine geringere Degradation ermöglichte eine etwas bessere finale Ausrichtung, aber sobald die Adaptivität vernachlässigbar wurde, konnten die Agenten sich nicht mehr effektiv an die Position ihres Partners anpassen.

Bedeutung und Behauptungen

Das Paper behauptet, dass die Adaptivität des semantischen Gedächtnisses ein kritischer Faktor für die Entstehung und Evolution gemeinsamer Bedeutung ist. Die Autoren argumentieren:

Kognitive Wurzeln der Fehlabstimmung: Unterschiede in der Bedeutung und die Wahrnehmung dieser Unterschiede in Sprachgemeinschaften können aus kognitiven Merkmalen (Gedächtnisadaptivität) resultieren und nicht allein aus sozialen oder strukturellen Faktoren.
Implikationen für LLMs: Die Ergebnisse legen nahe, dass Trainingsstrategien für LLMs, die neue Informationen mit dem gleichen Gewicht wie alte Informationen behandeln (nicht-adaptive Aggregation), zunehmend nicht-adaptive Modelle hervorbringen können. Dies steht im Gegensatz zum menschlichen Lernen, das eine Präferenz für neue Informationen zeigt. Das Paper postuliert, dass die Wahl zwischen adaptiven und nicht-adaptiven Gedächtnis-Update-Strategien signifikante Konsequenzen für die Stabilität und Ausrichtung künstlicher Agenten hat.
Wahrnehmung vs. Realität: Die Studie hebt ein Paradoxon hervor, bei dem Agenten, die objektiv besser abgestimmt sind (adaptiv), weniger Vertrauen in ihre gemeinsame Bedeutung haben können, während Agenten, die objektiv weniger abgestimmt sind (nicht-adaptiv), aufgrund der Stabilität ihrer internen Strategien mehr Vertrauen empfinden können.

Die Autoren kommen zu dem Schluss, dass das Verständnis dieser Gedächtnisdynamiken essenziell ist, um zu modellieren, wie Menschen Bedeutung erlernen, und um gesellschaftliche Probleme wie Polarisierung und Desinformation anzugehen, bei denen das Zusammenspiel von Gedächtnisadaption und sozialer Konnektivität die Geschwindigkeit und Qualität des gemeinsamen Verständnisses bestimmt.