💬 NLP

Simulating Human Memory with Language Models

Dieser Artikel zeigt, dass zwar Out-of-the-Box-Sprachmodelle im Vergleich zu Menschen über unrealistisch zuverlässige Erinnerungen verfügen, dass jedoch durch den Einsatz spezifischer Prompting-Strategien und Gedächtnisverdichter ein menschenähnliches Vergessen herbeigeführt werden kann, wodurch ihre Wirksamkeit als Benutzersimulatoren in pädagogischen Kontexten verbessert wird.

Ursprüngliche Autoren: Qihan Wang, Nicholas Tomlin, Michael Hu, Brian Dillon, Tal Linzen

Veröffentlicht 2026-05-26

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Qihan Wang, Nicholas Tomlin, Michael Hu, Brian Dillon, Tal Linzen

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, wie ein Schüler zu sein, damit Sie Ihre Lehrmethoden an ihm testen können, bevor Sie sie an echten Menschen ausprobieren. Sie möchten doch, dass der Roboter Dinge vergisst, genau wie ein Mensch, oder? Wenn der Roboter alles perfekt erinnert, ist er kein sehr guter Testsubjekt für einen menschlichen Lehrer.

Dieser Artikel handelt von einem Team von Forschern, die versuchten, einen „Schüler-Roboter" zu bauen, der Dinge so vergisst, wie Menschen es tun. Sie entdeckten, dass Standard-KI-Modelle tatsächlich zu gut darin sind, sich Dinge zu merken, und sie mussten spezielle „Vergessensmaschinen" bauen, um das zu korrigieren.

Hier ist die Geschichte ihrer Erkenntnisse, aufgeteilt in einfache Teile:

1. Das Problem: Der Roboter mit dem perfekten Gedächtnis

Die Forscher richteten eine Reihe von Gedächtnistests sowohl für Menschen als auch für KI-Modelle ein. Denken Sie an diese Tests wie folgt:

Das Zahlen-Spiel: Eine Liste von Zahlen merken und sie rückwärts wiederholen.
Das Geschichtenspiel: Eine kurze Geschichte lesen und sie wortwörtlich nacherzählen.
Das Karten-Spiel: Eine Stadtkarte ansehen und dann Fragen dazu beantworten, wie man von Punkt A nach Punkt B kommt, ohne die Karte mehr anzusehen.

Das Ergebnis: Die Menschen kamen ganz gut zurecht. Sie erinnerten sich an etwa 7 Zahlen, behielten einige Details der Geschichte und kannten die Karte ziemlich gut. Aber die KI-Modelle? Sie waren Superhelden. Sie erinnerten sich perfekt an 20 Zahlen, rezitierten die gesamte Geschichte ohne einen einzigen Tippfehler und navigierten fehlerfrei durch die Karte.

Selbst als die Forscher der KI sagten: „Hey, tu so, als wärst du ein müder und vergesslicher Mensch," ignorierte die KI den Rat einfach und erinnerte sich weiterhin perfekt an alles. Es ist, als würde man einer Kamera sagen, sie solle ein unscharfes Foto machen; die Kamera macht einfach weiterhin scharfe, hochauflösende Bilder, weil genau das ist, wofür sie gebaut wurde.

2. Die Lösung: Der „Vier-Fach"-Rucksack

Die Forscher erkannten, dass es nicht funktionierte, die KI einfach nur zu bitten, etwas zu vergessen. Sie mussten den „Rucksack" der KI verändern.

In der Psychologie gibt es eine berühmte Idee, dass unser Kurzzeitgedächtnis wie ein Rucksack mit nur vier Fächern (oder „Chunks") ist. Wenn Sie versuchen, mehr als vier Dinge hineinzupacken, fallen die ältesten wieder heraus.

Also bauten die Forscher ein spezielles Werkzeug namens KOMPRAKTOR.

Wie es funktioniert: Bevor die KI versucht, eine Frage zu beantworten, wird sie gezwungen, alle Informationen, die sie gerade gelesen hat, in einen „Rucksack" mit nur vier Fächern zu packen.
Der Haken: Sie muss die Informationen zusammenfassen, um hineinzupassen. Wenn die Geschichte lang ist, muss sie die Details in vier winzige Boxen quetschen. Alles, was nicht hineinpasst, wird weggeworfen.
Das Ergebnis: Plötzlich fing die KI an, Dinge zu vergessen! Sie machte Fehler. Sie vergaß Teile der Karte. Sie verwechselte Zahlen. Sie fing endlich an, sich wie ein menschlicher Schüler zu verhalten, der Mühe hat, mitzukommen.

3. Der „Fake"-Mensch vs. der „echte" Mensch

Die Forscher versuchten ein paar weitere Tricks, um die KI menschlich wirken zu lassen:

Der „Schauspiel"-Trick: Sie gaben der KI Beispiele von Menschen, die Fehler machen, und sagten: „Kopiere das."
- Ergebnis: Es funktionierte nicht gut. Die KI konnte den Stil eines Fehlers kopieren, aber sie vergaß die Information tatsächlich nicht. Es war wie ein Schauspieler, der so tut, als würde er stolpern, aber trotzdem perfekt läuft.
Der „Zusammenfassung"-Trick: Sie baten die KI, einfach eine Zusammenfassung des Textes zu schreiben und daraus zu antworten.
- Ergebnis: Das half ein wenig, aber der KOMPRAKTOR (der Vier-Fach-Rucksack) war der klare Gewinner. Er zwang die KI, tatsächlich Informationen zu verlieren, genau das, was echte Menschen tun.

4. Warum ist das wichtig? (Der „Lehr"-Test)

Um zu sehen, ob dieser neue „vergessende KI" tatsächlich nützlich war, führten die Forscher einen abschließenden Test durch. Sie taten so, als wäre die KI ein Schüler in einem Unterricht.

Sie zeigten der KI (und echten Menschen) verschiedene Versionen einer Biografie:

Version A: Geschrieben in einfacher, leichter Sprache.
Version B: Geschrieben in sehr komplexer, schwerer Sprache.
Version C: Voll von wiederholten Fakten (redundant).
Version D: Voll von ablenkenden, nutzlosen Informationen.

Sie fragten: „Welche Version der Geschichte wird ein menschlicher Schüler am besten behalten?"

Die Standard-KI (perfektes Gedächtnis): Sagte: „Oh, der Mensch wird alle perfekt behalten! Es spielt keine Rolle, welche wir verwenden." (Das ist falsch, weil Menschen sich tatsächlich mit komplexem oder ablenkendem Text schwer tun).
Die KOMPRAKTOR-KI (menschähnliches Gedächtnis): Sagte: „Der Mensch wird sich mit der komplexen und der ablenkenden Version schwer tun, aber mit der einfachen oder der wiederholten wird er ganz gut zurechtkommen."

Die KOMPRAKTOR-KI war viel besser darin vorherzusagen, was ein echter Mensch bewältigen konnte. Sie erkannte, dass wenn man einem Menschen zu viel Schwieriges gibt, er es vergessen wird.

Das Fazit

Der Artikel kommt zu dem Schluss, dass Sie, wenn Sie KI verwenden möchten, um Menschen zu simulieren (zum Beispiel, um neue Lehrmethoden zu testen oder bessere Benutzeroberflächen zu entwerfen), nicht einfach eine Standard-KI verwenden können. Standard-KIs sind zu perfekt.

Sie müssen künstliche Einschränkungen in sie einbauen – wie einen Rucksack mit nur vier Fächern –, um sie Dinge so vergessen zu lassen, wie wir es tun. Nur dann können sie nützliche Stellvertreter für echte Menschen sein.

Was der Artikel nicht sagt:

Er sagt nicht, dass dies Gedächtnisverlust bei Menschen heilen wird.
Er sagt nicht, dass diese Roboter menschliche Lehrer ersetzen werden.
Er behauptet nicht, dass die KI nun „perfekt" menschlich ist; selbst die beste „vergessende" KI macht immer noch andere Arten von Fehlern als Menschen. Sie ist nur viel näher dran als zuvor.

Technische Zusammenfassung: Simulation menschlichen Gedächtnisses mit Sprachmodellen

Problemstellung

Während große Sprachmodelle (LLMs) in vielen Benchmarks menschliche Leistungsniveaus erreicht oder übertroffen haben, weichen ihre Gedächtnisfähigkeiten erheblich von der menschlichen Kognition ab. Aktuelle Frontier-Modelle verfügen über eine nahezu perfekte, wörtliche Erinnerung langer Kontexte, whereas menschliches Gedächtnis durch systematische Einschränkungen, Vergessen und Rekonstruktionsfehler gekennzeichnet ist. Diese Diskrepanz macht Standard-LLMs zu schlechten „Nutzer-Simulatoren" für Anwendungen, die realistisches menschliches Verhalten erfordern, wie etwa das Trainieren von KI-Assistenten zur Zusammenarbeit mit Menschen, das Simulieren von Schülern für Bildungstools oder die Modellierung von Bevölkerungsdynamiken. Das Kernproblem, das adressiert wird, besteht darin, wie LLMs so eingeschränkt werden können, dass sie menschliche Gedächtnisbeschränkungen, insbesondere hinsichtlich der Arbeitsgedächtniskapazität und Vergessensmuster, aufweisen, um ihre Nützlichkeit als Simulatoren zu verbessern.

Methodik

Der Benchmark für die Simulation menschlichen Gedächtnisses

Die Autoren entwickelten einen Benchmark, der aus zehn Gedächtnisaufgaben besteht, die in der kognitiven Wissenschaft und psychologischen Literatur verankert sind. Diese Aufgaben bewerten verschiedene Gedächtnisdimensionen:

Arbeitsgedächtnis: Ziffernspanne, umgekehrte Ziffernspanne, N-back, Worterkennung und Variablenzuordnung.
Episodisches/Langzeitgedächtnis: Faktenbasierte QA, Narrativen-QA und freies Abrufen von Narrativen.
Relationales/Räumliches Gedächtnis: Kartenaufgabe und Handwerksaufgabe.

Menschliche Daten wurden von $N=50$ Teilnehmern über Prolific gesammelt, die diese Aufgaben unter zeitlichen Beschränkungen bearbeiteten, die standardpsychologischen Experimenten ähneln.

Evaluierungsmetriken

Um zu quantifizieren, wie genau ein LLM menschliches Gedächtnis simuliert, verwenden die Autoren die Wasserstein-Distanz (Earth Mover's Distance) zwischen der Verteilung menschlicher Scores und Modell-Scores für jede Aufgabe. Diese Metrik wird normalisiert und in einen „Humanlikeness"-Score ( $1 - W_1$ ) umgewandelt, wobei höhere Werte eine bessere Übereinstimmung mit den Verteilungen menschlicher Leistung anzeigen.

Experimentelle Bedingungen

Die Studie evaluierte neun LLMs (einschließlich GPT-5.4, Claude Opus 4.6, Llama 3-Varianten und Qwen3-Varianten) unter vier distincten Bedingungen:

TASKPR (Task Prompt): Der Basis-Prompt, der die Aufgabe beschreibt, ohne Bezug auf die Simulation menschlichen Verhaltens.
HUMPR (Human Prompt): Weist das Modell explizit an, einen menschlichen Teilnehmer zu simulieren, einschließlich spezifischer zeitlicher Beschränkungen.
MEMPR (Memory Prompt): Ähnlich wie HUMPR, erinnert das Modell aber explizit daran, dass Menschen ein begrenztes Gedächtnis haben und Fehler machen.
COMPACTOR: Ein agentenbasierter Ansatz, der eine menschliche Arbeitsgedächtnis-Engstelle implementiert. Dieser Agent verwendet einen Key-Value-Speicher mit einer harten Kapazität von $K=4$ Einträgen (was der „magischen Zahl 4" im menschlichen Kurzzeitgedächtnis entspricht). Das Modell muss den Kontext während einer „Encode"-Phase in diese vier Blöcke zusammenfassen und Anfragen während einer „Recall"-Phase ausschließlich unter Verwendung dieser gespeicherten Blöcke beantworten.

Ablation und Analyse

Die Autoren untersuchten zudem:

In-Context Learning (ICL): Bereitstellung von Few-Shot-Beispielen menschlicher Leistung (in-domain vs. out-of-domain).
Fehlermuster: Analyse, ob Modellfehler (z. B. Trunkierung vs. Substitution) menschlichen Fehlermustern entsprechen.
Downstream-Anwendung: Ein Proof-of-Concept-Experiment in einem pädagogischen Setting, bei dem Simulatoren Dokumentvarianten (die sich im Leseniveau, in Redundanz und Ablenkungsfaktoren unterscheiden) danach rangieren müssen, welche für einen menschlichen Lernenden am einprägsamsten wären.

Hauptergebnisse

1. Standardmodelle weichen von Menschen ab

Unter der TASKPR-Bedingung zeigten alle evaluierten Modelle über alle zehn Aufgaben hinweg eine nahezu deckenartige Leistung, die die menschlichen Durchschnitte weit übertraf (z. B. Erinnerung an Ziffernspannen von 20+ gegenüber einem menschlichen Durchschnitt von ~7). Dies bestätigt, dass Out-of-the-Box-LLMs aufgrund ihrer überlegenen Gedächtnisleistung keine geeigneten menschlichen Simulatoren sind.

2. Prompting allein ist unzureichend

Das explizite Auffordern von Modellen, Menschen zu simulieren (HUMPR), oder das Erinnern an Gedächtnisgrenzen (MEMPR) führte zu begrenzten und inkonsistenten Verbesserungen.

Für die meisten Aufgaben war die Änderung des Humanlikeness-Werts ( $\Delta$ ) nahe null oder negativ.
MEMPR zeigte einige Verbesserungen bei spezifischen Aufgaben wie dem freien Abrufen von Narrativen, scheiterte jedoch daran, konsistent menschenähnliches Vergessen über den gesamten Satz hinweg zu induzieren.
Dies legt nahe, dass einfache Anweisungen nicht ausreichen, um die inhärente Fähigkeit des Modells zur perfekten Erinnerung zu überwinden.

3. Explizite Gedächtnisbeschränkungen (COMPACTOR) verbessern die Übereinstimmung

Der COMPACTOR-Agent, der eine strukturelle Engstelle von 4 Gedächtnisblöcken erzwingt, erzeugte signifikant menschenähnlichere Score-Verteilungen als Prompting allein.

Arbeitsgedächtnisaufgaben: COMPACTOR erzielte die größten Gewinne bei Aufgaben wie Ziffernspanne, umgekehrte Ziffernspanne und N-back. Beispielsweise verbesserte COMPACTOR im Task der Ziffernspanne den Humanlikeness-Wert für bestimmte Modelle um bis zu +0,61.
Langzeitgedächtnis: Die Verbesserungen waren bei Aufgaben wie Fakten-QA variabler, blieben aber im Vergleich zu den Baselines allgemein positiv.
Ablation: COMPACTOR schnitt besser ab als ein einfacherer „Zusammenfassungs"-Agent, der eine einzige freie Prosa-Zusammenfassung erzeugte. Dies zeigt, dass die strukturierte, kapazitätsbegrenzte Natur des Gedächtnismoduls entscheidend ist, nicht nur der Akt der Zusammenfassung.

4. Fehlermuster bleiben divergent

Trotz verbesserter Score-Verteilungen unterschied sich die Art der Fehler zwischen Menschen und Modellen.

Menschen neigen dazu, zufällige Fehler zu machen oder spezifische Items zu vergessen.
MEMPR-Modelle reproduzierten Sequenzen oft mit ein oder zwei falschen Ziffern in der Mitte.
COMPACTOR-Modelle sagten häufig abgeschnittene Versionen von Sequenzen voraus.
Bedingte Fehlerraten ( $p(\text{err} | \text{prev wrong})$ ) waren signifikant unterschiedlich, was darauf hindeutet, dass COMPACTOR zwar das Kapazitäts-Limit nachahmt, aber den Mechanismus des menschlichen Vergessens noch nicht vollständig repliziert.

5. Downstream-Anwendung: Pädagogisches Reranking

Bei der Proof-of-Concept-pädagogischen Aufgabe waren Modelle mit COMPACTOR besser darin vorherzusagen, welche Dokumentvarianten Menschen am besten behalten würden, verglichen mit Baseline-Modellen.

Baseline-Modelle sagten voraus, dass Schüler alle Fragen korrekt beantworten würden, unabhängig von der Schwierigkeit des Dokuments.
COMPACTOR-Modelle identifizierten effektiver, dass Dokumente mit hoher Redundanz leichter zu merken waren und solche mit Ablenkungsfaktoren schwieriger.
Selbst die am besten performierenden Modelle erreichten jedoch bei paarweisem Reranking weniger als 70 % Genauigkeit, was auf erheblichen Verbesserungsbedarf hinweist.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass:

Aktuelle LLMs im Gedächtnis „übermenschlich" sind: Sie scheitern daran, menschliche Nutzer effektiv zu simulieren, weil sie nicht vergessen.
Prompting unzureichend ist: Ein Modell lediglich zu bitten, „menschlich" zu sein, induziert keine menschenähnlichen kognitiven Einschränkungen.
Architektonische Beschränkungen notwendig sind: Die Implementierung expliziter, kapazitätsbegrenzter Gedächtnismodule (wie des 4-Block-COMPACTOR) ist eine effektivere Strategie, um das Modellverhalten mit menschlichen Gedächtnisverteilungen in Einklang zu bringen.
Praktischer Nutzen: Simulatoren mit menschenähnlichen Gedächtnisbeschränkungen sind für Downstream-Aufgaben nützlicher, wie etwa die Optimierung von Bildungsmaterialien, da sie die kognitive Belastung und die Behaltensgrenzen menschlicher Lernender realistisch modellieren können.

Die Autoren schließen, dass ihre Methoden (COMPACTOR) zwar einen bedeutenden Schritt nach vorne darstellen, aber nur ein „erster Schritt" sind. Die detaillierten Fehlermuster der Modelle unterscheiden sich noch von denen der Menschen, und zukünftige Arbeiten sind erforderlich, um den Kompressionsmechanismus zu verfeinern und andere kognitive Domänen (z. B. Schlussfolgern) zu erforschen, um wirklich realistische Nutzer-Simulatoren zu entwickeln. Die Arbeit veröffentlicht die Benchmark-Daten und den Code, um weitere Forschung in diesem Bereich zu erleichtern.