The role of System 1 and System 2 semantic memory structure in human and LLM biases

Titel

Die Rolle der semantischen Gedächtnisstrukturen von System 1 und System 2 bei menschlichen und LLM-Bias

1. Problemstellung

Implizite Vorurteile (Implicit Bias) stellen sowohl für Menschen als auch für Large Language Models (LLMs) ein erhebliches gesellschaftliches Risiko dar. Die duale Prozess-Theorie (Dual Process Theory) postuliert, dass Vorurteile primär aus dem schnellen, assoziativen System 1 entstehen, während das langsamere, deliberative System 2 zur Regulierung dieser Vorurteile beiträgt.
Bisher fehlt jedoch ein mechanistisches Verständnis dafür, wie diese beiden Systeme auf Ebene der Repräsentationsstrukturen (semantisches Gedächtnis) funktionieren und wie sie sich bei LLMs im Vergleich zu Menschen verhalten. Die zentrale Forschungsfrage lautet: Unterscheiden sich die semantischen Gedächtnisstrukturen von Menschen und LLMs, und wie beeinflussen diese Strukturen die Entstehung und Regulierung von Geschlechterstereotypen?

2. Methodik

A. Modellierung als Multilayer-Semantische Netzwerke

Die Autoren modellieren System 1 und System 2 als verschiedene Schichten in einem Multilayer-Netzwerk, basierend auf vergleichbaren Datensätzen von Menschen und zwei Open-Source-LLMs (Mistral-7b und Llama3-8b).

Das Netzwerk besteht aus drei Schichten:

1. Assoziative Schicht (System 1-Proxy):
   • Quelle: Freie Assoziationen (Free Associations).
   • Daten: SWOW-Dataset (Small World of Words) für Menschen; LWOW-Dataset (LLM World of Words) für LLMs.
   • Struktur: Knoten sind Wörter, Kanten repräsentieren Assoziationen, gewichtet nach Häufigkeit. Dies simuliert implizites, erfahrungsbasiertes Wissen.
2. Definitions-Schicht (System 2-Proxy):
   • Quelle: Wörterbuchdefinitionen.
   • Daten: WordNet-Definitionen für Menschen; vom LLM generierte Definitionen basierend auf Wortbedeutungen für die Modelle.
   • Struktur: Verknüpfung von Wörtern mit den Begriffen in ihrer Definition. Dies repräsentiert logische, feature-basierte Konzepte.
3. Kategorische Schicht (System 2-Proxy):
   • Quelle: Taxonomische Relationen (Synonyme, Antonyme, Hyperonyme, Hyponyme).
   • Daten: WordNet-Relationen für Menschen; vom LLM generierte Relationen.
   • Struktur: Verknüpfung basierend auf logischen Kategorien und Hierarchien.

B. Strukturelle Reduzierbarkeit (Structural Reducibility)

Um zu prüfen, ob die Schichten unterschiedliche Formen von konzeptuellem Wissen repräsentieren oder redundante Informationen enthalten, wurde eine strukturelle Reduzierbarkeitsanalyse durchgeführt.

• Verfahren: Eine informationstheoretische Methode (basierend auf relativer Entropie und Laplace-Matrizen), die schrittweise Schichten zusammenführt.
• Ziel: Bestimmung der optimalen Konfiguration. Bleiben alle Schichten getrennt (irreduzibel), enthalten sie einzigartige strukturelle Informationen. Werden Schichten zusammengeführt, ohne großen Informationsverlust, sind sie strukturell überlappend/redundant.

C. Messung von Implizitem Bias (Spreading Activation)

Die Autoren nutzten einen Spreading-Activation-Algorithmus (simuliert semantische Priming), um die Stärke von Assoziationen zwischen Priming-Wörtern (Geschlechtsidentitäten: man, woman, father, mother etc.) und Zielwörtern (172 Begriffe in vier Kategorien: Eigenschaften, Beruf/Haushalt, Kunst/Wissenschaft, Berufe) zu messen.

• Metrik: Effektstärken (Effect Sizes) wurden berechnet, indem die Aktivierungslevel von konsistenten (z.B. Man-Doctor) vs. inkonsistenten (z.B. Woman-Doctor) Paaren verglichen wurden.
• Hypothese: Bias sollte in der assoziativen Schicht (System 1) stärker sein als in den strukturierten Schichten (System 2).

3. Wichtige Beiträge

1. Vergleichsrahmen: Etablierung eines einheitlichen Rahmens, der menschliches kognitives Gedächtnis und LLM-Repräsentationen direkt über Multilayer-Netzwerke vergleicht.
2. Strukturelle Irreduzibilität: Nachweis, dass menschliches semantisches Gedächtnis aus strukturell irreduziblen, unterschiedlichen Schichten besteht, während LLMs eine partielle Redundanz aufweisen.
3. Bias-Regulation durch Struktur: Demonstration, dass die Struktur des semantischen Gedächtnisses in Menschen direkt mit der Regulierung von Bias korreliert (System 2 ist weniger voreingenommen), was bei LLMs nicht der Fall ist.

4. Ergebnisse

A. Strukturelle Reduzierbarkeit

• Menschen: Das Netzwerk ist irreduzibel. Das Zusammenführen beliebiger Schichten führt zu einem signifikanten Verlust an struktureller Information. Dies bestätigt, dass assoziatives, definitions-basiertes und kategorisches Wissen in Menschen als distincte, nicht überlappende Strukturen organisiert sind.
• LLMs (Mistral & Llama3): Das Netzwerk ist partiell reduzierbar. Die assoziative und die kategorische Schicht können zusammengeführt werden, ohne wesentliche Informationsverluste.
  • Interpretation: LLMs unterscheiden nicht klar zwischen reinen Assoziationen und logischen Kategorien. Die von LLMs generierten "kategorischen" Relationen sind oft eher assoziativer Natur (z.B. geben LLMs für "Stuhl" ein assoziatives Antonym wie "Tisch" aus, statt zu erkennen, dass es kein Antonym gibt).

B. Beziehung zwischen Struktur und Bias

• Menschen: Es zeigt sich ein konsistentes Muster:
  • Die assoziative Schicht (System 1) weist die stärksten geschlechterstereotypen Assoziationen auf.
  • Die Definitions- und Kategorischen Schichten (System 2) zeigen signifikant reduzierte Bias.
  • Dies gilt über alle vier Stereotyp-Themen hinweg stabil.
• LLMs: Es zeigt sich kein konsistentes Muster:
  • Die Bias-Level variieren stark zwischen den Themen und Schichten ohne erkennbare Struktur.
  • Es gibt keine systematische Reduktion von Bias in den System-2-ähnlichen Schichten.
  • Die Bias-Ausdrucksweise scheint zufällig und instabil zu sein, abhängig vom spezifischen Thema, nicht von der zugrundeliegenden Wissensstruktur.

C. Asymmetrie bei Menschen

In der kategorischen Schicht der Menschen zeigten weibliche Zielwörter negative Effektstärken (stereotype-inkonsistente Assoziationen), während männliche Zielwörter positive Werte aufwiesen. Dies deutet darauf hin, dass taxonomisches Wissen (z.B. in WordNet) historisch von männlichen Default-Kategorien dominiert wird, was weibliche Stereotype teilweise kompensiert, aber männliche Bias in der Hierarchie erhält.

5. Bedeutung und Fazit

Die Studie liefert fundamentale Erkenntnisse für die Kognitionswissenschaft und die KI-Forschung:

1. Unterschiedliche Kognitionsarchitekturen: Menschen verfügen über strukturell getrennte Gedächtnissysteme für assoziatives und regelbasiertes Wissen. LLMs (zumindest die getesteten) scheinen diese Unterscheidung nicht auf der Repräsentationsebene zu besitzen; ihr "System 2" ist strukturell nicht von ihrem "System 1" zu trennen.
2. Limitationen von LLMs: LLMs fehlen bestimmte Formen von konzeptuellem Wissen (insbesondere echte taxonomische/logische Relationen), die für die Regulierung von Vorurteilen in Menschen entscheidend sind. Die Bias-Regulation in LLMs funktioniert nicht durch den Zugriff auf strukturierte, deliberative Wissensschichten, da diese strukturell nicht existent sind.
3. Implikationen für KI-Entwicklung: Um Bias in KI-Systemen effektiv zu regulieren, reicht es möglicherweise nicht aus, einfach mehr Daten zu trainieren. Es müssen explizite, strukturell getrennte Mechanismen für regelbasiertes, logisches Denken integriert werden, die sich von der reinen statistischen Assoziation unterscheiden.

Zusammenfassend zeigt die Arbeit, dass die Art und Weise, wie Wissen strukturell organisiert ist, entscheidend dafür ist, wie Vorurteile entstehen und reguliert werden – ein Mechanismus, der in aktuellen LLMs fundamental anders (oder gar nicht) funktioniert als im menschlichen Gehirn.