Large Language Models Align with the Human Brain during Creative Thinking

Die Studie zeigt, dass die Ausrichtung von Large Language Models auf menschliche Gehirnaktivität während kreativen Denkens mit der Modellgröße und der Ideenoriginalität skaliert und durch spezifische Nachtrainierungsziele wie Kreativitäts- oder Denkprozessorientierung gezielt verändert wird.

Das Wesentliche

Stell dir vor, dein Gehirn ist wie ein riesiges, lebendiges Orchester. Wenn du kreativ bist – also eine völlig neue Idee für einen alltäglichen Gegenstand entwickelst, wie zum Beispiel einen Gummibärchen als Türstopper zu nutzen – dann spielen bestimmte Musiker in diesem Orchester besonders laut und harmonisch zusammen. Diese Musiker sind die Default Mode Network (ein Bereich für Träumerei und Ideenfindung) und das Frontoparietal Network (ein Bereich für Fokus und Planung).

Die Forscher in diesem Papier haben sich gefragt: Können die neuen, riesigen KI-Sprachmodelle (LLMs) so "musikalisieren" wie unser Gehirn, wenn sie kreativ denken?

Hier ist die Geschichte ihrer Entdeckungen, einfach erklärt:

1. Der Test: Der "Kreativitäts-Check"

Die Forscher haben 170 Menschen in einen MRT-Scanner gelegt. Sie bekamen einen Gegenstand gezeigt (z. B. einen "Drachen") und sollten entweder:

• Kreativ sein: "Was kann man damit noch alles machen?" (z. B. "Ein Segel für ein Boot").
• Nicht kreativ sein: "Wie sieht er aus?" (z. B. "Rechteckig").

Gleichzeitig haben sie verschiedene KI-Modelle (von winzigen bis zu riesigen) mit denselben Aufgaben gefüttert. Die Frage war: Bilden die inneren Gedanken der KI ein ähnliches Bild wie die Gehirnaktivität der Menschen?

2. Die Entdeckungen

A. Größe zählt (aber nur am Anfang)

Je größer und mächtiger das KI-Modell ist, desto mehr ähnelt seine "Denkweise" der des menschlichen Gehirns – aber nur in dem Moment, in dem es die Aufgabe liest.

• Die Analogie: Stell dir vor, du und ein Freund seht euch einen leeren Raum an und überlegt, was man daraus machen könnte. Je erfahrener und klüger dein Freund ist (je größer das Modell), desto ähnlicher sind eure ersten Gedanken ("Vielleicht ein Garten?", "Ein Atelier?").
• Das Problem: Sobald die KI aber anfängt, die Antwort tatsächlich zu schreiben, verliert sie diesen Kontakt zum menschlichen Gehirn. Die KI wird dann zu sehr auf das "Schreiben" fokussiert und vergisst die menschliche Art zu träumen. Es ist, als würde der Freund plötzlich anfangen, eine Grammatikprüfung zu machen, statt weiter über den Garten zu träumen.

B. Die Tiefe des Denkens

Die Forscher haben gesehen, dass die "tiefen" Schichten der KI (die späteren Teile des Denkprozesses) viel besser mit dem menschlichen Gehirn übereinstimmen als die oberflächlichen Schichten.

• Die Analogie: Die ersten Schichten der KI sind wie ein Wörterbuch, das nur die Bedeutung von Wörtern kennt. Die tiefen Schichten sind wie ein Philosoph, der die Bedeutung und den Zweck hinter den Ideen versteht. Genau wie unser Gehirn beim kreativen Denken tiefgründig arbeitet, tun es auch die tiefen Schichten der KI.

C. Der entscheidende Unterschied: Wie wird die KI trainiert?

Das ist der spannendste Teil. Die Forscher haben verschiedene Versionen derselben KI genommen und sie unterschiedlich "erzogen" (nachtrainiert). Das Ergebnis war wie ein Experiment mit verschiedenen Erziehungsstilen:

1. Die "Kreativitäts-Coach"-KI: Diese KI wurde speziell darauf trainiert, kreative und überraschende Ideen zu lieben.
   • Ergebnis: Sie hat sich perfekt auf die kreativen menschlichen Gedanken eingestellt. Sie ignoriert aber langweilige, normale Antworten. Sie ist wie ein Künstler, der nur an Kunst interessiert ist.
2. Die "Mensch-Nachahmer"-KI: Diese KI wurde trainiert, menschliches Verhalten genau zu kopieren.
   • Ergebnis: Sie passt sich sowohl den kreativen als auch den langweiligen menschlichen Gedanken an. Sie ist wie ein Schauspieler, der jede Rolle spielt.
3. Die "Logik-Fuchs"-KI: Diese KI wurde trainiert, komplexe Rätsel zu lösen und Schritt-für-Schritt zu denken (Chain-of-Thought).
   • Ergebnis: Hier passierte etwas Überraschendes! Diese KI hat sich nicht mehr mit kreativen menschlichen Gedanken verbunden. Stattdessen passte sie sich nur noch an die langweiligen, logischen Gedanken an.
   • Die Metapher: Stell dir vor, du trainierst einen Hund, nur auf harte Logik und strikte Regeln zu achten. Wenn du ihn dann fragst: "Was ist eine kreative Idee für einen Gummibärchen?", denkt er nicht an einen Türstopper, sondern an eine mathematische Formel. Das Training für Logik hat seine Fähigkeit zum kreativen "Träumen" quasi "ausgeschaltet".

Fazit: Was lernen wir daraus?

Die Botschaft ist klar: KI kann kreativ denken, aber nur, wenn wir sie richtig erziehen.

Wenn wir KI-Modelle nur darauf trainieren, logische Rätsel zu lösen oder Code zu schreiben (was heute oft der Fall ist), verlieren sie die Fähigkeit, mit dem menschlichen Gehirn in der Kreativität zu "schwingen". Sie werden zu perfekten Logik-Maschinen, aber zu schlechten Träumern.

Um KI wirklich kreativ zu machen, müssen wir sie nicht nur größer machen, sondern sie speziell darauf trainieren, die Art von Gedanken zu verfolgen, die auch unser Gehirn beim kreativen Blitzen hat. Sonst bleiben sie zwar klug, aber nicht wirklich kreativ.

Technische Zusammenfassung

Titel: Large Language Models Align with the Human Brain during Creative Thinking

(Große Sprachmodelle stimmen während des kreativen Denkens mit dem menschlichen Gehirn überein)

1. Problemstellung und Motivation

Kreatives Denken, insbesondere das divergente Denken (die Fähigkeit, neue und vielfältige Ideen zu generieren), ist eine fundamentale menschliche kognitive Fähigkeit. Während Large Language Models (LLMs) in den letzten Jahren beeindruckende Leistungen bei divergenten Denkaufgaben (z. B. dem Alternate Uses Task, AUT) gezeigt haben, ist unklar, inwieweit ihre internen Repräsentationen mit der neuronalen Architektur des menschlichen Gehirns übereinstimmen.

Bisherige Studien zur Gehirn-LLM-Ausrichtung (Brain-LLM Alignment) konzentrierten sich fast ausschließlich auf passive Sprachverarbeitung (z. B. Lesen oder Hören von Texten). Es fehlt jedoch an Forschung, die untersucht, ob LLMs, die bei kreativen Aufgaben gut abschneiden, auch eine höhere Ähnlichkeit zu den neuronalen Mustern aufweisen, die beim aktiven kreativen Denken im menschlichen Gehirn entstehen. Die zentrale Forschungsfrage lautet: Stimmen die Repräsentationen kreativer LLMs mit der neuronalen Geometrie des menschlichen kreativen Denkens überein, und wie beeinflussen Nachtrainierungsziele diese Ausrichtung?

2. Methodik

Datengrundlage:

• Neurowissenschaftliche Daten: fMRI-Daten von 170 gesunden Probanden aus einer vorherigen Studie (Beaty et al., 2018).
• Aufgaben:
  • AUT (Alternate Uses Task): Kreative Aufgabe (z. B. "Nenne kreative Verwendungsmöglichkeiten für einen Gummiball").
  • OCT (Object Characteristics Task): Kontrollaufgabe ohne Kreativitätsfokus (z. B. "Nenne physische Eigenschaften eines Objekts").
• Neuronale Netzwerke: Die Analyse konzentrierte sich auf das Default Mode Network (DMN) und das Frontoparietal Network (FPN), da diese für kreatives Denken bekannt sind, sowie das Somatomotor-Netzwerk als Kontrolle.

Modell-Daten:

• Es wurden verschiedene LLMs getestet (Größen von 270M bis 72B Parametern), darunter Varianten von Llama-3.1, Gemma-3, Qwen2.5 und DeepSeek-R1.
• Speziell für die Analyse von Nachtrainierungseffekten wurden Varianten des Llama-3.1-8B verwendet:
  • Basis-Modell (Pretrained).
  • Kreativitäts-optimiertes Modell (CrPO-llama-3.1-8b-instruct-cre).
  • Menschliches Verhalten simulierendes Modell (Llama-3.1-Minitaur-8B).
  • Reasoning-optimiertes Modell (DeepSeek-R1-Distill-Llama-8B).

Analyseverfahren:

• Representational Similarity Analysis (RSA): Es wurde die Ähnlichkeit zwischen den Repräsentationsdissimilaritätsmatrizen (RDMs) der LLMs und den fMRI-Antworten berechnet.
• Zwei Phasen der Repräsentation: Im Gegensatz zu früheren Studien wurden Repräsentationen sowohl beim Prompt (Eingabe) als auch nach der Generierung der Antwort extrahiert.
• Normalisierung: Die Ausrichtungswerte wurden durch eine "Noise Ceiling" (Rauschdecke) normalisiert, um die Zuverlässigkeit der fMRI-Daten zu berücksichtigen.
• Kreativitäts-Stratifizierung: Die menschlichen Antworten wurden von Ratern bewertet und in "hochkreativ" (Rating $\ge$ 2.0) und "niedrigkreativ" (Rating < 2.0) eingeteilt, um die Ausrichtung spezifisch zu analysieren.

3. Wichtige Beiträge

1. Erste systematische Untersuchung: Dies ist die erste Studie, die Gehirn-LLM-Ausrichtung im Kontext einer aktiven kreativen Denkaufgabe (AUT) untersucht und damit die Literatur über passive Sprachverarbeitung hinaus erweitert.
2. Stufenabhängigkeit der Ausrichtung: Die Studie zeigt, dass die Korrelation zwischen Modellgröße/Leistung und Gehirn-Ausrichtung stark vom Verarbeitungsstadium abhängt (Prompt vs. Generierung).
3. Selektiver Einfluss von Nachtrainierungszielen: Es wird demonstriert, dass verschiedene Fine-Tuning-Strategien (Kreativität vs. Reasoning) die neuronale Ausrichtung in entgegengesetzte Richtungen lenken.

4. Ergebnisse

A. Skalierung und Aufgabenleistung:

• Prompt-Stadium: Während der Eingabeverarbeitung (Prompt) besteht eine positive Korrelation zwischen der Gehirn-Ausrichtung und der Modellgröße sowie der AUT-Leistung (Kreativitätsscore). Größere und kreativitätsfähigere Modelle spiegeln die neuronalen Muster des DMN stärker wider.
• Generierungs-Stadium: Sobald das Modell eine Antwort generiert, schwächt sich diese Korrelation ab. Die Ausrichtung wird variabler und die Beziehung zu Größe/Leistung löst sich auf. Dies deutet darauf hin, dass der Generierungsprozess bei LLMs zunehmend von der menschlichen kreativen Kognition abweicht.

B. Schichttiefe (Layer Depth):

• Die stärkste Gehirn-Ausrichtung findet sich in den höheren Schichten der Modelle. Dies bestätigt die Hypothese, dass abstrakte, aufgabenbezogene Repräsentationen (die in tieferen Schichten entstehen) besser mit der neuronalen Geometrie des kreativen Denkens übereinstimmen als frühe syntaktische Verarbeitungsschichten.

C. Einfluss von Nachtrainierungszielen (Post-Training):
Die Analyse verschiedener Llama-3.1-8B-Varianten ergab drastische Unterschiede:

• Kreativitäts-optimiertes Modell (CrPO): Zeigt eine selektive Ausrichtung. Es behält eine moderate Ausrichtung zu hochkreativen neuronalen Antworten bei, während die Ausrichtung zu niedrigkreativen Antworten signifikant abnimmt.
• Menschliches Verhalten (Minitaur): Zeigt eine erhöhte Ausrichtung zu beiden Gruppen (hoch und niedrig kreativ), was auf eine bessere Nachahmung menschlicher Antwortmuster hindeutet.
• Reasoning-optimiertes Modell (Chain-of-Thought): Zeigt ein umgekehrtes Muster. Es weist eine negative Ausrichtung zu hochkreativen Antworten und eine positive Ausrichtung zu niedrigkreativen Antworten auf. Dies legt nahe, dass Reasoning-Training die Repräsentationen weg von der neuronalen Geometrie des kreativen Denkens hin zu analytischen, konvergenten Prozessen lenkt.

5. Bedeutung und Implikationen

Die Studie liefert wichtige Erkenntnisse für die Entwicklung zukünftiger KI-Systeme:

• Grenzen aktueller Trainingsziele: Viele aktuelle Nachtrainierungsstrategien (z. B. Chain-of-Thought, Mathematik, Coding) fördern konvergentes Denken (eine richtige Antwort finden). Die Ergebnisse deuten jedoch darauf hin, dass diese Strategien die Fähigkeit des Modells zum divergenten Denken (vielfältige Ideen generieren) aktiv verschlechtern, da sie die neuronale Ausrichtung von kreativen Mustern weglenken.
• Neuronale Validität als Metrik: Gehirn-Ausrichtung bietet einen einzigartigen Blickwinkel, um LLMs jenseits rein verhaltensbasierter Benchmarks zu bewerten. Sie erfasst die zugrundeliegenden Berechnungsprinzipien des menschlichen kreativen Denkens.
• Zukunft der KI-Entwicklung: Um LLMs für komplexe, mehrdeutige Probleme zu nutzen, müssen Nachtrainierungsziele explizit darauf ausgelegt sein, die Diversität und Kreativität der Repräsentationen zu erhalten oder zu fördern, anstatt sie nur auf analytische Genauigkeit zu optimieren.

Fazit: Die Übereinstimmung zwischen LLMs und dem menschlichen Gehirn beim kreativen Denken ist nuanciert, stufenabhängig und stark durch das Trainingsziel beeinflusst. Während Skalierung und Kreativitätstraining die Ausrichtung fördern, kann Reasoning-Training diese Beziehung sogar invertieren.