💬 NLP

Brain-LLM Alignment Tracks Training Data, Not Typology

Ursprüngliche Autoren: Dongxin Guo, Jikun Wu, Siu Ming Yiu

Veröffentlicht 2026-05-25

📖 5 Min. Lesezeit🧠 Tiefgang

Ursprüngliche Autoren: Dongxin Guo, Jikun Wu, Siu Ming Yiu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die große Frage: Ist Englisch besonders?

Stellen Sie sich einen superschlauen Roboter (ein Large Language Model, oder LLM) vor, der Millionen von Büchern gelesen hat. Wissenschaftler haben entdeckt, dass, wenn dieser Roboter über einen Satz „nachdenkt", seine innere Mathematik überraschend ähnlich aussieht wie die Aktivität im menschlichen Gehirn, wenn es denselben Satz hört.

Lange Zeit wurde dieser „Gehirn-Roboter-Abgleich" nur mit Englisch getestet. Da der Roboter hauptsächlich auf Englisch trainiert wurde und die menschlichen Gehirne Englisch hörten, war die Übereinstimmung perfekt.

Das führte zu einer großen Frage: Ist das menschliche Gehirn irgendwie „verdrahtet", um speziell auf Englisch zu passen? Oder ist die Übereinstimmung nur ein Zufall, weil der Roboter Englisch gelernt hat?

Das Experiment: Das Rezept austauschen

Um diese Frage zu beantworten, stellten die Forscher ein riesiges Experiment mit einer Geschichte namens Der kleine Prinz auf. Sie zeichneten die Gehirnaktivität von 112 Personen auf, die diese Geschichte in drei verschiedenen Sprachen hörten: Englisch, Chinesisch und Französisch.

Anschließend testeten sie sieben verschiedene KI-Modelle gegen diese Gehirnscans.

Der „Englische Roboter": Ein Modell, das hauptsächlich auf Englisch trainiert wurde (wie LLaMA-2).
Der „Chinesische Roboter": Ein Modell, das hauptsächlich auf Chinesisch trainiert wurde (Baichuan2).
Der „Mehrsprachige Roboter": Ein Modell, das auf viele Sprachen gleichermaßen trainiert wurde (wie XLM-R).

Der magische Trick:
Die Forscher verglichen den „Englischen Roboter" und den „Chinesischen Roboter". Diese beiden Roboter sind in jeder Hinsicht Zwillinge – sie haben die gleiche Größe, die gleiche Gehirnstruktur und die gleiche Anzahl an Schichten. Der einzige Unterschied ist, was sie gegessen haben (ihre Trainingsdaten). Der eine hat hauptsächlich Englisch gegessen; der andere hauptsächlich Chinesisch.

Die große Entdeckung: Es geht darum, was man gegessen hat, nicht um die DNA

Die Ergebnisse drehten das Blatt komplett um:

Der Englische Roboter passte am besten zu englischen Gehirnen und am schlechtesten zu chinesischen Gehirnen.
Der Chinesische Roboter tat genau das Gegenteil: Er passte am besten zu chinesischen Gehirnen und am schlechtesten zu englischen Gehirnen.

Die Analogie:
Stellen Sie sich das menschliche Gehirn wie ein Schloss vor.

Der „Englische Roboter" ist ein Schlüssel, der speziell für ein englisches Schloss geschnitten wurde. Er passt perfekt.
Der „Chinesische Roboter" ist ein Schlüssel, der speziell für ein chinesisches Schloss geschnitten wurde.
Die Forscher bewiesen, dass die „perfekte Passform" nicht daran liegt, dass das englische Schloss besonders ist. Es liegt einfach daran, dass der Schlüssel genau auf dieses spezifische Schloss zugeschnitten wurde. Wenn Sie einen Schlüssel für ein anderes Schloss schneiden, passt er stattdessen zu diesem.

Fazit: Der „Englische Vorteil" in früheren Studien lag nicht daran, dass Englisch die „universelle Sprache des Gehirns" ist. Es lag einfach daran, dass die KI-Modelle auf englischen Daten trainiert wurden. Das Gehirn interessiert sich nicht für die Sprache; es interessiert sich für das Muster, das die KI gelernt hat.

Weitere überraschende Erkenntnisse

1. Der „Übersetzungs-Fehler" (Tokenisierung)

Wenn die KI Chinesisch liest, muss sie oft ein chinesisches Zeichen in mehrere winzige Teile (Tokens) zerlegen, um es zu verstehen, während englische Wörter oft aus einem Teil bestehen.

Die Analogie: Stellen Sie sich vor, Sie lesen ein Buch, in dem jedes englische Wort ein einziger Ziegelstein ist, aber jedes chinesische Wort ein Stapel von 2,4 Ziegelsteinen, die zusammengeklebt sind.
Das Ergebnis: Wegen dieses „Ziegelstein-Stapels" muss die KI tiefer in ihre eigenen Schichten schauen, um die Bedeutung eines chinesischen Wortes zu verstehen. Die Forscher fanden heraus, dass etwa 60 % des Grundes, warum die KI für Chinesisch anders „denkt", nur dieser mechanische Fehler ist, wie sie Wörter zerlegt, und nicht ein tiefer Unterschied in der Art, wie das Gehirn Bedeutungen verarbeitet.

2. Grammatik vs. Bedeutung (Die Nachbarschaften des Gehirns)

Das menschliche Gehirn hat verschiedene Nachbarschaften für verschiedene Aufgaben.

Die „Bedeutungs-Nachbarschaft" (PTL): Dieser Bereich verarbeitet Vokabular und Konzepte.
Die „Grammatik-Nachbarschaft" (IFG): Dieser Bereich verarbeitet Satzbau und Regeln.

Die Forscher stellten fest, dass die „Bedeutungs-Nachbarschaft" fast perfekt mit der KI übereinstimmte, egal welche Sprache gesprochen wurde. Die KI und das Gehirn sind sich einig, was Wörter bedeuten.

Jedoch war die „Grammatik-Nachbarschaft" sehr wählerisch. Sie passte nur dann gut zur KI, wenn die KI die spezifischen Grammatikregeln dieser Sprache gelernt hatte.

Die Analogie: Wenn Sie und ich beide wissen, was „Apfel" bedeutet, sind wir uns einig. Aber wenn ich gelernt habe, links zu fahren und Sie rechts, werden wir darüber streiten, wie man das Lenkrad dreht. Der „grammatische" Teil des Gehirns ist empfindlich gegenüber diesen Regeln, während der „bedeutungsvolle" Teil universell ist.

3. Der „universelle" mehrsprachige Roboter

Die Forscher testeten auch einen Roboter, der gleichzeitig auf viele Sprachen trainiert wurde. Dieser Roboter war am flexibelsten. Er hatte keine starke Präferenz für Englisch oder Chinesisch; er passte die Gehirne aller drei Sprachen fast gleich gut an. Dies deutet darauf hin, dass, wenn man eine KI wirklich mehrsprachig lehrt, sie menschliche Gehirne in jeder Sprache verstehen kann.

Zusammenfassung

Mythos entlarvt: Das Gehirn ist nicht „englisch-zentriert". Die KI wurde einfach zufällig auf Englisch trainiert.
Der wahre Treiber: Die Leistung der KI hängt davon ab, in welcher Sprache sie trainiert wurde. Wenn Sie sie auf Chinesisch trainieren, versteht sie chinesische Gehirne am besten.
Die Nuance: Während die Bedeutung von Wörtern über alle Sprachen hinweg universell ist, sind die Grammatik-Regeln spezifisch. Die Grammatikzentren des Gehirns sind empfindlich gegenüber diesen Unterschieden, die Bedeutungszentren jedoch nicht.
Der technische Fehler: Einige der Unterschiede, die wir zwischen Sprachen in der KI sehen, liegen einfach daran, dass die KI Schwierigkeiten hat, chinesische Zeichen korrekt zu zählen (Tokenisierung), und nicht daran, dass das Gehirn anders funktioniert.

Kurz gesagt: Die KI ist ein Spiegel. Zeigen Sie ihm Englisch, spiegelt er Englisch wider. Zeigen Sie ihm Chinesisch, spiegelt er Chinesisch wider. Das menschliche Gehirn ist in beiden Fällen gleich; nur das Spiegelbild ändert sich.

Technische Zusammenfassung: Die Ausrichtung von Gehirn und LLM verfolgt Trainingsdaten, nicht Typologie

Problemstellung
Während das Sprachnetzwerk des menschlichen Gehirns über 45 Sprachen hinweg neuroanatomisch universell ist, bleibt unklar, inwieweit Large Language Models (LLMs) über typologisch diverse Sprachen hinweg mit diesem Netzwerk übereinstimmen. Frühere Studien haben eine starke Gehirn–LLM-Ausrichtung fast ausschließlich unter Verwendung englischer Daten etabliert, was eine potenzielle Blindstelle hinsichtlich der Universalität dieser Repräsentationen schafft. Ein kritisches Störmerkmal in der bestehenden Literatur ist die Unfähigkeit zu unterscheiden, ob Ausrichtungsmuster durch einen inhärenten „englischen Vorteil", den typologischen Abstand zwischen Sprachen oder die Dominanz bestimmter Sprachen in den Trainingsdaten eines Modells getrieben werden. Ferner ist unbekannt, ob die interlinguale Variation der Ausrichtung in syntaktischen oder semantischen Verarbeitungsregionen konzentriert ist, eine Frage mit Implikationen für die Konstruktionsgrammatik (CxG) und Theorien der Sprachuniversalität.

Methodik
Die Studie nutzt fMRT-Daten von 112 Teilnehmern, die Der kleine Prinz in drei Sprachen hörten: Englisch ( $n=49$ ), Mandarin-Chinesisch ( $n=35$ ) und Französisch ( $n=28$ ). Die Autoren verwenden ein kontrolliertes experimentelles Design, das sieben LLMs vergleicht:

Englisch-dominant: GPT-2 Medium und LLaMA-2-7B.
Chinesisch-dominant: Baichuan2-7B.
Mehrsprachig: mBERT, XLM-R Large, BLOOM-7B und Qwen2.5-7B.

Entscheidend ist, dass die Studie LLaMA-2-7B und Baichuan2-7B paarweise vergleicht, die eine identische Architektur und Parameteranzahl (7B, 32 Schichten) teilen, sich jedoch primär in der Zusammensetzung der Trainingsprache unterscheiden (~90 % Englisch vs. ~55 % Chinesisch).

Der Analyseablauf umfasst:

Encoding-Modelle: Voxelweise Ridge-Regression zur Vorhersage neuronaler Aktivität aus versteckten LLM-Zuständen, normalisiert gegen Rauschgrenzen zwischen Probanden.
Typologische Metriken: Quantitative Berechnung des typologischen Abstands unter Verwendung von Grambank (195 binäre grammatische Merkmale), ergänzt durch WALS und lang2vec.
Tokenisierungsanalyse: Messung der „Tokenisierungsfruchtbarkeit" (Subwort-Token pro orthographischem Wort), um deren Einfluss auf die Schichtdynamik zu bewerten.
Statistisches Rahmenwerk: Lineare gemischte Effekte-Modelle (LMM), die den Anteil der Trainingsdaten kontrollieren, mit Cluster-Bootstrap-Resampling auf Sprachebene zur Bewältigung begrenzter Freiheitsgrade (3 Sprachen).

Hauptbeiträge und Ergebnisse

Die Dominanz der Trainingsprache treibt Ausrichtungsgradienten an:
Das zentrale Ergebnis ist, dass der „englische Vorteil" bei der Gehirn–LLM-Ausrichtung ein Artefakt der Zusammensetzung der Trainingsdaten ist und keine inhärente Eigenschaft des Englischen oder des Gehirns darstellt.
- Umkehrung des Gradienten: Der chinesisch-dominante Baichuan2-7B kehrt den in LLaMA-2-7B beobachteten Ausrichtungsgradienten um. Baichuan2 stimmt am besten mit chinesischen Gehirnen überein ( $\tilde{r} = .85$ ) und am schlechtesten mit englischen ( $\tilde{r} = .59$ ), während LLaMA-2 das entgegengesetzte Muster zeigt.
- Mehrsprachige Einheitlichkeit: Mehrsprachige Modelle (z. B. XLM-R) zeigen eine hohe Einheitlichkeit über Sprachen hinweg ( $\tilde{r} \approx .81-.83$ ), was darauf hindeutet, dass mehrsprachiges Training Repräsentationen schafft, die über eine spezifische Sprachdominanz hinausgehen.
Formaler typologischer Abstand korreliert mit der Ausrichtung:
Über die Trainingsdominanz hinaus sagt der formale typologische Abstand unabhängig eine Verschlechterung der Ausrichtung voraus.
- In gemischten Effekten-Modellen, die den Trainingsanteil kontrollieren, ist der Grambank-Abstand mit einer Abnahme der Ausrichtungsleistung verbunden ( $\beta = -0.41$ ).
- Die Autoren betrachten dies als gut gestützte deskriptive Muster, das aufgrund begrenzter Freiheitsgrade eine Bestätigung über $\ge10$ Sprachen hinweg erfordert.
Tokenisierungsfruchtbarkeit erklärt Schichtverschiebungen:
Die Studie identifiziert eine Rechtsverschiebung der optimalen Encoding-Schicht für Chinesisch (Gipfel bei Schicht 18 gegenüber Schicht 15 für Englisch/Französisch).
- Die Analyse der Tokenisierungsfruchtbarkeit zeigt, dass Chinesisch signifikant mehr Subwort-Token pro Wort benötigt (2,4 Token/Wort für XLM-R) im Vergleich zu Englisch (1,4 Token/Wort).
- Die Kontrolle der Fruchtbarkeit erklärt etwa 60 % dieser Schichtverschiebung, was darauf hindeutet, dass das, was als interlinguale Verarbeitungsunterschiede erscheint, weitgehend ein Tokenisierungsartefakt ist.
Regionsspezifische neuronale Gradienten (Syntax vs. Semantik):
Der typologische Gradient ist im Sprachnetzwerk nicht einheitlich.
- Der Gyrus frontalis inferior (IFG), der mit der syntaktischen Verarbeitung assoziiert ist, zeigt einen typologischen Gradienten, der 2,3-mal steiler ist als der des hinteren Temporallappens (PTL), der mit der lexiko-semantischen Verarbeitung assoziiert ist.
- Dies legt nahe, dass interlinguale Divergenzen in der strukturellen/syntaktischen Verarbeitung konzentriert sind, während semantische Repräsentationen universeller bleiben.

Bedeutung und Behauptungen
Die Studie behauptet, die Debatte um den „englischen Vorteil" zu lösen, indem sie zeigt, dass Ausrichtungsmuster durch die Dominanz der Trainingsprache getrieben werden. Die scheinbare Überlegenheit des Englischen in früheren Studien spiegelt die Vorherrschaft englisch-dominanter Modelle und englischer fMRT-Daten wider, nicht eine besondere neurokognitive Beziehung zwischen Englisch und dem Gehirn.

Die Ergebnisse unterstützen ein differenziertes Verständnis der Universalität: Biologische und künstliche Sprachverarbeiter konvergieren bei gemeinsamen semantischen Repräsentationen (universell über Sprachen und Modelle hinweg), divergieren jedoch bei strukturellen/syntaktischen Repräsentationen, wo typologischer Abstand und Trainingsverteilung eine Rolle spielen. Die Ergebnisse heben zudem hervor, dass Tokenisierungsartefakte als interlinguale Verarbeitungsunterschiede maskieren können, und mahnen die Fachwelt an, die Tokenisierungsfruchtbarkeit neben Encoding-Ergebnissen zu berichten.

Die Autoren weisen ausdrücklich darauf hin, dass, obwohl der IFG/PTL-Gradient mit der Konstruktionsgrammatik übereinstimmt (die Variation in Form-Funktions-Paarungen postuliert), er auch aus generischen Theorien der Syntax-Semantik-Dissociation oder kognitiver Kontrollmechanismen abgeleitet werden kann. Daher behauptet die Studie, die Ergebnisse seien mit CxG konsistent, beweisen diese jedoch ohne Analyse auf Konstruktionsebene nicht eindeutig. Ebenso wird der Effekt des typologischen Abstands als deskriptives Muster präsentiert, das einer Validierung im größeren Maßstab bedarf, anstatt als definitive kausaler Beweis.