Implicit Representations of Grammaticality in Language Models
Dieser Artikel zeigt, dass vortrainierte Sprachmodelle in ihren versteckten Schichten implizit eine distincte Grammatikalitätsrepräsentation erwerben, die über lineare Proben extrahiert werden kann, um string-basierte Wahrscheinlichkeitsurteile bei der Unterscheidung grammatischer von ungrammatischen Sätzen in mehreren Sprachen zu übertreffen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie haben einen sehr intelligenten Roboter, der fast jedes Buch, jede Website und jeden Artikel im Internet gelesen hat. Dieser Roboter, ein Sprachmodell (LM), ist unglaublich gut darin vorherzusagen, welches Wort als Nächstes in einem Satz kommt. Wenn Sie ihn bitten, eine Geschichte zu beenden, leistet er hervorragende Arbeit.
Aber hier kommt der knifflige Teil: Dass ein Satz für den Roboter „wahrscheinlich" klingt, bedeutet nicht, dass er den Regeln der Grammatik folgt.
Das Problem „Wahrscheinlich" versus „Korrekt"
Stellen Sie sich den Roboter wie eine Person vor, die viel gesprochen hat, aber nie die Regeln der Grammatik in der Schule gelernt hat.
- Die Sicht des Roboters (Wahrscheinlichkeit): Wenn Sie sagen: „Der Schlüssel zu den Schränken sind auf dem Tisch", könnte der Roboter denken: „Hey, ich habe schon gehört, dass Menschen diesen Fehler machen, wenn sie vom Wort 'Schränke' verwirrt werden. Das klingt nach etwas, das ein Mensch tatsächlich sagen würde." Also gibt er diesem Satz eine hohe Punktzahl.
- Die Grammatikregel (Grammatikalität): Ein menschlicher Grammatiker weiß, dass dies falsch ist. Das Subjekt ist „Schlüssel" (Singular), also sollte das Verb „ist" lauten, nicht „sind". Der Satz ist ungrammatisch, auch wenn es ein häufiger Fehler ist.
Die große Frage, die sich die Forscher stellten, war: Weiß dieser Roboter im Geheimen den Unterschied zwischen „was Menschen oft sagen" und „was tatsächlich grammatikalisch korrekt ist", auch wenn seine endgültige Punktzahl dies nicht zeigt?
Das Experiment: Der „Grammatik-Detektiv"
Um das herauszufinden, fragten die Forscher den Roboter nicht einfach: „Ist dieser Satz korrekt?" (Roboter sind schlecht darin, das direkt zu beantworten). Stattdessen schauten sie in das Gehirn des Roboters hinein.
Erstellen eines Trainingsgyms: Sie nahmen einen riesigen Haufen normalen Textes und begannen, ihn zu manipulieren. Sie fügten zufällig Wörter hinzu, löschten Wörter oder mischten Wörter durcheinander (wie einen Satz zu nehmen und zu sagen: „Sie bricht in Tränen aus und geht weg" vs. „Sie bricht in Tränen Fransen aus und geht weg").
- Die ursprünglichen Sätze waren „Gut".
- Die manipulierten Sätze waren „Schlecht".
Training eines Detektivs: Sie trainierten einen winzigen, einfachen „Detektiv" (eine lineare Sonde), der die inneren Gedanken des Roboters (seine versteckten Schichten) betrachtete und riet: „Ist dies ein guter oder ein schlechter Satz?"
Der Test: Sie nahmen diesen Detektiv und testeten ihn an echten, von Menschen erstellten Grammatiktests.
Die überraschenden Ergebnisse
1. Der Roboter hat ein geheimes Grammatikgefühl
Der Detektiv leistete bei der Aufdeckung von Grammatikfehlern viel bessere Arbeit als die eigene „Wahrscheinlichkeitspunktzahl" des Roboters.
- Die Analogie: Stellen Sie sich den Roboter als Koch vor, der eine Suppe probiert. Die „Wahrscheinlichkeitspunktzahl" des Kochs ist, wie sehr er erwartet, Salz zu schmecken, weil er normalerweise alles salzt. Aber der „Detektiv" betrachtet die chemische Struktur der Suppe und sagt: „Warte, das ist kein Salz; das ist Zucker."
- Das innere Gehirn des Roboters enthält tatsächlich ein klares Signal für „grammatikalische Korrektheit", das getrennt ist von „wie häufig dieser Satz ist".
2. Der Detektiv ist ein Grammatikspezialist, kein Bedeutungsspezialist
Als die Forscher den Detektiv an Sätzen testeten, die grammatikalisch perfekt waren, aber keinen Sinn ergaben (z. B. „Die farblosen grünen Ideen schlafen wütend" vs. „Die wütend grünen Ideen schlafen farblos"), geriet der Detektiv in Verwirrung.
- Allerdings war die ursprüngliche „Wahrscheinlichkeitspunktzahl" des Roboters hervorragend darin, diese nonsensischen Sätze zu erkennen.
- Das Fazit: Das Gehirn des Roboters verfügt über zwei verschiedene Systeme. Ein System weiß: „Macht das Sinn?" (Wahrscheinlichkeit), und ein verborgenes System weiß: „Folgt dies den Regeln?" (Grammatik). Der Detektiv griff auf das verborgene System zu.
3. Der Detektiv funktioniert auch in anderen Sprachen
Hier kommt der verrückteste Teil: Sie trainierten den Detektiv nur mit englischen Daten. Dann testeten sie ihn auf Schwedisch, Niederländisch, Italienisch, Russisch, Japanisch und Chinesisch.
- Obwohl der Detektiv diese Sprachen noch nie gesehen hatte, war er immer noch besser darin, Grammatikfehler zu erkennen als die rohen Wahrscheinlichkeitswerte des Roboters.
- Die Analogie: Es ist, als würde man einem Hund beibringen, einen Ball im Englischen zu apportieren, und ihn dann in einen Park in Frankreich mitnehmen. Obwohl der Hund kein Französisch spricht, versteht er immer noch das Konzept des „Apportierens" und kann erkennen, wenn ein Spiel korrekt gespielt wird.
Das Fazit
Die Studie kommt zu dem Schluss, dass diese KI-Modelle, obwohl sie nur darauf trainiert wurden, das nächste Wort vorherzusagen, die Regeln der Grammatik implizit gelernt haben. Sie haben einen verborgenen „Grammatikdetektor" in ihren neuronalen Netzen aufgebaut, der sich von ihrer Fähigkeit unterscheidet, das nächste Wort zu erraten.
Sie imitieren nicht nur menschliche Sprachmuster; sie haben eine interne Repräsentation entwickelt, was einen Satz strukturell gültig macht, getrennt davon, wie wahrscheinlich dieser Satz im echten Leben erscheint.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.