Differences in Typological Alignment in Language Models' Treatment of Differential Argument Marking
Dieser Artikel zeigt, dass GPT-2-Modelle, die auf synthetischen Korpora trainiert wurden, zwar die menschähnliche Präferenz für die Markierung semantisch atypischer Argumente in Systemen der differentiellen Argumentmarkierung erfolgreich replizieren, jedoch die sprachübergreifende Tendenz, Objekte gegenüber Subjekten bevorzugt zu markieren, nicht nachbilden können, was darauf hindeutet, dass diese typologischen Muster aus unterschiedlichen zugrundeliegenden Quellen stammen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie unterrichten einen Roboter in einer neuen Sprache. Anstatt ihm jedoch eine echte menschliche Sprache wie Spanisch oder Japanisch beizubringen, erfinden Sie 18 verschiedene „fiktive" Sprachen. In jeder dieser fiktiven Sprachen gibt es eine spezifische Regel, wann ein Wort in einem Satz mit einem speziellen „Stempel" (einem Marker) versehen werden muss.
Dieser Artikel handelt von einem Team von Forschern, das KI-Modelle (speziell eine Version von GPT-2) diese 18 fiktiven Sprachen lehrte, um zu prüfen, ob die KI die Regeln auf natürliche Weise genauso wie Menschen herausfinden würde oder ob sie verwirrt sein würde.
Hier ist die Aufschlüsselung dessen, was sie taten und was sie fanden, unter Verwendung einiger alltäglicher Analogien.
Das Spiel: „Die Stempel-Regel"
In der realen Welt verfügen Sprachen oft über ein System namens Differentielle Argumentmarkierung (DAM). Das ist eine ausgefallene Art zu sagen: „Wir setzen nur dann einen speziellen Stempel auf ein Wort, wenn es etwas Ungewöhnliches tut."
Die Forscher erstellten 18 Versionen des Englischen, in denen sie basierend auf vier verschiedenen Regeln ein spezielles Symbol (wie ein 🅿️ oder ein 🅰️) zu Sätzen hinzufügten:
- Der Auslöser: Was macht ein Wort besonders? (Ist es lebendig? Ist es spezifisch? Ist es ein Pronomen?)
- Das Ziel: Stempeln wir den Akteur (Subjekt) oder den Empfänger (Objekt)?
- Die Richtung: Stempeln wir die „seltsamen" Fälle oder die „normalen" Fälle?
- Die Komplexität: Betrachten wir nur ein Wort oder vergleichen wir zwei Wörter miteinander?
Beispiel:
- Normales Englisch: „Der Hund jagte die Katze." (Keine Stempel).
- Fiktive Regel: „Wenn das Gejagte lebendig ist, setze einen 🅿️-Stempel darauf."
- Ergebnis: „Der Hund jagte die Katze 🅿️." (Weil eine Katze lebendig ist).
- Ergebnis: „Der Hund jagte den Felsen." (Kein Stempel, weil ein Felsen nicht lebendig ist).
Die zwei großen Fragen
Die Forscher wollten herausfinden, ob die KI zwei spezifische Muster lernen würde, die Menschen in echten Sprachen natürlich befolgen:
- Die „Seltsamkeits"-Regel (Markiertheit): Menschen neigen dazu, die ungewöhnlichen Dinge zu stempeln. Wenn Sie zu 90 % der Zeit einen Felsen jagen, aber zu 10 % der Zeit eine Katze, könnten Sie die Katze stempeln, um zu sagen: „Hey, das ist der besondere!"
- Die „Empfänger"-Regel (Objektpräferenz): In menschlichen Sprachen stempeln wir fast immer den Empfänger (das Objekt) einer Handlung und selten den Akteur (das Subjekt).
Was die KI tat (Die Ergebnisse)
1. Die KI verstand die „Seltsamkeits"-Regel 🎯
Die KI war hervorragend darin, die Markiertheits-Regel zu lernen.
- Die Analogie: Stellen Sie sich vor, Sie tragen eine Uniform. Normalerweise trägt jeder ein blaues Hemd. Aber wenn Sie der Einzige sind, der ein rotes Hemd trägt, erhalten Sie ein spezielles Abzeichen.
- Das Ergebnis: Die KI lernte, dass, wenn eine Regel lautet „Stempeln Sie das Ungewöhnliche", sie dies perfekt tat. Sie begriff, dass, wenn eine „ungewöhnliche" Konfiguration seltener vorkommt, ein Stempel benötigt wird, um herauszustechen. Dies entsprach menschlichen Sprachmustern perfekt.
2. Die KI scheiterte an der „Empfänger"-Regel ❌
Die KI lernte die Objektpräferenz-Regel nicht.
- Die Analogie: In menschlichen Sprachen ist es wie eine Regel, die besagt: „Wir setzen das Abzeichen nur auf die Person, die das Geschenk empfängt, niemals auf die Person, die es gibt."
- Das Ergebnis: Der KI war es egal, wer gab oder empfing. Wenn die Regel lautete „Stempeln Sie den Geber", lernte die KI das genauso gut. Wenn die Regel lautete „Stempeln Sie den Empfänger", lernte sie das ebenfalls. Sie zeigte keine starke Präferenz für den Empfänger wie Menschen.
Warum geschah dies? (Das „Warum" hinter dem „Was")
Die Autoren schlagen vor, dass diese beiden Regeln von zwei verschiedenen „Motoren" in unseren Gehirnen stammen (oder in diesem Fall vom Training der KI).
- Der „Seltsamkeits"-Motor ist lokal: Die KI ist darauf trainiert, das nächste Wort in einem Satz vorherzusagen. Sie ist sehr gut darin zu bemerken: „Hey, dieses Wort ist hier selten, also sollte ich einen Stempel erwarten, um mir zu helfen, vorherzusagen, was als Nächstes kommt." Dies ist eine lokale, mechanische Fähigkeit, in der die KI hervorragend ist.
- Der „Empfänger"-Motor ist global: Der Grund, warum Menschen das Stempeln des Empfängers bevorzugen, hat mit Geschichtenerzählen und Konversation zu tun. Normalerweise ist der „Akteur" die Hauptfigur (das Thema), also müssen wir ihn nicht markieren. Der „Empfänger" ist oft die neue Information, also markieren wir ihn. Die KI hingegen schaut nur auf das nächste Wort; sie versteht nicht wirklich das „große Ganze" einer Geschichte oder wer die Hauptfigur ist. Da ihr dieser „Geschichtenerzähl"-Kontext fehlt, entwickelte sie nicht die menschliche Präferenz für das Stempeln des Empfängers.
Das Fazit
Dieser Artikel zeigt, dass KI-Modelle wie sehr kluge Schüler sind, die großartig darin sind, Muster und Statistiken zu erkennen (wie „ungewöhnliche Dinge werden gestempelt"), aber sie haben Schwierigkeiten mit sozialen und erzählerischen Zwängen (wie „wir konzentrieren uns normalerweise auf die Person, die die Handlung ausführt").
Es legt nahe, dass die Regeln menschlicher Sprache nicht alle aus demselben Stoff bestehen. Einige Regeln handeln nur von Mathematik und Effizienz (die die KI leicht lernt), während andere davon handeln, wie wir Geschichten erzählen und Aufmerksamkeit lenken (was die KI zumindest in diesem Setup noch nicht ganz versteht).
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.