Language Models Struggle to Use Representations Learned In-Context
Trotz Belegen, dass große Sprachmodelle neue semantische Repräsentationen aus kontextuellen Informationen kodieren können, zeigt diese Studie, dass sowohl Modelle mit offenen Gewichten als auch state-of-the-art geschlossene Modelle Schwierigkeiten haben, diese erlernten Repräsentationen effektiv zu nutzen, um ihr Verhalten für nachgelagerte Aufgaben anzupassen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Ganze: Der „kluge Schüler", der keine Notizen machen kann
Stellen Sie sich einen brillanten Schüler (die KI) vor, der in einem Klassenzimmer sitzt. Der Lehrer schreibt eine komplexe, erfundene Regel mit seltsamen Symbolen an die Tafel (z. B. bedeutet „Tinte" „Stadt" und „Spielzeug" „Luft"). Der Schüler betrachtet die Tafel, studiert sie und scheint das Muster perfekt zu verstehen.
Die Forscher dieses Papers wollten wissen: Wenn der Schüler das Muster betrachtet, während er auf die Tafel schaut, kann er dieses Verständnis dann tatsächlich nutzen, um ein neues Problem zu lösen, sobald die Tafel geleert ist?
Die kurze Antwort lautet: Nein, eigentlich nicht. Obwohl der Schüler im Moment zu „verstehen" scheint, hat er Schwierigkeiten, dieses Wissen anzuwenden, wenn man ihn bittet, etwas Neues damit zu tun.
Das Experiment: Drei verschiedene Tests
Die Forscher führten drei Haupttests durch, um zu sehen, wie gut KI-Modelle diese neuen, erfundenen Regeln lernen und anwenden können.
1. Der „Erinnerungsstraße"-Test (Vorhersage des nächsten Tokens)
Der Aufbau: Stellen Sie sich ein Spiel vor, bei dem Sie durch eine geheime Stadt aus zufälligen Wörtern wandern. Sie gehen von „Spielzeug" zu „Tinte" zu „Stadt". Die KI sieht diesen Pfad.
Die Wendung:
- Szenario A: Die KI sieht den Pfad in ihrer eigenen Antwort geschrieben (als würde sie ein Tagebuch schreiben). Sie kann das nächste Wort leicht vorhersagen.
- Szenario B: Der Lehrer (der Benutzer) schreibt den Pfad und bittet die KI dann, das nächste Wort nach einer Pause vorherzusagen.
Das Ergebnis: In Szenario B bleibt die KI stecken. Es ist, als hätte der Schüler die Karte studiert, aber wenn man ihn bittet, die nächste Straße auf ein leeres Blatt Papier zu zeichnen, hat er vergessen, dass die Karte existiert. Die KI hat das Muster gelernt, konnte es aber nicht aus ihrem Gedächtnis „herausholen", um es zu nutzen.
2. Der „Gestaltwandler"-Test (Adaptive Weltmodellierung)
Der Aufbau: Die KI sieht einen zufälligen Weg durch ein Gitter (wie ein 4x4-Schachbrett) aus zufälligen Wörtern. Dann gibt der Lehrer ein paar Beispiele für eine neue Regel, wie „Zwei Schritte nach rechts bewegen". Die KI muss diese Regel auf ein neues Wort anwenden.
Das Ergebnis: Die KI versagt kläglich.
- Warum? Die Forscher überprüften das „Gehirn" der KI (ihre innere Mathematik) und stellten fest, dass sie die Form des Gitters tatsächlich gelernt hatte. Sie kannte die Karte.
- Das Problem: Obwohl die Karte in ihrem Gehirn gespeichert war, konnte die KI diese Karte nicht nutzen, um das Rätsel zu lösen. Es ist, als hätte man ein perfektes GPS in der Tasche, aber die Anweisungen nicht lesen zu können, wenn man eine Abbiegung braucht. Das Wissen war „träge" – es war vorhanden, aber für die anstehende Aufgabe nutzlos.
3. Der „Super-Denker"-Test (Reasoning-Modelle)
Der Aufbau: Die Forscher führten dieselben Tests mit den neuesten, leistungsfähigsten KI-Modellen (den „Reasoning-Modellen") durch. Dies sind KIs, die trainiert wurden, „laut zu denken", indem sie lange Gedankengänge aufschreiben, bevor sie eine Antwort geben.
Das Ergebnis: Diese Super-Modelle schnitten besser ab, waren aber immer noch nicht perfekt.
- Sie waren großartig bei einfachen, eindimensionalen Linien (wie einer geraden Straße).
- Sie brachen völlig zusammen, wenn sie mit 2D-Gittern konfrontiert wurden (wie einem Stadtblock).
- Selbst wenn sie „laut dachten", hatten sie Schwierigkeiten, die innere Karte, die sie gelernt hatten, in ein brauchbares Werkzeug zu verwandeln. Sie konnten die Karte beschreiben, wenn sie danach gefragt wurden, aber sie konnten sie nicht zuverlässig nutzen, um sich zu orientieren.
Die Kernentdeckung: „Träges" Wissen
Das Hauptergebnis des Papers ist ein Konzept, das die Autoren „Inerte Repräsentationen" nennen.
Stellen Sie es sich so vor:
- Kodierung: Die KI ist wie ein Schwamm. Wenn Sie Wasser (neue Informationen) darauf gießen, saugt es es sofort auf. Es hält das Wasser fest.
- Einsatz: Aber wenn Sie den Schwamm auspressen, um das Wasser herauszuholen, um eine Pflanze zu gießen (eine neue Aufgabe zu lösen), kommt das Wasser nicht heraus.
Das Paper beweist, dass nur weil eine KI ein neues Muster während eines Gesprächs in ihrem Gehirn „kodieren" (speichern) kann, dies nicht bedeutet, dass sie dieses Muster „einsatzbereit" (nutzen) kann, um später ein Problem zu lösen. Das Wissen ist gefangen.
Was ist mit den „denkenden" KIs?
Die Forscher hofften, dass die neuesten Modelle, die „laut denken" (lange Gedankengänge schreiben), dieses Problem lösen könnten. Vielleicht können sie, wenn sie das Problem durchsprechen, das gefangene Wissen befreien?
Das Paper sagt: Teilweise ja, aber eigentlich nicht.
Diese fortschrittlichen Modelle sind etwas besser darin, die Informationen zu nutzen, aber sie versagen immer noch erheblich, wenn die Aufgabe komplex wird (wie das Bewegen in zwei Dimensionen). Sie haben immer noch Schwierigkeiten, ihr „Lernen im Kontext" in ein flexibles Werkzeug zu verwandeln.
Das Fazit
Das Paper kommt zu dem Schluss, dass KI-Modelle zwar besser darin werden, Muster im Moment zu erkennen, aber noch keine „anpassungsfähigen Agenten" sind. Sie können nicht zuverlässig eine neue Regel aus einem Gespräch lernen und diese Regel dann sofort nutzen, um ein anderes Problem zu lösen.
Um wirklich anpassungsfähige KI zu entwickeln, müssen wir herausfinden, wie wir den „Auspress"-Prozess zum Funktionieren bringen – wie wir das Wissen, das die KI im Moment lernt, tatsächlich für die Aufgaben nützlich machen, die ihr als Nächstes bevorstehen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.