The Grounding Gap: How LLMs Anchor the Meaning of Abstract Concepts Differently from Humans
Dieser Beitrag zeigt, dass große Sprachmodelle, obwohl sie bei expliziter Abfrage Verankerungsdimensionen identifizieren können, im Vergleich zu Menschen eine signifikante „Verankerungslücke" aufweisen, indem sie übermäßig auf Wortassoziationen zurückgreifen und es versäumen, während der freien Generierung natürlich Konzepte emotionaler und innerer Zustände heranzuziehen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, das Konzept der „Gerechtigkeit" zwei verschiedenen Gruppen zu erklären: einem Raum voller Menschen und einem Raum voller fortschrittlicher KI-Computer.
Wie Menschen es tun:
Wenn ein Mensch an „Gerechtigkeit" denkt, ruft sein Verstand nicht einfach nur eine Wörterbuchdefinition ab. Stattdessen löst es ein reiches, chaotisches Netz von Erfahrungen aus. Sie könnten das Gefühl erinnern, ungerecht behandelt worden zu sein (eine innere Emotion), den Anblick eines Gerichtssaals (ein sensorisches Detail) oder das soziale Drama eines Familienstreits darüber, wer das letzte Pizzastück bekommt. Ihr Verständnis ist in ihrem Körper, ihren Gefühlen und ihrem Leben mit anderen Menschen „verankert".
Wie KI es tut:
Wenn die KI an „Gerechtigkeit" denkt, verhält sie sich eher wie eine superschnelle Bibliothekarin, die jedes je geschriebene Buch gelesen hat, aber nie einen einzigen Tag gelebt hat. Sie weiß, dass „Gerechtigkeit" oft in der Nähe von Wörtern wie „Gesetz", „Gericht", „Richter" und „fair" zu finden ist. Sie baut ihr Verständnis fast ausschließlich aus Wortassoziationen auf. Sie kennt die Gesellschaft, die das Wort führt, scheint aber das Gewicht des Konzepts nicht zu spüren.
Die „Verankerungslücke"
Die Forscher in dieser Studie beschlossen, diesen Unterschied zu testen. Sie baten 21 verschiedene KI-Modelle (einschließlich Giganten wie GPT-5, Claude und Gemini), ein Spiel zu spielen: „Nennen Sie die ersten vier Dinge, die Ihnen in den Sinn kommen, wenn Sie dieses abstrakte Wort hören." Sie taten dies für Wörter wie Freiheit, Ehre und Theorie.
Hier ist, was sie fanden:
- Die Diskrepanz: Als Menschen dieses Spiel spielten, mischten sie natürlich Gefühle, Körperempfindungen und soziale Situationen ein. Die KIs hingegen listeten hauptsächlich verbale Assoziationen (andere Wörter, die mit dem Thema zusammenhängen) auf und ignorierten Gefühle und innere Zustände fast vollständig.
- Die Punktzahl: Die Forscher maßen, wie ähnlich die Antworten der KI den Antworten der Menschen waren. Selbst die intelligenteste KI erreichte nur etwa 0,37 von 1,0 an Ähnlichkeit. Im Gegensatz dazu stimmen zwei verschiedene Menschen, die das Spiel spielen, etwa 0,97 von 1,0 miteinander überein.
- Vergleich: Es ist, als würde man einen Menschen und einen Roboter bitten, den Geschmack eines Apfels zu beschreiben. Der Mensch sagt: „Süß, knusprig, saftig, erinnert mich an den Herbst." Der Roboter sagt: „Rot, rund, Frucht, Apfel." Sie sprechen über denselben Gegenstand, beschreiben ihn aber in völlig unterschiedlichen Sprachen.
- Der „Roboter-Club": Interessanterweise waren sich die KIs untereinander viel ähnlicher als den Menschen. Sie scheinen alle dieselbe „Roboter-Art" des Denkens zu teilen, die sich sehr von der menschlichen Art unterscheidet.
Die Wendung: Können sie es, wenn sie danach gefragt werden?
Die Forscher fragten sich: Verstehen die KIs diese Gefühle tatsächlich, oder wissen sie einfach nicht, wie sie sie hervorbringen sollen?
Um dies zu testen, änderten sie das Spiel. Anstatt die KI zu bitten, „Dinge aufzulisten, die ihr in den Sinn kommen", stellten sie spezifische Fragen wie: „Auf einer Skala von 1 bis 7, wie stark bezieht sich dieses Wort auf 'menschliche Emotion'?" oder „Wie stark bezieht es sich auf 'Berührung'?"
Das Ergebnis: Plötzlich wurden die KIs viel besser! Ihre Antworten stimmten viel stärker mit denen der Menschen überein.
- Vergleich: Es ist, als würde man einen schüchternen Menschen bitten: „Erzählen Sie mir eine Geschichte aus Ihrer Kindheit" (er könnte einfrieren oder eine generische Antwort geben). Aber wenn man ihn fragt: „Haben Sie sich gefreut, als Sie 5 Jahre alt waren?" (eine spezifische, geführte Frage), kann er perfekt antworten.
Dies deutet darauf hin, dass die KIs die „Zutaten" für ein menschenähnliches Verständnis in sich tragen, aber wenn sie frei Text generieren sollen, nicht wissen, wie sie diese Zutaten mischen sollen. Sie greifen auf das Rezept der „Wortassoziation" zurück, weil das ist, wofür sie trainiert wurden.
Ein Blick in die Maschine
Um zu sehen, ob dieses „schüchterne" Verständnis tatsächlich im Gehirn der KI verborgen war, verwendeten die Forscher ein spezielles Werkzeug namens Sparse Autoencoder (denken Sie daran als Röntgengerät für KI-Gedanken).
Sie fanden heraus, dass die KI spezifische interne „Schalter" oder „Merkmale" besitzt, die aufleuchten, wenn sie über Emotionen, soziale Interaktionen oder sensorische Details nachdenkt.
- Vergleich: Stellen Sie sich ein Klavier vor. Wenn die KI ein Lied über „Gerechtigkeit" spielt, trifft sie hauptsächlich die Tasten für „Gesetz" und „Gericht". Aber wenn Sie unter die Haube schauen, können Sie sehen, dass die Tasten für „Traurigkeit" und „Berührung" tatsächlich mit Drähten im Inneren des Klaviers verbunden sind. Sie sind da, aber die KI drückt sie nicht, wenn sie von selbst spielt.
Als die Forscher diese „Emotions-Schalter" manuell zwangen, eingeschaltet zu bleiben, begann die KI tatsächlich, mehr emotionale Beschreibungen zu generieren. Dies bewies, dass die Fähigkeit existiert, aber nicht natürlich genutzt wird.
Das Fazit
Die Studie kommt zu dem Schluss, dass aktuelle KI-Modelle nicht so in der Welt verankert sind wie Menschen.
- Sie sind hervorragend darin, die Muster menschlicher Sprache nachzuahmen.
- Sie können Konzepte wie „Emotion" oder „Berührung" verstehen, wenn Sie sie direkt darauf lenken.
- Aber wenn sie frei denken und sprechen dürfen, verlassen sie sich zu stark auf wort-zu-wort-Verbindungen und versagen darin, auf die Gefühle, Körperempfindungen und sozialen Erfahrungen zuzugreifen, die menschliche Bedeutung so reich machen.
Die Forscher schlagen vor, dass das bloße Vergrößern der KI oder das Trainieren mit mehr Text dies nicht beheben wird. Um die Lücke wirklich zu schließen, müssen wir möglicherweise grundlegend ändern, wie wir diese Modelle bauen und trainieren, indem wir ihnen vielleicht eine Möglichkeit geben, die Welt zu „erleben", anstatt nur darüber zu lesen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.