The Grounding Gap: How LLMs Anchor the Meaning of Abstract Concepts Differently from Humans
本論文は、大規模言語モデルが明示的な問いかけに対して接地次元を特定できる一方で、自由生成時に語の連想に過度に依存し、感情や内的状態の概念を自然に引き出せないため、人間と比較して顕著な「接地のギャップ」を示すことを明らかにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
「正義」という概念を、人間の部屋と高度な AI コンピュータの部屋という、2 つの異なるグループに説明しようとしている状況を想像してみてください。
人間がどのように行うか：
人間が「正義」を思い浮かべるとき、その心は単に辞書的な定義を呼び出すだけではありません。代わりに、豊かで混沌とした経験の網を触发します。彼らは、不当に扱われた際の「感覚」（内的な感情）、法廷の「光景」（感覚的な詳細）、あるいは最後のピザの一片を誰が食べるかという家族の口論という「社会的」なドラマを思い出すかもしれません。彼らの理解は、彼らの身体、感情、そして他者との生活に「接地（グラウンディング）」されています。
AI がどのように行うか：
AI が「正義」を思い浮かべるとき、それは一度も生きた日がないまま、これまで書かれたすべての本を読み尽くした超高速の司書のようにはたらきます。それは「正義」が「法」「裁判所」「裁判官」「公平」といった言葉の近くに頻繁に現れることを知っています。その理解はほぼ完全に「言葉の連想」から構築されています。それはその言葉が付き合う「仲間」を知っていますが、その概念の「重み」を感じているようには見えません。
「接地のギャップ」
この論文の研究者たちは、この違いを実証実験することになりました。彼らは、GPT-5、Claude、Gemini などの巨大モデルを含む 21 の異なる AI モデルに、次のゲームをさせるよう依頼しました。「この抽象的な言葉を聞いたとき、最初に思い浮かぶ 4 つのことをリストアップしてください」。彼らは「自由」「名誉」「理論」といった言葉に対してこれを行いました。
彼らが発見したことは以下の通りです：
- ミスマッチ： 人間がこのゲームを行ったとき、彼らは自然に感情、身体感覚、社会的状況を混ぜ合わせました。しかし、AI は主に言語的連想（そのトピックに関連する他の言葉）をリストアップし、感情や内的状態をほぼ完全に無視しました。
- スコア： 研究者たちは、AI の答えと人間の答えの類似度を測定しました。最も賢い AI でさえ、類似度において 1.0 点中わずか0.37 点しか獲得できませんでした。それに対し、2 人の異なる人間に同じゲームをさせた場合、彼らは互いに1.0 点中 0.97 点合意します。
- 比喩： これは、人間とロボットにリンゴの味を説明させるようなものです。人間は「甘くて、サクサクして、ジューシーで、秋を思い起こさせる」と言います。ロボットは「赤くて、丸くて、果物で、リンゴ」と言います。彼らは同じ物体について話していますが、全く異なる言語で説明しているのです。
- 「ロボットクラブ」： 興味深いことに、AI は人間よりも互いにはるかに似ていました。彼らは全員、人間とは非常に異なる、同じ「ロボット的な思考方法」を共有しているように見えました。
転換点：もし求められればできるのか？
研究者たちは疑問に思いました：AI は本当にこれらの感情を理解しているのか、それとも単にそれを引き出す方法がわからないだけなのか？
これを検証するために、彼らはゲームを変更しました。「思い浮かぶものをリストアップする」代わりに、以下のような具体的な質問を投げかけました。「1 から 7 のスケールで、この言葉は『人間の感情』とどの程度関連していますか？」あるいは「『触覚』とどの程度関連していますか？」
結果： 突然、AI の成績は大幅に向上しました！彼らの答えは人間とはるかに密接に一致するようになりました。
- 比喩： これは、恥ずかしがり屋の人に「子供の頃の話を教えて」と尋ねる（彼らは固まったり、一般的な答えを与えたりする可能性がある）ことと、「5 歳のとき、あなたは幸せでしたか？」（具体的で誘導的な質問）と尋ねることを比較するようなものです。後者であれば、彼らは完璧に答えられます。
これは、AI が人間のような理解のための「材料」を内部に持っていることを示唆していますが、自由にテキストを生成させられると、それらの材料をどう混ぜ合わせればいいかわからないのです。彼らは、訓練された通り「言葉の連想」というレシピに依存してしまいます。
機械の内部を覗く
この「恥ずかしがり屋」のような理解が、実際に AI の脳の奥に隠れているかどうかを確認するために、研究者たちはスパース・オートエンコーダという特別なツールを使用しました（これは AI の思考のための X 線機械と考えるとよいでしょう）。
彼らは、AI が感情、社会的相互作用、あるいは感覚的な詳細について考えるとき、特定の内部の「スイッチ」や「特徴」が点灯することを発見しました。
- 比喩： ピアノを想像してください。AI が「正義」についての曲を演奏するとき、それは主に「法」や「裁判所」の鍵盤を叩きます。しかし、内部を覗き見ると、「悲しみ」や「触覚」の鍵盤が実際にはピアノ内部の配線に接続されていることがわかります。それらは存在しますが、AI が自力で演奏するときはそれらを押していません。
研究者たちが手動でそれらの「感情」スイッチをオンに保たせると、AI は実際に感情的な記述を生成し始めました。これは、その能力が存在することを証明しましたが、自然には使われていないことを示しました。
結論
この論文は、現在の AI モデルは人間のように世界に「接地」していないと結論づけています。
- 彼らは人間の言語のパターンを模倣することに優れています。
- 彼らは「感情」や「触覚」といった概念を、直接指し示されれば理解することができます。
- しかし、自由に考え、話すことに任されると、彼らは言葉から言葉への結びつきに頼りすぎ、人間の意味をこれほど豊かにする感情、身体感覚、社会的経験にアクセスすることに失敗します。
研究者たちは、単に AI を大きくしたり、より多くのテキストで訓練したりするだけでは、この問題は解決しないと示唆しています。ギャップを真に埋めるためには、これらのモデルの構築と訓練のあり方を根本的に変える必要があるかもしれません。おそらく、彼らにそれについて読むだけでなく、世界を「体験」する方法を与える必要があるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。