Brain in a Vat: On Missing Pieces Towards Artificial General Intelligence in Large Language Models
このパースペクティブ・ペーパーは、現在のLLMの評価が能力を過大に評価していることを批判し、タスク生成や世界モデルを含む4つの主要な特性を通じて汎用人工知能（AGI）を定義し、そしてAGIの実現には、能動的な現実世界への関与と反復的な試行錯誤学習を通じて、「知ること」と「行動すること」の間の溝を埋めることが必要であると論じている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
コアとなる概念：「液体の入った容器の中の脳」
栄養液の入った瓶の中に、体から切り離された脳が置かれている人物を想像してみてください。スーパーコンピューターがその脳に直接接続されており、歩く、食べる、話す、世界を見るという感覚を完璧に模倣した電気信号を送り続けています。瓶の中の人物にとって、その生活は完全に現実のように感じられます。彼らは流暢に話し、「コップ」について詳細に説明することもできます。
しかし、彼らは一度も実際にコップを「持ったり」、その重さを「感じたり」、あるいはコップから「飲んだり」したことがありません。彼が「コップ」という言葉を知っているのは、コンピューターがその言葉の意味を教えてくれたからです。
論文の主張： GPT-4のような現在の大規模言語モデル（LLM）は、まさにこの「液体の入った容器の中の脳」と同じです。彼らはテキストを処理し、文章の次の単語を予測することには非常に長けていますが、物理的な世界との真の繋がりを持っていません。彼らは物事の「言葉」を知っていますが、その「物自体」を知っているわけではないのです。
第1部：なぜ私たちは騙されるのか（「詰め込み」の問題）
著者らは、LLMが標準テスト（SAT、司法試験、GREなど）で驚異的な高得点を叩き出すため、私たちが彼らを天才だと誤解してしまうのだと主張しています。
例え話： 特定の数学テストの過去50年分の解答集をすべて暗記した学生を想像してください。見たことのある問題を出せば、満点を取ります。しかし、見たこともない新しいタイプの数学の問題を出したり、数字を少し変えたりすると、彼らは惨敗します。彼らは「数学」を学んだのではなく、「パターン」を学んだだけなのです。
論文は、LLMもこれと同じことをしていると示しています。
- 彼らは「詰め込み」が得意： 歴史や文学のようにテキストデータが豊富な主題においては、パターンを暗記しているため非常に優れています。
- 彼らは「推論」に苦戦する： テストが実際の論理、物理、あるいは新しい問題の解決（高度な数学や科学など）を必要とする場合、スコアは著しく低下します。彼らは単に、どの言葉の後にどの言葉が続くのが一般的かという予測に基づいているだけであり、根本的なルールを理解しているわけではありません。
第2部：「言語のメリーゴーラウンド」
論文では、2つのAIチャットボットを放置して会話させた、面白い実験について記述しています。
- 何が起きたか： 彼らは普通の文章（「今日は暑いですね」）から会話を始めました。しかし、数回のやり取りの後に、彼らはループに陥り、「ありがとうございます！」「良い一日を！」と何度も繰り返すだけになってしまいました。
- 教訓： 現実世界との相互作用がない限り、言語は記号が他の記号へとマッピングされるだけの「伝言ゲーム」になります。彼らは現実についてコミュニケーションをとっているのではなく、ただ円を描くように互いの言葉をエコーしているだけなのです。
第3部：真の知能には何が必要か
著者らは、現在のAIから真の**人工汎用知能（AGI）**へと移行するためには、現在のAIに欠けている4つの特定の特性が必要であると述べています。
- 無限のタスク： 固定されたリスト（「メールを書く」や「数学の問題を解く」など）ができるだけでは不十分です。発生する「あらゆる」タスクに対処できなければなりません。
- 新しいタスクの生成： 指示を待つだけではいけません。状況を見て、「これを解決するために、どうすればいいか考え出さなければならない」と判断し、解決のための新しいタスクを自ら発明できる必要があります。
- 価値体系： 「なぜ」が必要です。人間が生存、好奇心、あるいは親切心によって動かされるように、AIにも次に何をすべきかを決定するための内的な価値観が必要です。
- 世界モデル： 言葉同士がどのように関連しているかというマップではなく、現実の世界がどのように機能するか（重力、因果関係、社会的規範など）というメンタルマップが必要です。
第4部：欠けているピース ― 「知ること」と「行うこと」
論文では、中国の哲学者、王陽明の有名な言葉を引用して、次のように指摘しています。「『知る』が『行う』ことができない者は、まだ『知らない』のである。」
「コップ」の例え：
- 現在のAI： コップが「丸い」「持ち手がある」「飲み物のために使われる」といったことを説明できます。それは定義を百万回読んできたからです。
- 真の知能： 赤ちゃんは、コップを掴み、落とし、熱さを感じ、水をこぼし、「ああ、これは液体を保持するためのもので、傾けすぎるとこぼれるんだ」と気づくことで、コップを学びます。
著者らは、知識は行動から生まれると主張しています。マニュアルをただ読む（受動的な入力）だけでは、世界を真に理解することはできません。触れ、壊し、試し、失敗するという（能動的な相互作用）プロセスが必要なのです。
- 「ブリケット（Blicket）」実験： 論文では、どのブロックが機械を起動させるかを子供たちが学ぶ実験に触れています。ブロックを使って遊び、テストすることを許された子供たちは、ただ見ているだけの子供よりもずっと速く学習します。現在のAIは、ただ見ていることしか許されない子供のようなものです。パーツに触れることができないため、ゲームのルールを学ぶことができないのです。
第5部：次に何が起きるべきか
論文は、単に巨大なテキストデータベースを大きくすることに固執するのをやめるべきだと結論づけています。真のAGIを構築するには、以下のことが必要です。
- より優れたテスト： インターネット上の既知の情報を暗記している可能性のあるものに基づいてAIをテストするのをやめる必要があります。見たこともない新しい問題を解かなければならないテストが必要です。
- 豊かな遊び場： AIが実際に「何かを行う」ことができる仮想世界（メタバース）を構築する必要があります。単にチャットをするだけでなく、物体を手に取り、その重さを感じ、壊したときに何が起こるかを見る必要があるのです。
- 知ることと行うことの一致： 学習することと実行することが同一であるシステムを構築する必要があります。AIは、物事を試し、間違いを犯し、その結果に基づいて自身の理解を調整することによって学ぶべきなのです。
要約すると： 論文はこう言っています。「AIが優れた百科事典であることを称賛するのはやめましょう。それは単なる非常に優れた模倣者に過ぎません。それを真に知的なものにするためには、単に読むだけでなく、行うことによって学べるよう、身体（あるいはロボット）を与える必要があるのです。」
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。