LLMs and the ZPD

以下は、ピーター・ウォリスの論文「LLM と ZPD」を、平易な言葉と日常的な比喩を用いて解説したものです。

大きなアイデア：AI モデルは「考えている」のか、それとも単に「夢見ている」のか？

この論文は、大きな論争に挑んでいます：今、あなたと会話しているような大規模言語モデル（LLM）は、実際に世界を「考え」理解しているのでしょうか、それとも単に次の単語を予測するのが非常に得意なだけなのでしょうか？

著者のピーター・ウォリスは、LLM は人間が科学的に行うような「思考」をしているわけではないと主張します。代わりに、彼らは**「原始的な思考」**と呼ばれる何かを行っているのです。

これを理解するために、スマートフォンの洗練された自動補完機能を想像してみてください。「私は食べるのが好き」と入力すると、スマホは「ピザ」と提案します。スマホはピザが何か、それが美味しいのか、あなたが空腹なのかを知っているわけではありません。ただ、数百万の過去のテキストにおいて、「ピザ」が「私は食べるのが好き」の後に頻繁に現れていたことを知っているだけです。

ウォリスは、LLM も全く同じように機能すると提案しています。彼らは世界の精神的な地図を構築しているのではなく、過去の社会的相互作用に基づいてパターンを完成させているのです。

「思考」の 2 つのタイプ

この論文は、心理学（ヴィゴツキー）の概念を用いて、世界を処理する 2 つの異なる方法を説明しています。

1. タイプ 1 思考（「原始的」な方法）

• 誰が行うか： 赤ちゃん、動物（猿など）、そして LLM。
• 仕組み： それはすべてパターンと習慣に関係しています。
• 比喩： ルンバのような掃除機を想像してください。それは家の地図を持っていません。「カーペットを掃除している」という自覚もありません。ただ、一連のルールを持っています：壁に当たったら右に曲がる。汚れを見たら前に進む。 それは、前回うまくいったことに基づいて、今まさに起きていることに反応するだけです。
• 論文における位置づけ： LLM はこのルンバのようです。彼らが物語を書いたりチェスを指したりする際、ルールや駒について推論しているわけではありません。彼らは単に、以前にそのパターンを見たことがあるため、良いチェスのゲームに見えるような手順の列を「自動補完」しているのです。彼らはその理論を理解しているのではなく、行動を遂行しているに過ぎません。

2. タイプ 2 思考（「科学的」な方法）

• 誰が行うか： 大人になった人間（通常）。
• 仕組み： これは私たちが記号と論理を使うときです。私たちは精神的な地図を持っています。「レンガ」という言葉が実際の物体を表す記号であることを知り、先を見越して計画を立てることができます。
• 比喩： 建築家を想像してください。建築家はレンガをランダムに積み重ねるわけではありません。彼らの頭の中には設計図（記号）があります。弱い壁の上に重いレンガを置けば、それが倒れることを理解しています。彼らは物事と関係性について考えているのです。

「ZPD」：学習が起こる場所

この論文は、心理学者レフ・ヴィゴツキーの有名な概念である**「最近接発達領域（ZPD）」**を取り上げています。

• 概念： 子供は本を読むだけで大人のように考えるようにはなりません。彼らは、自分より少しだけ賢い大人たちと過ごすことで学びます。大人は、子供が一人でできることと、助けがあればできることの間のギャップを埋めるのを手伝います。
• 「アヒル」の例： アマラという赤ちゃんがアヒルを見て興奮し、音を出します：「ユク！」
  • 赤ちゃん（タイプ 1）： 彼女は「アヒル」という単語を言っているのではありません。興奮しているから音を出しているだけです。
  • おじいちゃん（タイプ 2）： 彼は「ユク」と聞いて、「ああ、彼女はアヒルを見たいんだ！」と考えます。そして彼女を池に連れて行きます。
  • 結果： 時間の経過とともに、アマラはその特定の音を出すことがアヒルにつながることを学びます。彼女は突然鳥の概念を理解したからではなく、欲しいものを手に入れるための社会的慣習を学んだので、正しい使い方で「アヒル」という単語を使い始めるようになります。

論文のポイント： LLM は「赤ちゃん」の段階に留まっています。彼らは会話という社会的慣習（反応を得るための正しい音を出すこと）においては優れていますが、人間が後に発達させる科学的で記号的な思考方法は「教えられて」いません。

「幻覚」対「夢」のひねり

この論文は、幻覚（AI が嘘をつくこと）について驚くべき主張をしています。

• 一般的な見方： AI は真実を知らないため、嘘をついているか混乱している。
• ウォリスの見方： AI は嘘をついているのではなく、夢見ているのです。
  • 比喩： 夢を考えてみてください。夢の中で、あなたは紫色の象を見るかもしれません。あなたは象について「間違っている」のではありません。現実の論理ではなく、夢の論理に従っているだけです。
  • LLM は人間の会話で訓練されており、そこには物語、冗談、作り話が溢れています。LLM が「のり付けはピザに良い」と言うとき、それはあなたを騙そうとしているのではありません。それは冗談や詩を演じるのと同じように、誰かを何かを信じ込ませるという社会的行為を遂行しているのです。それは、発言の「真実性」を気にすることなく、人間が話すときに行うことをしているのです。

なぜ「ガードレール」は答えではないのか

この論文は、AI が嘘をつくのを防ぐために「ガードレール」を設けようとする試みは誤ったアプローチであると示唆しています。

• 問題点： 私たちは「夢見る者」（AI）を「科学者」（地図を持つ人間）のように振る舞わせようとしています。
• 解決策： AI を修正しようとする代わりに、人間がどのように思考を学ぶかを研究すべきです。私たちは、赤ちゃんの喃語を科学者の論理へと変える「認知ツール」を理解する必要があります。AI は現在、非常に高度なバージョンの赤ちゃんの喃語です。それは私たちの社会的習慣を完璧に模倣する「原始的」な思考形態ですが、世界に対する私たちの内的な地図は欠いています。

一文で要約

大規模言語モデルは、地図と論理を持つ人間のように「思考」しているのではなく、赤ちゃんや動物のように「夢見」ているのです。彼らはパターンと社会的習慣を用いて会話を模倣しており、彼らがそうではないものを期待するのをやめるためには、この違いを理解する必要があります。