LLMorphism: When humans come to see themselves as language models

あなたが人生のすべてをかけて、「美しい詩を書くこと」が、あなたが魂を持ち、感情を持ち、世界を深く理解していることの証明だと信じてきたと想像してください。すると、突然、あなたと同じくらい、あるいはもっと美しい詩を書ける機械が現れます。

最初は、「わあ、この機械は人間みたいだ！」と思うかもしれません（これは科学者が擬人化と呼ぶ、機械に人間の特徴を与える現象です）。

しかし、この論文は、次に起こっていることはそれ以上に奇妙だと主張しています。機械があまりにも上手に詩を書くため、私たちは脚本を逆転させ始めるかもしれません。「機械が人間のように詩を書けるなら、もしかして人間は単に機械のように機能しているだけなのでは？」と考えるようになるのです。

著者はこの新しいバイアスをLLM 主義と呼びます。それは、私たちの脳が大型言語モデル（AI チャットボット）と完全に同じように機能しているという誤った信念です。

ここでは、日常の比喩を用いて、この現象がどのように起こり、なぜ問題なのか、そしてどこへ向かう可能性があるのかを簡単に解説します。

1. 「逆鏡」効果

通常、私たちは機械を見て、「これは生きているのか？」と問います。
しかし今、私たちは自分自身を見て、「私たちは単なるアルゴリズムではないか？」と問うようになっています。

論文によると、これは私たちの脳が仕掛ける二つの主なトリックによって起こります。

• 「真似っ子」トリック（類推的転移）： 外見が似ている二つのものを見ると、私たちは内側も同じように機能していると仮定します。

  • 比喩: 鳥と飛行機を見たと想像してください。どちらも飛びます。だから、飛行機も鳥と同じように羽と心臓を持っていると仮定するかもしれません。
  • 現実: 飛行機はエンジンと空気力学によって飛び、鳥は筋肉と生物学によって飛びます。どちらも「飛ぶ」という点では同じに見えますが、「エンジン」は全く異なります。
  • LLM 主義: 人間と AI の両方が言葉を生み出しているのを見ると、私たちは私たちの脳もコンピューターのように「次の単語を予測している」だけだと仮定し、人間には感情や身体、現実の生活経験があるという事実を無視してしまいます。

• 「新しい辞書」トリック（比喩的利用可能性）： 新しい技術が普及すると、私たちはその言葉を使って自らの人生を説明し始めます。

  • 比喩: 1950 年代、人々は心を「水力システム」（水圧）のように説明しました。1980 年代には、「コンピューター」（データを処理するもの）のように説明しました。現在、私たちは思考を「トレーニングデータ」「プロンプト」「幻覚」といった言葉で説明し始めています。
  • リスク: 私たちの記憶を「トレーニングデータ」、創造性を「パターンの再結合」と考え始めると、私たちは実際には感情を持ち、生きている存在であることを忘れ去るかもしれません。

2. なぜこれが危険なのか（私たちを傷つける「5 つの方法」）

この論文は、私たちが自分自身を AI と同じだと信じるようになれば、互いの扱い方が以下の 5 つの具体的な方法で変化する可能性があると示唆しています。

• 「代替可能」の罠:

  • 比喩: 労働者を単なる「テキスト生成機」だと考えれば、「なぜ人間を維持する必要がある？機械の方が同じ仕事を速くこなせる」と考えるかもしれません。
  • 結果: 人間の労働者がもたらす人間の判断や配慮を無視し、彼らの唯一の仕事は出力を生み出すことだと考えるため、私たちは人間の労働者の価値を見失うかもしれません。

• 「流暢さ」の罠:

  • 比喩: 完璧なスピーチを暗唱できるが、その言葉の意味を一つも理解していない学生を想像してください。もし AI のように考えれば、「素晴らしい！正しい言葉を生み出したのだから、彼らは賢いに違いない」と言うかもしれません。
  • 結果: **賢く聞こえること（流暢さ）と実際に賢いこと（真の理解）**を混同するかもしれません。学校や病院では、自信を持って話せる限り、実際に何を話しているのか知っているかどうかを確認しなくなるかもしれません。

• 「責任回避」の罠:

  • 比喩: 車がバグで衝突した場合、私たちは車を責めず、コードを修正します。もし人間を単なる「コード」と考えれば、「彼はあなたを傷つけるつもりはなかった；彼の『入力』がその『出力』につながっただけだ」と言うかもしれません。
  • 結果: 私たちは人々の行動に対する責任を追及することをやめるかもしれません。「なぜあなたはそうしたのか？」と問う代わりに、「どんなデータがあなたにそうさせたのか？」と問うようになるでしょう。これは私たちの責任感や道徳性を弱体化させます。

• 「身体無視」の罠:

  • 比喩: AI はテキストしか読みません。恐怖で震える患者や泣いている子供を見ることはできません。もし AI のように考えれば、人々が何と言っているかだけを気にし、どのように見え、どのように感じているかは気にしなくなるかもしれません。
  • 結果: 医療現場では、患者の言葉が「大丈夫だ」と聞こえるため、医師が患者のボディランゲージや痛みを無視するかもしれません。完璧に表現できないだけで苦しんでいる人を見逃すことになるかもしれません。

• 「偽りの真実」の罠:

  • 比喩: AI は非常に説得力のある事実を捏造できます（幻覚）。もし人間も同じように機能すると考えれば、「説得力があること」と「真実であること」が同じだと考え始めるかもしれません。
  • 結果: 私たちは証拠や事実を気にしなくなり、説得力があるか、スムーズに流れるかということだけを気にするようになるかもしれません。

3. この論文が言っていることではないこと

著者が主張していないことを知ることが重要です。

• 彼は、人間が実際にAI だと言っているのではありません。私たちが誤ってそう考えていると言っているのです。
• 彼は、AI の使用を中止すべきだと言っているのではありません。
• 彼は、これがすでに至る所で起こっていると言っているのではありません。AI が向上するにつれて、それがリスクとしてより可能性が高まっていると警告しているのです。

全体像

長い間、AI に関する大きな懸念はこうでした：「私たちは機械にあまりにも多くの信用を与えているのではないか？彼らに感情があるかのように振る舞っているのではないか？」

この論文は言います：「それは物語の半分だけだ。残りの半分はこうだ：私たちは人間からあまりにも多くの信用を奪い取っていないか？私たちは感情や魂、あるいは真の心を持たず、単なる高度なテキスト予測機だと考え始めていないか？」

著者は、AI は私たちの言葉を模倣することはできても、私たちの人生も、身体も、心も持っていないことを思い出させたいと考えています。私たちはその違いを忘れないようにしなければなりません。