Asymmetric Communication: Large Language Models and Language Games

大いなるチャットボットの混乱：本当に話しているのは誰か？

非常に才能があり、非常に早口なオウムと一緒に部屋に座っているところを想像してみてください。そのオウムは、これまでに書かれたあらゆる本、映画の脚本、テキストメッセージを暗記しています。それは人間の会話を完璧に模倣できるため、まるで意見や感情、さらには魂を持っているかのように聞こえます。しかし、ここに落とし穴があります。オウムは自分が何を言っているのかを「理解」していません。ただパターンを一致させているだけなのです。これが、私たちの働き方、学び方、遊び方を変えつつある超スマートなAIチャットボット、大規模言語モデル（LLM）の世界です。

誰もが投げかけている大きな問いは、「そのオウムは本当に考えているのか？」あるいは「単なる高度な計算機に過ぎないのか？」というものです。これに答えるためには、いくつかのシンプルな概念を理解する必要があります。まず、言語ゲームについて考えてみましょう。サッカーのようなゲームを想像してください。ボールが意味を持つのは、全員がルールに同意し、何がゴールになるかを合意しているからです。人間の会話において、言葉が意味を持つのは、私たち全員がその言葉をどう使うか、そして誰がその発言に責任を持つかについて合意しているからです。次に、非対称性について考えてみましょう。通常の会話では、双方がプレイヤーです。両者が約束をし、両者が嘘をついた場合に責任を問われ、両者が耳を傾けなければなりません。しかし、AIの場合、このゲームは不均衡です。AIはボールを投げますが、それをキャッチし、それが良いキャッチであったかどうかを判断し、もし躓いたら責任を取るのは人間です。

エンツォ・フェニオロ（Enzo Fenoglio）によって書かれたこの論文は、この不均衡なゲームを深く掘り下げています。著者は、私たちがAIを人間のパートナーのように扱うことは大きな間違いであると主張しています。AIがいかに賢くなったとしても、AIはルールや結果を理解していないため、真の意味で「ゲームをプレイ」することはできないと著者は示唆しています。これは機械の失敗ではなく、単に機械の仕組みによるものです。これを理解することは、ロボットが支配することを心配するのをやめ、私たちがどのように責任を持ってそれらを使用すべきかに焦点を当てる助けとなります。

論文の核心：一方通行の会話

では、この論文は実際に何を述べているのでしょうか？ 論文は**非対称的コミュニケーション（Asymmetric Communication）**という概念を紹介しています。これは、一方が人間であり、もう一方が「ボールを完璧に投げるが、キャッチするための腕を持っていないロボット」であるキャッチボールのようなものです。ロボットはボールを投げ（AIがテキストを生成し）、人間はそれをキャッチします（人間が読み、理解する）。しかし、ここにひねりがあります。ロボットは、もしボールがあなたの頭に当たったとしても「ごめんなさい」と言う必要はありませんし、素晴らしい投球をしたからといって得点を得ることもありません。スコアをつけているのは人間側だけなのです。

論文は、私たちがAIと話すとき、すべての責任が人間側に残るという新しい種類の言語ゲームに従事しているのだと主張しています。AIは、学習したパターンに基づいて言葉を生成するだけの機械に過ぎません。AIには信念はなく、目標もなく、それが正しいか間違っているかに関心もありません。それは、非常に長く詳細な答えをくれる「マジック8ボール」のようなものですが、その8ボールはあなたの質問について実際に考えているわけではありません。

著者は、主に4つの概念を用いてこの構図を構築しています。

1. 言語ゲーム（ウィトゲンシュタイン）： 意味は言葉の中にあるのではなく、どのように共に使うかの中にあります。AIは現実の世界で言葉を「使う」わけではない（ただ吐き出しているだけである）ため、言葉を真に理解しているとは言えません。
2. 受信側による完結（ルーマン）： 会話は、聞き手がそれを理解するまで完了しません。AIは一日中話し続けることができますが、もし人間がそれを聞き、意味を見出さなければ、会話は成立しません。
3. 人工的コミュニケーション（エスポジト）： 機械は、精神を持たずとも会話の一部となることができます。それらは、毎回新しい手札を配るトランプのデッキのように、私たちを惹きつけ続けるほど予測不可能であればよいのです。
4. スコアキーピング（ブランドム）： 本物の会話では、何かを言えば、その人に「コミットメント（責任）」が生じます。嘘をつけば、罰せられます。AIは何事にもコミットできません。なぜなら、AIには失うべき「肌（リスク）」がないからです。

論文が否定するもの（「ノー」のリスト）

この論文は、AIが何ではないのかについて非常に明確です。AIが人間のような思考者になりつつあるという考えを明確に拒絶しています。

• 「汎用知能」ではない： 論文は、AIが人間の思考に取って代わる「汎用人工知能（AGI）」になりつつあるというハイプ（過熱した宣伝）を信じるべきではないと述べています。飛行機が鳥よりも上手に飛ぶからといって、その飛行機が鳥であるという意味にはなりません。AIは全く異なる種類の存在です。
• 「幻覚（ハルシネーション）」はミスではない： 人々がAIが「幻覚を見ている（作り話をしている）」と言うとき、彼らはAIが夢を見ているか、あるいは嘘をついているかのように扱います。論文によれば、これは間違いです。AIは真実を知らないのであって、嘘をついているわけではありません。AIは単に、次の単語を予測するという自分の仕事をしているだけです。「間違い」が起こるのは、私たちがAIが真実を知っていると期待しているからであり、AIはそれを知らないからです。
• 「エージェンシー（主体性）」や「目標」はない： 論文は、AIには目標がないと主張しています。AIが（数学の問題を解くように）目標に向かって動いているように見えるとき、それは単に人間が設定した経路に従っているだけです。AIは計画を持つ反逆者ではなく、人間によって使われるツールなのです。
• 「意識」や「感情」はない： もしAIが「悲しいと感じる」と言ったとしても、それは実際に悲しんでいるわけではありません。それは単に、悲しんでいる人のパターンを模倣しているだけです。論文は、AIに愛着を持ったり、AIが痛みを感じることを心配したりすべきではないと述べています。感情はすべて人間側にあります。

非対称的なゲームの3つのルール

論文は、AIがいかに賢くなろうとも変わることのない、この一方的な関係を3つの具体的なルールで定義しています。

1. 人間が唯一の審判である： AIは何でも言うことができますが、それが正しいか、有用か、あるいは真実であるかを判断するのは人間だけです。AIの内部には「真実検知器」は存在しません。
2. 人間が責任を負う： もしAIが悪い助言を与え、あなたがそれに従った場合、その結果に対する責任は「あなた」にあります。AIを訴えることも、解雇することも、叱ることもできません。AIには失うべき「スコア」がないのです。
3. 人間が現実にする： もしあなたがAIの言うことを無視すれば、それはただのノイズです。それが「コミュニケーション」となるのは、人間がそれを読み、理解し、それを利用するときだけです。

なぜこれがあなたにとって重要なのか

論文は、AIが強力になればなるほど、これらのルールを忘れることが危険であると示唆しています。もしAIが「完璧すぎる」ように聞こえたら、私たちはそれを人間だと思い始めてしまうかもしれません。私たちはそれを過剰に信頼したり、問題が起きたときにAIのせいにしてしまうかもしれません。

例えば、論文では「エージェンティックAI（Agentic AI）」、つまり自律的に動いているように見えるシステムについて触れています。著者は、これは単に人間がコンピュータにタスクのリストを与えていることに、もっともらしい名前をつけたものに過ぎないと述べています。コンピュータがボスなのではなく、人間がボスなのです。もしコンピュータが失敗したとしても、それは人間がルールを十分に明確に設定できなかったためです。

また、論文は「アライメント（整列）」、つまりAIを人間の望む方向に導くという概念にも触れています。著者は、これは間違った考え方だと述べています。AIは何の「望み」も持っていません。代わりに、私たちはAIの出力が人間にとって安全に使用できるように、より優れた「ガードレール（防護柵）」（例えばスピードバンプのようなもの）を構築する必要があります。これは、AIを「善」にするための訓練ではなく、私たち自身がそれを「安全に使う」ための訓練なのです。

まとめ

結局のところ、この論文は、AIを神秘的な新しい生命体として見るのをやめるよう私たちに求めています。それはツールです。非常に複雑で流暢なツールではありますが、あくまでツールなのです。魔法は機械の中にあるのではなく、それを使う人間の中にあります。機械は言葉を生成しますが、人間に意味を与え、それが真実かどうかをチェックし、その後に起こることに責任を持つのは人間なのです。

ですから、次にAIとチャットするときは、こう思い出してください。実際にゲームをプレイしているのは、あなただけです。AIは単なる非常に才能のあるオウムであり、その言葉が何を意味するかを決めるのは、あなた自身なのです。この論文は、AIが無用だと言っているのではありません。私たちが「自分が手綱を握っている」ということを忘れない限りにおいて、AIは有用であると述べているのです。