Why Sampling Is Not Choosing: Intentionality, Agency, and Moral Responsibility in Large Language Models

論文「サンプリングは選択ではない（Why Sampling Is Not Choosing）」の解説：シンプルかつ創造的な比喩を用いて

大きな問い：AIを責めることはできるのか？

想像してみてください。あなたが非常に高度なAIに、物語を書いたり、アドバイスを求めたり、問題を解決したりするように頼んだとします。時として、AIは意地悪なことや、間違ったこと、あるいは倫理に反することを言ってしまうことがあります。この論文が投げかける大きな問いは、**「その発言に対して、AIを責めることができるのか？」**ということです。

著者のジョセフ・ケシェット（Joseph Keshet）は、答えは**「ノー」**だと言います。AIは人間のように振る舞い、まるで「心」を持っているかのようなテキストを生成できますが、それは道徳的な主体ではありません。AIはその行動に対して責任を負うことはできないのです。

核となる議論：「コミットメント（約束・関与）」のギャップ

道徳的な責任（賞賛されたり非難されたりすること）を負うためには、存在には「エージェンシー（主体性）」が必要です。しかし、単なる主体性ではなく、**「コミットメントを担う主体性（Commitment-Bearing Agency）」**と呼ばれる特別な性質が必要です。

次のように考えてみてください：

• 人間の場合： あなたが友人に「コーヒーを飲みに会おう」と約束するとき、あなたは単に音を発しているわけではありません。あなたは**「コミットメント（約束）」**をしています。自分が行うことを理解し、その決定に責任を持ち、もし約束を破って現れなかったら、「自分が」約束を破ったのだと感じて申し訳なくなるでしょう。あなたは、その行動の「作者」なのです。
• AIの場合： AIは約束をしません。自分の言葉に「責任」を持つこともありません。AIはただ、以前に読み込んだデータに基づいて、次に続く可能性が最も高い言葉を計算しているだけです。

この論文は、このような「私はこれを行っており、これに責任を持つ」という内面的な感覚がなければ、道徳的責任は存在しないと論じています。

なぜAIは「選択」しているのではないのか

AIは（「サンプリング」と呼ばれる仕組みによって）同じ質問に対して異なる回答を出すことができるため、人々はAIが「選択」を行っていると考えがちです。しかし、論文はこの誤解を指摘しています。

比喩：サイコロを振るシェフ
何百万ものレシピを暗記したシェフを想像してください。

1. 人間のシェフ： お腹が空いているから、パスタが好きだから、あるいは料理をしたいから、パスタを作ると「決意」します。彼らは材料を「選択」します。
2. AIシェフ（サイコロを振るシェフ）： このシェフは巨大なサイコロの袋を持っています。誰かがレシピを求めるたびに、シェフは次の言葉を決めるためにサイコロを振ります。
   • もしサイコロの目が「スパゲッティ」になれば、シェフは「スパゲッティ」と書きます。
   • もしサイコロの目が「ヌードル」になれば、シェフは「ヌードル」と書きます。

出力されるものは、美味しそうで完璧な形をしているかもしれません。しかし、そのシェフはスパゲッティを「選択」したのでしょうか？ いいえ、サイコロが選んだのです。シェフはただ、サイコロの目に従うだけの機械なのです。

AIの世界において、「サンプリング」とは単にサイコロを振る行為に過ぎません。それは多様性を生み出しますが、「選択」ではありません。選択には、「なぜあるものを選び、他を選ばなかったのか」という理解が必要です。AIには「なぜ」はなく、ただ統計的に「次に何が来るか」を知っているだけなのです。

機械の中の「幽霊」：指向性（Intentionality）

論文では、**「指向性（Intentionality）」**という哲学的な概念を用いています。これは、精神が何かを「対象としている」能力のことです。

• 内在的指向性（人間）： あなたが犬について考えるとき、あなたの思考は「本物の犬」を対象としています。意味は、あなたが世界を経験してきたという、あなたの内側から生まれます。
• 派生的指向性（AI）： AIが「犬はかわいい」と書くとき、AIは犬について考えているわけではありません。AIは、本の中でよく一緒に現れることが学習された「記号（言葉）」を操作しているだけです。

比喩：辞書 vs 旅行者

• 旅行者（人間）： パリに行ったことがあります。彼らが「パリ」と言うとき、パンの匂いやエッフェル塔の景色を思い出します。言葉は彼らの内側に意味を持っています。
• 辞書（AI）： 「パリ」の定義が含まれています。「パリ」という言葉の後に「フランス」や「エッフェル塔」が続くことが多いということを知っています。しかし、辞書は一度もパリに行ったことがありません。辞書はパリが「何であるか」を知りません。ただ文字のパターンを知っているだけなのです。

AIは超高速の辞書のようなものです。旅行者の模倣を完璧に行うことができますが、一度も旅をしたことはありません。したがって、行動を導く「内面的な生活」や「意図」は持っていないのです。

「推論」モデルについてはどうなのか？

「でも、ステップ・バイ・ステップで考えるAIもありますよね！ 彼らは数学の問題を解き、コードを書けます」と言うかもしれません。

論文は、これらの「推論」モデルでさえ、洗練された方法で行われている**「統計的な推測」**に過ぎないと主張しています。

• 比喩： テストを受けている学生を想像してください。その学生は答えを知りませんが、先生の質問のパターンと解答集を丸暗記しています。彼らは「2+2=4」である理由について、論理的に見える長い説明を書くことができます。しかし、彼はそれを「理解して導き出した」のではなく、単にその文章の結末として「4」が最も確率が高いと予測しただけなのです。

たとえAIが「思考の連鎖（Chain of Thought）」を生成したとしても、それは依然としてパターンのもとで次の言葉を予測しているだけであり、論理を理解したり、真実を重んじたりしているわけではありません。

結論：責任は誰にあるのか？

AIは複雑なパターンマッチングマシン（前述のサイクロを振るシェフや辞書のようなもの）であり、「コミットメントを担う主体（人間のような存在）」ではないため、AIを責めることはできません。

• 論文の判決： もしAIが有害なことを言ったとしても、「AIが悪い」と言うことはできません。私たちは「人間」に目を向けなければなりません。
• 誰が責任を負うのか？ AIを構築した人々、それを展開した企業、そして質問をしたユーザーです。

最終的なメタファー：
ハンマーが誰かの足の指を叩いたとき、私たちはハンマーを責めません。ハンマーを振っている人を責めます。

• AIはハンマーです。
• 「サンプリング（ランダム性）」は、ハンマーがわずかに異なる弧を描いて振られることに過ぎません。
• 人間こそが、その柄を握っている者なのです。

論文は、AIを道徳的な人格として扱うのをやめ、一つの「道具」として扱うべきだと結論づけています。私たちは、道具そのものではなく、その道具を規制し、その道具を使う人間を規制すべきなのです。