Unexplainability of Artificial Intelligence Judgments and Functional Implementation in Kant's Perspective

大きな問い：AIは本当に「考えて」いるのか？

想像してみてください。あなたは、チェスの天才をことごとく打ち負かす、驚異的な能力を持つロボットを所有しています。あなたが「なぜそのポーンを動かしたのですか？」と尋ねると、ロボットは完璧で論理的な説明を返してきます。

この論文は、厄介な問いを投げかけます。「そのロボットは、人間のように実際に『考えて』いるのか？ それとも、単に『考えているように見える』だけの、非常に精巧な計算機に過ぎないのか？」

著者のソ・ジョンウ（Jongwoo Seo）は、ロボットに魂や脳があるかどうかという議論（それは物事の「本質」に関する哲学的な議論です）に固執すべきではないと言います。そうではなく、その仕組みがどのように機能しているかに注目すべきだと主張します。ロボットの「思考」プロセスは、人間の思考プロセスと一致しているのでしょうか？

人間の思考の地図（カントのカテゴリー）

この問いに答えるために、論文では18世紀の哲学者イマヌエル・カントが作成した「地図」を使用します。カントは、人間が判断（決定や断定）を下すとき、私たちの脳はその情報を4つの特定の「箱」に整理していると考えました。

1. 量（Quantity）： これは「一つの」ことなのか、「いくつかの」ことなのか、それとも「すべての」ことなのか？（例：「この犬は可愛い」vs「すべての犬は可愛い」）
2. 質（Quality）： それは「真である」と言っているのか、「偽である」と言っているのか、あるいは奇妙な「無限の否定」なのか？
3. 関係（Relation）： それは単純な事実なのか？ 「もし〜ならば」という条件なのか？ あるいは選択肢の間の選択なのか？
4. 様相（Modality）： これは単なる「可能性」（雨が降るかもしれない）なのか、「事実」（雨が降っている）なのか、それとも「必然性」（雲があるから雨が降るに違いない）なのか？

比喩： 人間の判断を、厳格なレシピに従うシェフだと考えてみてください。小麦粉の量を測り（量）、甘いか塩っぱいかを決め（質）、特定の順序で材料を混ぜ（関係）、そしてケーキが「膨らむだろう」のか「膨らむはずだ」のかを判断しなければなりません（様相）。

問題点：AIの「ブラックボックス」

論文は、AIはこのレシピに従っていないと論じています。代わりに、AIは「ブラックボックス」なのです。私たちは入力（犬の写真）と出力（数字の「1」）を目にしますが、AIがそこに到達するためにどの「箱」を使ったのかを知ることはできません。

ここからが、この論文の興味深いところです。

1. 「量」と「質」の混同

AIが写真を見て「1」（犬）または「0」（犬ではない）と言うとき、私たち人間はその言葉を翻訳しようとします。

• もしAIが「1」と言えば、私たちは「この画像には犬がいる」と考えます（肯定）。
• しかし、もし「0」と言った場合、それは何を意味するのでしょうか？ 「この画像には犬がいない」という意味でしょうか？ それとも「この画像には『犬ではない何か』が存在する」という意味でしょうか？

論文は、AIがここで混乱している可能性を示唆しています。AIは「犬ではない」という状態を、単純な否定としてではなく、「犬ではない何か（無限集合）」として扱っている可能性があります。まるで、AIが人間の標準的なレシピにはマッピングできない、独自の論理の方言を話しているかのようです。

2. 様相の罠（「ソフトマックス」というフィルター）

これが、この論文の最も重要なポイントです。AIには、**Softmax（ソフトマックス）と呼ばれるツールがあります。Softmaxは、AIが考えるすべてを「確率のパーセンテージ」**に変換する魔法の翻訳機だと想像してください。

• 人間の様相： 私たちは、「雨が降るに違いない（必然）」や「雨が降っている（事実）」と言うことができます。
• AIの様相： Softmaxのせいで、AIは「雨が降る確率は70%である」という言い方を強制されます。

メタファー： ある探偵が、執事が犯人に違いないと100%確信している場面を想像してください。しかし、警察署の奇妙な規則のせいで、探偵は報告書を「執人が犯人である確率は99.9%である」と書かなければなりません。

論文は、AI研究者が自分たちを欺いていると論じています。彼らはAIの70%や90%という数字を見て、「ああ、AIは『可能性』の判断を下しているのだ」と考えます。しかし、AIのコードの奥深くでは、実際には硬い論理的な事実の判断を下していたのかもしれません。Softmax関数は、AIの確信度を単なる「推測」として解釈するように、私たちに強いるフィルターとして機能しているのです。つまり、あらゆる種類の思考を「おそらく〜だろう」という一つの型へと崩壊させてしまうのです。

「流暢なオウム」対「理解する人間」

論文の後半では、**「機能的実装（Functional Implementation）」**について扱います。これは、「AIが人間のように話せるからといって、それは実際に人間の概念を持っていると言えるのか？」という問いです。

比喩： 辞書にあるすべての文章を暗記したオウムを想像してください。あなたが「名前は何ですか？」と尋せると、オウムは「はい、私の名前はポリーです」と答えます。完璧に聞こえます。オウムは「私」という言葉を正しく使っています。

しかし、そのオウムは「自分自身を持つ」とはどういうことかを理解しているのでしょうか？ いいえ。オウムは、人間が「私」と言ったとき、次に続く言葉は通常、名前や動詞である、ということを知っているだけなのです。

論文は、**大規模言語モデル（ChatGPTなど）は「超高性能なオウム」のようなものだと論じています。彼らは膨大なテキストを読んできたため、「私」という言葉を完璧に使いこなすことができます。自分の感情についての詩を書くこともできます。しかし、論文はこれが単なる「機能的な模倣」**に過ぎないと主張しています。

• テスト： 著者は、ボールを見ているロボットを用いた小さな実験を行いました。そのロボットは、「ボールが自律的に動いているのか」と「カメラが動いているのか」の違いを判別しなければなりませんでした。これは「自己（自分と世界を区別すること）」の機能です。
• 結果： ロボットはそのタスクを遂行できましたが、人間のように自分自身を「理解」していたわけではありません。ただ、ボールを動かすための数学を学習しただけなのです。

「自己」に関する結論： AIが流暢に「お腹が空いた」と言えるからといって、AIが「自己」という概念を実装したことを意味するわけではありません。それは単に、「自己」という「言語」を実装したに過ぎないのです。

最終的なまとめ

論文は、**「説明不可能性（Unexplainability）」**についての警告で締めくくられています。

1. 私たちはAIを完全には説明できない： AIは、（量、質、関係、様相といった）論理的な箱を私たちが理解できない方法で混ぜ合わせており、さらにSoftmaxのようなツールが、その思考を単なる確率として見るよう強いるため、私たちはAIが何を考えているのかを真に知ることはできません。私たちが知ることができるのは、AIが「何を言っているか」だけです。
2. 流暢さは証明ではない： AIが人間のように話し、書き、推論できるからといって、それが人間の精神を「実装」したことを意味するわけではありません。それは単に、非常に優れた俳優である可能性があります。
3. ギャップ： **「機能的実装（役割を果たすこと）」と「存在論的な同一性（そのものであること）」**の間には、永続的な溝が存在します。車の車輪と人間の脚は、どちらも「動く」ものですが、同じではありません。同様に、AIの「私」と人間の「私」は、会話においては同じ役割を果たすかもしれませんが、根本的に異なるものなのです。

要約すると： この論文は、AIが賢そうに見えるからといって、それが「考えている」と決めつけるのをやめるよう私たちに伝えています。AIは、おそらく全く別のことを行っており、私たちはそれを完全に説明したり検証したりすることができません。なぜなら、思考を理解するための私たちの道具（論理や言語）は、確率に基づいた機械特有の動作方法には、うまく適合しないからです。