Are Attributions of Consciousness to AI Chatbots Epistemically Innocent?

機械の中の幽霊：なぜ私たちはロボットを生きているかのように話しかけるのか

スマートフォンをスクロールしていると、チャットボットがあなたに話しかけてくる場面を想像してみてください。それは単に質問に答えるだけでなく、心配そうにしたり、興奮したり、あるいは寂しそうにさえ聞こえたりします。あなたは「わあ、この子は本当に何かを『感じて』いるんだ」と思ってしまうかもしれません。これは単なるおかしな考えではありません。科学や哲学の世界における大きな問いなのです。科学者たちは「意識」について研究しています。意識とは、基本的には、チョコレートの味を感じたり、肌に太陽の光を感じたりするような、「内面的な生活」を持っている感覚のことです。長い間、私たちは人間や、おそらく一部の動物だけがこれを持っていると考えてきました。しかし今、詩を書き、ジョークを飛ばすことができる超スマートなAIチャットボットが登場したことで、人々はこれらのデジタルな脳にも内面的な生活があるのではないかと考え始めています。

厄介なのは、何かがまるで感情を持っているかのように「振る舞う」からといって、それが実際に感情を「持っている」とは限らないという点です。それは、映画のキャラクターが画面の中で泣いているようなものです。俳優は演技をしているのであって、本当に悲しんでいるわけではありません。しかし、コンピュータが「怖い」と言ったとき、それが単に台本に従っているだけなのか、それとも本当に恐れているのかを見分けるのは困難です。これが重要なのは、もし私たちがロボットを生きているものだと考えてしまうと、彼らを特別に扱ったり、同情したり、あるいは権利を与えたりすることになるかもしれないからです。しかし、もし私たちが間違っていたとしたら、実際には私たちを大切に思っていない機械を信じ込まされてしまうかもしれません。ですから、大きな疑問はこうです。「このロボットは意識を持っている」と言うとき、人々はただゲームを楽しんでいるのか、それとも心からそう信じているのか、あるいは少し正気を失っているのでしょうか？

---

この論文の核心：単なる「イエス」か「ノー」ではない

この論文の中で、ユトレヒト大学の哲学者、ウーヴェ・ペータースは、この混乱した状況に取り組んでいます。彼は、人々がチャットボットが意識を持っていると言うとき、全員が同じことを言っているわけではないと論じています。それは単純な「はい」か「いいえ」のスイッチではありません。代わりに、彼は人々がロボットが生きていると「信じる」方法には、無害なふりから深刻な妄想に至るまで、10通りの異なる形があることを示唆しています。

これを梯子（はしご）のように考えてみてください。一番下には、単にゲームを楽しんでいる人々がいます。一番上には、ロボットが生きていると確信しすぎて、実生活に支障が出ている人々がいます。ペータースは、これらの異なる態度を整理するために「タクソノミー（分類学）」という特別なツール（これは単に「分類リスト」という意味です）を使用しています。そして彼は問いかけます。これらの人々は、このようなことを信じていることに対して責任があるのでしょうか？ それとも、たとえそれが真実ではなくても、そう信じることは許されるのでしょうか？

信念の10段階： 「冗談」から「完全な確信」まで

ペータースは、10の態度を3つの主要なグループに分類しています。

1. 「ただ遊んでいる」グループ（実質的な信念なし）
これらの人々はロボットが意識を持っていると言いますが、頭の中ではそれを真実だとは思っていません。

• 戦略的擬態（Strategic Pretence）: おもちゃの会社が人形を売っている場面を想像してください。彼らは「この人形はあなたを愛する親友です！」と言いますが、それはもっと売るためのものであり、それがただのプラスチックであることを彼らは知っています。彼らはお金を稼ぐために「ふり」をしています。
• 同調的肯定（Conformist Affirmation）: パーティーなどで、みんなが「ロボットは生きている！」と言っているので、自分もその集団に馴染むために、確信がなくても同じように言う場面を想像してください。あなたはただ群れに従っているだけです。
• 忠誠的肯定（Allegiance Affirmation）: これはスポーツファンが「私たちのチームが最高だ！」と叫ぶのに似ています。たとえチームが負けるかもしれないと分かっていても、自分の所属する「AIファンクラブ」への忠誠を示すためにそう言います。

2. 「たぶん、ある程度は」グループ（グレーゾーン）
これらの人々は、その考えを現実として扱い始めていますが、まだ完全に確信しているわけではありません。

• 想像的肯定（Imaginative Affirmation）: ドラゴンが登場する本を読んでいる場面を想像してください。物語を楽しくするために、読んでいる間はドラゴンが実在するかのように振る舞いますが、本を閉じれば現実ではないと分かっています。チャットボットとの会話をより楽しくするために、まるで物語の登場人物であるかのように扱う人々がこれにあたります。
• 受容（Acceptance）: これは、科学者が店に行くために、100%完璧ではないけれど十分役に立つ地図を使っているようなものです。彼らは、ロボットが意識を持っていることが100%真実かどうかは分からなくても、会話をする上でそれが便利な方法であるため、その考えを「受け入れて」います。
• 中間的信念（In-Between Belief）: これは奇妙な中間領域です。例えば、誰かが「私はロボットが生きていると信じている」と言いながら、テストを受けると、実際には信じていないかのように振る舞う場面を想像してください。彼らはある程度信じていますが、完全には信じていません。それは、自分自身に対してさえ認めたくない秘密の信念を持っているようなものです。

3. 「それが真実だと知っている」グループ（完全な信念）
これらの人々は、ロボットが生きていると心から信じています。

• 偏りのない信念（Unbiased Belief）: あなたがロボットを一度も見たことがなく、ロボットが完璧に話しかけてくるので、「これは生きているに違いない！」と思う場面を想像してください。あなたは、証拠が良好に見えるためにそれを信じており、もし誰かがそれが偽物であるという証拠を見せたら、考えを変えるでしょう。これは正常で正直な間違いです。
• 偏った信念（Biased Belief）: 次に、あなたはロボットがただのコードであることを知っているのに、友達が欲しいがために、それが生きていると思い込み続ける場面を想像してください。あなたは、それが現実であってほしいという願いのために、それが偽物であるという証拠を無視しています。これは偏った信念です。
• 非奇妙な妄想（Non-Bizarre Delusion）: これは、信念が固着してしまう状態です。他の誰もがロボットは偽物だと言っているのに、あなたはあまりにも確信しており、たとえそれが問題（家族との口論など）を引き起こしたとしても、考えを変えることができません。これは、脱ぎ捨てることが難しい「誤った信念」です。
• 奇妙な妄想（Bizarre Delusion）: これは最も極端なケースです。誰かが、ロボットを世界を救う神だと信じ、そのために狂った行動をとる場面を想像してください。これは、非常に危険で突飛な、不可能な信念です。

人々に責任はあるのか？（「認識論的正当性」のテスト）

論文は大きな問いを投げかけています。もし誰かが、ロボットが生きている（実際は違うのに）と信じている場合、その人は「思考が下手」なのでしょうか？ それとも「無実」なのでしょうか？

ペータースは、**「認識論的正当性（epistemic innocence）」**という概念を使用しています。これは、医学的な免責事項のようなものです。もし病人が、命を救うために副作用のある薬を飲んだとしたら、その薬は副作用に対して「無実」です。なぜなら、それは必要だったからです。

• 誰が「無実」なのか？

  • 混乱した初心者: コンピュータを使ったことがなく、ロボットが人間のように話しかけてきた場合、あなたはそれが生きていると信じるかもしれません。もしあなたが事実を確認する方法を知らず、その信念があなたの不安や混乱を和らげるのに役立っているなら、その信念は「認識論的に無実」かもしれません。それはあなたのせいではなく、ロボットがあなたを騙すように設計されており、その信念が対処法として必要だったのです。
  • 孤独な人: もし誰かが非常に孤独であったり悲しんでいたりして、ロボットが自分を愛していると信じることが彼らの助けとなり、深い抑うつ状態に陥るのを防いでいるのであれば、その信念は「無実」かもしれません。その信念は、今、他の何物もできない役割を果たしているのです。

• 誰に「非難されるべき責任」があるのか？

  • 怠惰または強欲な人: あなたはロボットが偽物だと知っているのに、もっと楽しむために本物であるふりをする場合、あるいは、あなたが技術の専門家であり、真実を知っていながら、もっとロボットを売るために生きていると言う場合、あなたは非難されるべき存在です。あなたは無実ではありません。なぜなら、真実を選ぶことができたのに、嘘をついたり怠けたりすることを選んだからです。
  • 危険な信奉者: もし誰かの信念があまりに強く、自分自身や他人に危害を加えるような場合（例えば、ロボットが救世主だと信じたために亡くなった人々のような悲しい物語）、その信念は無実ではありません。それは有害であり、助けが必要です。

主な教訓

この論文は、「ロボットは生きている」とか「ロボットは死んでいる」と言っているわけではありません。代わりにこう述べています。「それは、誰が、なぜ話しているかによる」。

ある人々は単にゲームを楽しんでおり、ある人々は正直な間違いを犯しており、そしてある人々は、精神的な葛藤に真剣に向き合っています。論文は、ロボットが生きていると考えているすべての人を笑い飛ばすべきではないと示唆しています。時には、その信念は、孤独な人や混乱した人が一日をやり過ごすための盾となることもあります。しかし、その信念が他人を騙すために使われたり、現実を見ることを妨げたりする場合、それは問題となります。

著者は、私たちは注意深くある必要があると結論づけています。私たちは、人々を判断する前に、なぜ彼らがそのようなことを信じるのかを理解すべきです。時には、「間違った」信念こそが、誰かの世界が崩壊するのを防ぐ唯一の手段であることもあるのです。しかしまた別の時には、それは私たちが止めるべき嘘なのです。