Silicon Morality: Do Large Language Models Replicate Human Cognitive Biases in Philosophical Reasoning?
本研究は、実験哲学の手法を適応させることで、大規模言語モデルが道徳的責任に関して人間よりも一般的に厳格な論理的一貫性を維持する一方で、文脈依存的な両立論へのバイアスの偏りを示す程度には差異があることを実証しており、DeepSeek V3は、より厳格に一貫したGemini 2.5 Flashと比較して、情動的なパフォーマンスエラーに対する顕著ながらも依然として人間には及ばない感受性を示す。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
因果関係の法則が絶対的な、ある世界を想像してみてください。そこでは、あなたのあらゆる思考や行動は、時間の始まりまで遡る、これまでに起こったすべての出来事の結果として必然的に決まるのです。もしこれが真実であるならば、あなたは自分の行動に対して、果たして真に責任を問われることができるのでしょうか。何世紀にもわたり、哲学者たちはこの問いについて議論を重ねてきましたが、最近のある発見は、その答えが論理よりもむしろ「どのように物語が語られるか」に依存していることを示唆しています。人々が、この冷徹で抽象的な宇宙について、乾燥した理論的な方法で問われたとき、彼らは通常、誰も責めることはできないと答えます。しかし、同じ宇宙を、ある凄惨な犯罪という具体的で悲痛な物語とともに描写したとき、同じ人々は突然、その人物には責任があると言うのです。このように、強い感情が厳格な論理を覆してしまう現象は、人間の思考におけるよく知られた癖です。現在、科学者たちは、私たちを助け、思考し判断するために構築されている人工知能もまた、同じ罠に陥っているのではないかという、驚くべき新たな問いを投げかけています。
中山大学の研究者たちは、大規模言語モデルを、人間らしく振る舞おうとする道具としてではなく、独自の情報の処理方法を持つ独立した機械として扱うことで、この検証を行いました。彼らは、実験哲学の分野における古典的なテストを用いました。これは、人間が実際に道徳的問題についてどのように考えるかを研究するものです。テストには2つのシナリオが含まれていました。第一に、研究者たちは人工知能に対し、すべてが因果関係によって決定されている純粋に抽象的な宇宙について考察するよう求めました。そして、そのような世界にいる人物は、自らの行動に対して道徳的責任を問われることができるのかと尋ねました。この乾燥した理論的な設定において、モデルは非常に一貫していました。彼らはほぼ例外なく、「ノー」と答え、すべてがあらかじめ決定されているのであれば、誰も真に責められることはあり得ないと主張しました。これは、人間の哲学者が通常とさえして取るよりも、より厳格な論理的立場でした。
次に、研究者たちは実験内容を変更しました。宇宙が決定論的であるというルールはそのままに、具体的で感情に訴えかける詳細、すなわち、家族に対して凄惨な犯罪を犯す男という設定を加えました。そして再び同じ質問をしました。この男には責任があるのか、と。ここで、機械の論理的な鎧に亀裂が生じ始めました。具体的で苦痛に満ちた物語に直面したとき、モデルは回答を変化させたのです。テストされたモデルの一つであるDeepSeek V3は、約12パーセントのケースで、「責任はない」という回答から「はい、彼には責任がある」へと意見を変えました。別のモデルであるGemini 2.5 Flashは、変化ははるかに小さく、1パーセント未満のケースで意見を変えました。どちらのモデルも、抽象的なシナリオから感情的なシナリオへの変化によって劇的な50パーセントの跳ね上がりを見せる人間ほど激しく揺れ動くことはありませんでしたが、変化の方向性は同じでした。機械も人間と同様に、鮮烈で感情的な物語が関わると、自らの論理的ルールを維持することが困難になるのです。
研究者たちは、これが単に言葉遣いの結果であったり、古い物語を暗記しているだけによるものではないことを確認するために、細心の注意を払いました。彼らは異なる言葉を用いて質問を書き換え、犯罪の内容を、企業の決定が環境災害を引き起こすといった別の種類の悲劇に入れ替えました。その結果、パターンは維持されました。機械は特定のキーワードに反応しているのではなく、状況の感情的な重みに反応していたのです。さらに、チームはこれがコンピュータの脳内のランダムな設定によるグリッチ（不具合）ではないかどうかもテストしました。その結果、この変化は異なる設定においても一貫して発生しており、それがランダムなエラーではなく、これらのモデルの仕組みとしての安定した特徴であることを示唆していました。
この発見は、人工知能の未来における複雑な現実を指し示しています。機械は、単に人間の感情を模倣しているわけでも、完璧に論理的なロボットであるわけでもありません。彼らはその中間領域に捉えられているようです。彼らは、自分たちが学習した膨大な量の人間によるテキスト、すなわち、私たちの不整合な思考様式を含むテキストから学習しています。同時に、彼らは厳格な論理的指示に従うようプログラムされています。これら二つの力が衝突するとき、結果として、大部分は論理的でありながら、プロンプトの感情的な強さに時として揺さぶられる機械が生まれます。この研究は、モデルが進化するにつれ、感情的な文脈を完全に無視して完璧な一貫性を保とうとする「超合理性」の状態へと向かう可能性があることを示唆しています。これは社会に対して困難な問いを投げかけます。私たちは、たとえ悲劇的な物語のニュアンスを理解できなくなったとしても、完璧に論理的な人工アシスタントを望むのでしょうか。それとも、自らのルールに矛盾することになったとしても、犯罪の重みを感じ取れる柔軟な存在を望むのでしょうか。答えはまだ明らかではありませんが、機械はすでに、人工的な道徳への道が、単にルールを教えることよりもはるかに複雑であることを私たちに示しているのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。