Responses to Unfavorable Outcomes Produced by Human and Artificial Agents: A Dual-Pathway Model of Upward Counterfactual Thinking and Intentionality Attribution
本論文は、人工的なエージェントによってもたらされる不利益な結果は、人間によるものよりも容易に受け入れられることを示しており、これは人々がAIに対しては上方への反事実的思考や意図性の帰属をあまり行わないためであり、この格差は結果が持つ個人的な利害関係が高くなるほどより顕著になる。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
想像してみてください。あなたはテストで悪い点数を取ったばかりか、あるいは、お気に入りのピザのデリバリーが冷めて遅れて届いたところだとします。あなたの脳はすぐに、小さな探偵のような働きを始めます。あなたは自分自身に二つの大きな問いを投げかけます。「誰かがもっと努力していれば、これは違っていたのではないか？」そして「ミスをした人は、私をイライラさせるためにわざとやったのだろうか？」心理学者は、最初の問いを「上方反事実的思考（upward counterfactual thinking）」と呼んでいます。それは、物事がもっと上手くいっていた場合の「もしも」という映画を頭の中で再生しているようなものです。二つ目の問いは「意図性の帰属（intentionality attribution）」に関するもので、これは、相手に何かずる賢い、あるいは意地悪な動機があったのかどうかを推測することです。
さて、ここで、人間のボスによる失敗と、ロボット（コンピューター）による失敗、それぞれ異なる結果に対処しなければならない場面を想像してください。長い間、科学者たちは疑問を抱いてきました。「私たちは、ロボットに対して人間と同じように怒るのだろうか？」という疑問です。人々は、ロボットが失敗したときにそれを嫌う（これを「アルゴリズム嫌悪」と呼びます）と考えている人もいれば、ロボットの方が公平に見えるため、より信頼できると考える人もいます。しかし、すでに悪いことが起きてしまった「後」はどうなのでしょうか？ロボットが原因だった場合、私たちはその結果をより簡単に受け入れられるのでしょうか、それとも単にさらに腹が立つのでしょうか？この論文は、まさにそのフラストレーションの瞬間を掘り下げ、私たちの脳が、血の通った人間によるミスと、デジタルなエージェントによるミスをどのように処理しているのかを探ります。
ロボット対ボス：誰が責任を負うのか？
Zhao、Li、Wenの研究者らによって行われたこの研究は、シンプルだが難しい問いに答えようとしました。「何かがうまくいかなかったとき、それがロボットによるものなら、人間によるものよりも簡単に受け入れられるのだろうか？」という問いです。これを知るために、彼らは参加者が現実感を感じられるような架空のストーリー（シナリオ）を用いて、2つの実験を行いました。
最初の実験では、472人にフードデリバリーの配達員になった場面を想像してもらいました。突然、新しい注文が入りました。それは配達員を遅刻させ、しかも全く逆の方向へ向かわせるようなものでした。断ることはできません。ここでひねりが加わります。配達員の半分には、人間のマネージャーがこのひどい注文を割り当てたと言われ、残りの半分には、コンピューターのアルゴリズムが割り当てたと言われました。
結果は明白でした。コンピューターから指示された場合、人々はその悪い注文をはるかに受け入れやすかったのです。人間のマネージャーがその注文を割り当てた場合、配達員たちはより怒り、単に受け流すことができなくなりました。なぜでしょうか？彼らの脳が、具体的に2つの方法でフル回転し始めたからです。
- 「もしも」の映画： 人間がミスをしたとき、配達員たちは「ああ、マネージャーは別のルートを選べたはずなのに！」とか「他の注文を先に確認できたはずなのに！」と考え始めました。これが上方反事実的思考です。それは、ドアが開けっ放しになっているのを見て、「もし閉めてくれていたら、濡れずに済んだのに！」と考えるようなものです。より良い代替案を想像できればできるほど、現在の状況を受け入れることは難しくなります。
- 「悪意の意図」を探る探偵： 人間が悪い注文を割り当てたとき、配達員たちは「これはわざとやったのか？ 私を無視しているのか？」と考え始めました。これが意図性の帰属です。私たちは人間に感情や選択肢があると考えているため、もしミスをしたとしても、それが悪意によるものではないかと疑ってしまうのです。一方で、コンピューターは単にルールに従っているものと見なされます。ロボットがわざと「意地悪」をしていると考えるのは困難です。それは単なる不具合や計算の結果に過ぎないからです。
この研究は、人間はこれら2つの精神プロセス（「もしも」の映画と「悪意の意図」への疑念）を引き起こすため、その悪い決定を受け入れにくくなることを明らかにしました。ルールに従う機械として見なされるロボットは、これらの思考をそれほど強く引き起こさないため、その悪い決定をより簡単に受け入れられるのです。
「個人的な利害」というひねり
しかし、これは常に起こるのでしょうか？研究者たちは、その悪い結果があなた個人にとってどれほど重要であるかが関係するのではないかと考えました。ここで、2つ目の実験が登場します。彼らは360人に、職場の特別なトレーニングプログラムに参加できなかった場面を想像してもらいました。
今回はルールを変えました。ある人々にとって、このトレーニングは低ステークス（利害が少ない）、つまりキャリアには影響しない楽しいクラスでした。他の人々にとっては、このトレーニングは高ステークス（利害が大きい）、つまり昇進や昇給、あるいは素晴らしいプロジェクトに参加するチャンスを意味していました。参加できないことは、将来にとって大きな打撃となります。
ここから話が面白くなります。ステークスが低い（ただの楽しいクラス）場合、人間が「ノー」と言おうがロボットが言おうが、あまり変わりませんでした。人々は、自分の「もしも」の映画や探偵作業を始めるほどには気にしていませんでした。
しかし、ステークスが高い（キャリアに影響する）場合、人間とロボットの差は爆発的に広がりました。
- 高ステークス ＋ 人間： 人々はフル回転しました。「上司は例外を作れたはずだ！」「上司は意図的に私のキャリアを妨害しているのではないか？」と考えました。怒りと抵抗感は巨大なものでした。
- 高ステークス ＋ ロボット： 人々は依然として残念だと感じてはいましたが、より簡単にそれを受け入れていました。「まあ、コンピューターはルールに従っただけだ」と考え、代替案を想像したり、悪意のある意図を推測したりすることに、それほどエネルギーを割きませんでした。
これが意味すること
では、結論は何でしょうか？この論文は、私たちの脳は、物事が私たちにとって本当に重要な場合にのみ、ロボットと人間を異なるものとして扱うことを示唆しています。
ロボットがあなたの人生を台無しにしたとしても、あなたは気分は悪いかもしれませんが、ロボットに対して「悪い態度」を取っていると責めたり、どうすればもっとうまくできたかを執拗に考えたりすることは少ないでしょう。あなたはそれをシステムの誤作動と見なします。しかし、もし人間が同じ間違いを犯し、特にあなたの仕事や将来がかかっている場合、あなたの脳は激しく反応します。あなたは、彼らがどのように助けてくれた可能性があったか、そして彼らがわざとやったのではないかと疑い始めるのです。
研究者たちは、この「個人的な利害（パーソナル・ステーク）」が、まるで音量のつまみのように機能することを発見しました。ステークスが低いとき、私たちの怒りや疑念のボリュームは下げられ、人間とロボットの違いは静かになります。しかし、ステークスが高いとき、ボリュームは上がり、その違いがはっきりと聞こえてきます。私たちは、人間に対して、機械よりもはるかに高いレベルの意図と柔軟性を求めるのです。
要するに、私たちがロボットに対して寛容なのは、ロボットが優れているからではなく、私たちの脳が、ロボットに「選択」や「動機」があることを想像するのが難しいからです。結果が本当に痛手となる場合、私たちは責任者である人間に多くのことを要求し、ロボットのルールについてはもう少し簡単に受け入れるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。