Do people expect different behavior from large language models acting on their behalf? Evidence from norm elicitations in two canonical economic games
2,600人以上の参加者を対象とした2つの事前登録済み研究を通じて、本論文は、人々が大規模言語モデルに対して人間とは異なる社会的規範を適用しており、機械が生成した申し出を不適切かつ拒絶しやすいと判断する一方で、機械による拒絶については人間によるものと同程度に適切であると見なしていることを示している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
パーティーの席で、二人がピザを分け合っている場面を想像してみてください。一人は人間、もう一人は人間の代理として動いているロボットです。この論文は、シンプルながらも深遠な問いを投げかけています。「私たちは、ロボットが人間と同じルールに従うことを期待しているのだろうか？」
研究者のパヴェウ・ニシュチョタ（Paweł Niszczota）とエリア・アントニオウ（Elia Antoniou）は、この疑問を解明するために2つの「ゲーム」を実施しました。これらのゲームを、機械が関与したときに人々が公平性をどのように判断するかを測る「社会的ストレス・テスト」だと考えてください。
設定：2つの社会的ストレス・テスト
ゲーム1：独裁者ゲーム（「寛大なホスト」）
あるホストがピザを丸ごと一枚持っており、ゲストにどれくらい分けるかを決めなければならない場面を想像してください。ゲストには決定権はなく、与えられたものを受け取るだけです。
- 人間のホストの場合： もし人間が9切れを自分で取り、ゲストに1切れだけ与えたとしたら、私たちは「少しケチだけど、まあいいか」と思うかもしれません。
- ロボットのホストの場合： 研究者たちは、ロボット（人間の代理として行動している）が全く同じことをした場合、それがどれほど「社会的に適切か」を人々に評価させました。
ゲーム2：最後通牒ゲーム（「公平性の警察」）
今度は、ホストが1切れのピザを提案しますが、ゲストには「拒否ボタン」があります。もしゲストがその提案を不公平だと感じたら、ボタンを押すことができ、その場合、誰もピザを食べられなくなります。
- ゲストとしてのロボット： もし人間がひどい条件を提示した場合、ロボットは拒否ボタンを押せるのでしょうか？
- ホストとしてのロボット： もしロボットがひどい条件を提示した場合、人間が拒否ボタンを押すことは許されるのでしょうか？
結果：「ロボットのダブルスタンダード」
この研究により、人々がロボットに対して非常に具体的で、ある種矛盾したルールを持っていることが明らかになりました。以下に、簡単な比喩を用いて解説します。
1. ロボットは「完璧に公平」でなければならない（ホストのルール）
ロボットが「ホスト」（お金をどう分けるかを決定する側）として行動する場合、人々は人間よりもはるかに厳しくなります。
- 比喩： 人間がホストで9切れを自分で取った場合、あなたは呆れて目を丸くするかもしれません。しかし、ロボットが9切れを取った場合、人々はそれをより不適切であると感じます。
- 結果： 人々は、ロボットが人間よりも寛大であることを期待しています。もしロボットが自分勝手な振る舞いをしようとすると、人々は厳しく批判します。人間が意思決定をロボットに委託した場合、そのロボットは「ケチ」であってはならない、と人々は感じているようです。
2. ロボットは「公平性の警察」になれる（拒否のルール）
ロボットが「ゲスト」（提案を拒否できる側）として行動する場合、人々は厳しくなりません。
- 比喩： 人間のゲストが悪い提案を拒否するのは普通のことです。ロボットのゲストが同じ悪い提案を拒否しても、人々は「それも問題ない」と考えます。
- 結果： 人々は、ロボットが公平性を執行することに全く異論はありません。ロボットが「いや、その条件は悪い。私は立ち去ります」と言うことに対して、人々は抵抗を感じません。実際、人間と同様に、ロボットが悪い提案を拒否することは適切であると感じられています。
3. 「寛大すぎる」というひねり
ここが最も驚くべき部分です。もしロボットが非常に寛大な提案をした場合（例えば、ゲストに9切れを与え、自分が代表する人間に1切れだけ残す場合）、人々はその提案を拒否することが、人間が行った場合よりもより適切であると考えます。
- 比喩： ホストであるロボットが、ゲストにピザのほとんどを与え、代表する人間にはほとんど残さない場面を想像してください。人々はこう思います。「待てよ、これは変だ。ロボットはゲストに親切になりすぎて、自分を雇った人間を傷つけているのではないか」。
- 結果： 人々は、ロボットが「寛大すぎる」ことも良くないと考えています。ロボットは公平性の「ゴールドリックス・ゾーン（ちょうど良い領域）」を見つけなければなりません。もしロボットが過度に寛大であれば、それは不審、あるいは自分を代表する人間に対して不公平に見えるのです。
総括：認知的なのか、感情的なのか
著者らは、私たちが人間と接するとき、その人の感情や意図を理解しているのだと示唆しています。一方で、ロボットと接するとき、私たちは異なるレンズを通して見ています。
- 意思決定者（ホスト）として： 私たちは、ロボットには公平であるという「認知的」な義務があると感じています。もしロボットが利己的であれば、それは自分を雇った人間に対する裏切りと感じられます。
- 執行者（警察）として： 私たちは、ロボットを単に仕事をこなす道具だと考えています。もしロボットが悪い取引を拒否したとしても、それは単に公平性のルールに従っているだけであり、受け入れられる行為なのです。
まとめ
要するに、人々は私たちの代わりに動く大規模言語モデル（LLM）に対して、ダブルスタンダードを持っています。
- 自分勝手になるな： ロボットがお金を分配する場合、公平である（あるいは人間よりも公平である）必要があります。
- 親切すぎるな： ロボットがお金を分配する場合、相手に「寛大すぎる」ことは避けるべきです。そうでなければ、代表する人間を傷つけているように見えてしまいます。
- ルールを執行せよ： ロボットが悪い取引に対して「ノー」と言うのであれば、それは全く問題ありません。
この研究は、私たちが単に盲目的にロボットを社会に受け入れているわけではないことを結論づけています。私たちには非常に具体的で微細な期待があります。私たちは、ロボットが公平性の厳格な執行者であることを望んでいますが、資源の分配に関する実際の決定を下そうとする場合には、非常に批判的な視線を向けているのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。