💬 NLP

Eliciting Trustworthiness Priors of Large Language Models via Economic Games

本論文は、反復的なインコンテキスト学習と信頼ゲームを用いて大規模言語モデルから信頼性の事前分布を抽出する新しい手法を導入しており、GPT-4.1の信頼行動が人間のパターンと密接に一致すること、および温かさと有能さのステレオタイプによって予測可能であることを明らかにしている。

原著者： Siyu Yan, Lusha Zhu, Jian-Qiao Zhu

公開日 2026-02-03

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Siyu Yan, Lusha Zhu, Jian-Qiao Zhu

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

基本的なアイデア：AIはどの程度「信頼できる」のか？

あなたが、お金を扱うための新しいアシスタントを雇う場面を想像してみてください。あなたは彼らに10ドルを渡し、「これを3倍にするから、手元には30ドルあることになる。そのうちいくらかを私に返してほしい」と伝えます。

もし彼らが15ドル返してきたら： 彼らは信頼できます。
もし彼らが0ドルしか返さなかったら： 彼らは信頼できません。

これは「信頼ゲーム（Trust Game）」と呼ばれる有名なゲームの基本的な設定です。通常、心理学者はこのゲームを「人間」の行動を調べるために使用します。しかし、この論文は新しい問いを投げかけています。GPT-4やLlamaのような大規模言語モデル（LLM）は、このゲームにおいてどのように振る舞うのか？ 彼らには、他人をどの程度信頼し、どの程度お返しをするかという「デフォルト設定」が存在するのでしょうか？

問題点：AIに直接聞くだけでは不十分

あなたはこう思うかもしれません。「AIに『あなたは信頼できますか？』と聞けばいいのでは？」と。著者らは、それは良くない方法だと言っています。

「礼儀正しいロボット」問題： もしAIに「私の金を盗みますか？」と尋ねたら、AIはほぼ間違いなく「いいえ、私は役に立つアシスタントです」と答えるでしょう。
現実： 人間と同様に、AIは説得力があり流暢な言葉を操れますが、実際にはリスクの高い選択や信頼できない選択をすることがあります。私たちは、AIが何を「言っているか」ではなく、何を「しているか」を見る必要があるのです。

解決策：「伝言ゲーム」による信頼の測定

AIの真の「信頼設定」を見つけ出すために、研究者たちは「反復的インコンテキスト学習（Iterated In-Context Learning）」という概念に基づいた巧妙な手法を考案しました。

これは、言葉を伝えるのではなく、お金に関する「物語」を伝えていく**「伝言ゲーム」**のようなものです。

セットアップ： 研究者たちは、AIの「世代」の連鎖を作成します。
最初のステップ： AIに対して、人々が信頼ゲームを行っている例をいくつか見せます（例：「Aさんが5ドル送り、Bさんが2ドル返した」）。
AIの番： AIはそれらの例を見て、「もし自分がBさんだったら、いくら返すか？」を予測します。例えば、40%と予測したとします。
ループ： 研究者たちは、その40%という予測値を使って、ゲームをしている人々の「新しい架空の例」を生成します。そして、この新しい例を次のAIに読み込ませます。
結果： このプロセスを30回繰り返します。

なぜこれを行うのか？
あるグループの「平均的な性格」を知るために、彼らが何度もゲームをしている様子を観察している状況を想像してください。最初は結果がランダムに見えるかもしれません。しかし、結果を次々と後ろへ渡していくことで、「ノイズ」は消え去り、後に残るのはAIの**「心の奥底にある本能（あるいは事前分布）」**、つまり信頼がどのように機能するかについての理解です。これは、ラジオのチューニングを合わせ、ノイズが消えて本当の放送局の声が聞こえてくるまで調整する作業に似ています。

研究の結果

1. 「人間らしい」AIもあれば、そうでないAIもある
研究者たちは20種類の異なるAIモデルをテストしました。彼らは、AIに見出された「信頼設定」を、数千人の実際の人間が見せる平均的な信頼設定と比較しました。

勝者： GPT-4.1 が最も人間の行動に近かったのです。その「信頼のダイヤル」は、人間が設定する位置とほぼ正確に一致していました。
敗者： 他のいくつかのモデルは、あまりにもケチすぎる（返金額が非常に少ない）、あるいは奇妙な二重人格（非常に信頼しやすい時もあれば、非常に疑り深い時もある）を持っていることが分かりました。

2. 「リスク」との関連性
興味深いことに、より「リスクが高い（大胆な発言をしたり、チャンスを求めたりする傾向がある）」と評価されたAIモデルほど、信頼ゲームにおいて最も人間に近い振る舞いをするということが分かりました。ルールに従ったりリスクを避けたりすることに厳格すぎるモデルは、この社会的なゲームにおいて、現実の人間のようには振る舞いませんでした。

3. AIは「温かさ」と「有能さ」で人を判断する
研究の第2部では、最も人間らしいAI（GPT-4.1）を使用して、異なる「キャラクター（ペルソナ）」を相手にゲームを行わせました。

AIに対し、「医師」「AI」「イーロン・マスク」「マララ・ユスフザイ」などのキャラクターを相手にプレイするよう指示しました。
発見： AIは全員を平等には扱いませんでした。AIは、「温かさ（Warmth）」（親切、思いやり）と**「有能さ（Competence）」**（賢さ、スキル）の両方を感じさせる相手に対して、より多くのお金を返していました。
魔法の公式： 研究者たちは、「温かさ」と「有能さ」という2つの要素に基づいたシンプルな数学的公式を作成しました。
- キャラクターが「有能（賢い）」ではあるが「温かい（優しい）」わけではない場合、AIはあまり信頼しませんでした。
- キャラクターが「温かい（優しい）」が「有能（賢い）」わけではない場合、AIは少しだけ信頼しました。
- スイートスポット： もしキャラクターが「温かさ」と「有能さ」の両方を兼ね備えていた場合（愛される賢明なメンターのような場合）、AIの信頼度は急上昇しました。これは、人間が他人を判断する方法とも一致しています。

まとめ

この論文は、「お金のゲーム」を用いることで、AIの脳内を覗き込み、その中に隠された信頼のルールを見ることができることを示しています。

一部のAIは、信頼に関してすでに人間と非常によく似た振る舞いをしています。
これらのAIは、人間と同じ2つの基準、すなわち「その人は優しいか？」「その人は有能か？」に基づいて他人を判断しています。
これは、AIが単なる計算機ではなく、測定・研究可能な社会的「バイアス」や本能を持っていることを理解する助けとなります。

この論文が述べていないこと：
著者らは、この手法がAIの安全性（AI Safety）を解決したり、メンタルヘルスの問題を治療したり、あるいは従業員の採用に利用できると主張しているわけではありません。彼らは単に、「これはAIが信頼についてどのように考えているかを測定する方法であり、そこから分かったことはこれである」と述べているのです。

技術要約：経済ゲームを通じた大規模言語モデルの信頼性事前分布の抽出

問題提起

人間中心で信頼できるAIを構築するには、「較正された信頼（calibrated trust）」、すなわちユーザーがAIシステムを適切に利用し、過信（オートメーション・バイアス）と不信（利用停止）の両方を回避できる状態が必要です。これを達成する上での根本的な課題は、AIシステム自体が人間に対してどの程度の信頼を示すかというレベルを特徴付けることです。AIへの信頼は、自己報告による態度を通じて研究されることが多いですが、これらは行動としての信頼とは乖離する可能性があります。さらに、既存の行動研究の多くは、AIには意図性がないと仮定し、信頼を一方通行（人間からAIへ）として扱ってきました。しかし、現代の大規模言語モデル（LLM）は高度な社会的能力を示しており、LLMがいかに信頼を報いるか（返報するか）を研究するための双方向的な枠組みが必要となっています。核心となる問題は、LLMが持つ暗黙の「信頼性事前分布（trustworthiness prior）」、すなわち社会的な相互作用においてどの程度の信頼を返すべきかという帰納的バイアスを、いかにしてロバストに推定するかという点にあります。

手法

著者らは、反復的インコンテキスト学習（Zhu & Griffiths, 2024a）と行動ゲーム理論における信頼ゲーム（Berg et al., 1995）を組み合わせた、新しい抽出手法を提案しています。

1. 信頼ゲームの定式化

信頼ゲームは、ベイズ・フレームワーク内で以下のようにモデル化されます。

設定: 信頼者（Trustor）が受託者（Trustee）に金額 $x$ を送ります。この金額は係数 $m$ （ $m=3$ に設定）によって倍増されます。受託者は、いくら $y$ を返すかを決定します。
信頼性の指標: 返還比率 $r = y / (mx) $として定義されます（ここで$ r \in [0, 1]$）。
生成モデル: 返還額 $y$ は、二項分布 $y \sim \text{Binomial}(mx, r)$ としてモデル化されます。ここで、 $r$ は潜在的な信頼性パラメータです。
事前分布: 信頼性の信念は、ベータ事前分布 $p(r) = \text{Beta}(\alpha, \beta)$ によって捉えられます。

2. 反復的インコンテキスト学習の手順

LLMの暗黙の事前分布 $p(r)$ を抽出するために、著者らはプロンプト上のマルコフ連鎖をシミュレートします。

情報ボトルネック: 各反復 $t$ において、LLMには、前回の反復の推定信頼性 $\hat{r}_{t-1}$ に基づいて生成された、過去 $B=5$ 個の社会的相互作用のバッチ（ $D_{t-1}$ ）が提供されます。
推論: LLMは、新しいシナリオ（例：100トークンを受け取る場合）に対して、受託者が資金の何割を返すかを予測するように促されます。これにより、事後平均 $\hat{r}_t$ が推定されます。
生成: この新しい推定値 $\hat{r}_t$ は、次のバッチの相互作用 $D_t$ を生成するための二項分布のパラメータとして使用されます。
収束: 繰り返される反復を通じて、推定された $\hat{r}$ の分布は、初期のシード値に依存することなく、モデルの基礎となる事前分布 $p(r)$ へと収束します。このプロセスにより、特定の記憶されたデータからモデルの帰納的バイアスを分離します。

3. 実験設計

実験1: 20種類のLLM（GPT-4/5、Claude-3.5、Gemini-2.5、Llama-3/4、Qwen-2.5/3、DeepSeekなどを含む）を評価しました。収束を確認するため（Gelman–Rubin診断 $\hat{R} \leq 1.1$ により検証）、各モデルは270の連鎖（30のシード $\times$ 30の再試行）を実行しました。
実験2: 最も人間らしい挙動を示すと特定されたGPT-4.1に焦点を当て、**信頼者ペルソナ（Trustor Personas）**への感度をテストしました。ペルソナには、職業的役割（医師、AIなど）や公人（イーロン・マスク、マハトマ・ガンジーなど）が含まれます。
モデリングの変動: Fiske (2018) のステレオタイプ内容モデルに従い、温かさ（Warmth）（知覚された意図）と有能さ（Competence）（知覚された能力）に基づいて信頼性の変動を説明する線形回帰モデルを構築しました。

主な結果

1. 信頼性事前分布の抽出

収束: すべてのモデルは急速な収束を示し、通常20イテレーション以内に安定しました。
予測妥当性: 抽出された事前分布は、モデル自身の単発の返報行動を予測する上で、一様事前分布および人間由来のメタ分析的事前分布（Johnson & Misellen, 2011）の両方を大幅に上回りました（最小のRMSDおよび最高のピアソンの $r$ ）。
人間との整合性: GPT-4.1は、人間ベースラインと比較して最も低いカルバック・ライブラー（KL）ダイバージェンス（ $D_{KL} = 0.130$ ）を示し、人間の信頼性分布と最も強い整合性を示しました。
モデルの多様性: 他のモデルは異なるパターンを示しました。
- 一部のモデル（例：Qwen2.5-72B、Llama-3.1-70B）は二峰性の事前分布を示し、混合された戦略的反応を示唆しました。
- 他のモデル（例：Grok-4.1-Fast、GPT-5.2）は、信頼性の系統的な下方シフト（ $r < 0.372$ ）を示し、人間のベースラインよりも平均的に低い信頼性を示しました。
相関関係: KLダイバージェンス（人間との整合性）と平均リスクスコア（ARS）との間に負の相関（ $r = -0.58$ ）が見られました。これは、リスク傾向が高いモデルほど、人間の信頼事前分布に密接に適合していることを示唆しています。指示遂行能力（IFEval）や一般的な推論能力（LMArena）との有意な相関は見られませんでした。

2. ペルソナへの感度

ペルソナ効果: GPT-4.1の抽出された信頼性は、ペルソナによって系統的に変化しました（平均 $r$ は0.298から0.447の範囲）。例えば、マララ・ユスフザイに対する信頼は、マーク・ザッカーバーグに対するものよりも高くなりました。
温かさと有能さ: 温かさ（ $W$ $W$ ）と有能さ（ $C$ $C$ ）を予測因子とする回帰モデルは、抽出された信頼性の分散の81%を説明しました（ $R^2 = 0.81$ $R^{2} = 0.81$ ）。
- 温かさの優位性: 温かさは、有能さよりも大幅に強い主効果（ $\beta_1 \gg \beta_2$ ）を持っていました。
- 相互作用: 有意な相互作用項（ $\beta_3$ ）は、有能さが温かさと組み合わさったときにのみ、信頼性を大幅に高めることを示しました。

主な貢献

方法論的革新: 本論文は、反復的インコンレクト学習を信頼ゲームに適応させることで、LLMから暗黙の信頼性事前分布を抽出する方法を導入し、自己報告を超えた行動的な操作化を実現しました。
実証的特性付け: 20の主要なLLMにおける信頼性事前分布のベンチマークを提供し、GPT-4.1のようなモデルは人間の事前分布を密接に追跡する一方で、他のモデルは明確に異なる戦略的または偏ったパターンを示すことを明らかにしました。
代替としての有用性: GPT-4.1が、人間の社会的バイアスを研究するためのサロゲート（代理）として機能できることを示しました。その信頼性の判断は、人間の社会心理学と一致する形で、ペルソナ特性に対して敏感です。
理論的整合性: LLMの信頼性の判断が、人間の社会的知覚を支配するのと同じステレオタイプに基づいた次元（温かさと有能さ）によってモデル化できることを確認しました。

意義と主張

本論文は、AIの信頼性を特徴付けることは、安全で効果的な人間とAIの協調に不可欠であると主張しています。LLMを信頼を返礼する能力を持つエージェントとして扱うことで、著者らは、信頼ゲームが人間とAIの相互作用を研究するための必要な双方向の枠組みを提供すると述べています。

著者らは、彼らの手法がLLMの「帰納的バイアス」を社会的な交換に関して正常に回収していると控えめに主張しています。また、GPT-4.1のようなモデルは、人間参加者のサロゲートとして機能できる可能性を示唆しています。これにより、研究者は、人間被験者の募集というロジスティックな負担を負うことなく、エージェントの特性に基づいて一般的な大衆の信頼判断がどのように変化するかを研究することが可能になります。

本研究は、信頼性がLLMにおける単一の属性ではなく、モデルのアーキテクチャによって異なり、社会的文脈（ペルソナ）に敏感であることを強調しています。著者らは、信頼性の神経表現（オープンウェイトモデルを通じてアクセス可能である可能性がある）を理解することが、より信頼できるAIシステムを設計するための有効な手段であると結論付けていますが、投資レベルや相互作用の文脈によるこれらの事前分布の安定性に関する限界も認めています。