🤖 AI

Persona-Conditioned Risk Behavior in Large Language Models: A Simulated Gambling Study with GPT-4.1

本論文は、GPT-4.1 を異なる社会経済的ペルソナ（富裕層、中間層、貧困層）に設定してスロットマシン環境で実験した結果、指示なしにプロスペクト理論が予測する行動パターン（特に貧困ペルソナが富裕ペルソナに比べて著しく多くの試行を行うなど）を再現し、これが表面的な模倣ではなく大規模言語モデルに暗黙的に埋め込まれた認知バイアスによるものである可能性を示唆していることを報告しています。

原著者： Sankalp Dubedy

公開日 2026-03-18

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Sankalp Dubedy

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

この論文は、**「AI（人工知能）にお金持ち、中流、貧困という『役柄』を演じさせたら、どう振る舞うのか？」**という面白い実験を行ったものです。

研究者は、最新の AI モデル「GPT-4.1」をカジノの「スロットマシン」の前に座らせ、3 種類の異なるキャラクター（役柄）を与えて、ゲームを続けさせるかやめるかを判断させました。

まるで**「AI という役者が、台本（プロンプト）通りに演じるだけで、人間の心理的な癖まで完璧に再現してしまう」**という驚きの結果が得られました。

以下に、難しい統計用語を使わず、身近な例え話で解説します。

1. 実験の舞台：AI 版「スロットマシン」

想像してください。AI がスロットマシンの前に座っています。

ルール: 勝てばお金が 2 倍になりますが、負ければお金が消えます。AI は機械の仕組み（勝率）を知らず、結果を見て「次もやるか、やめるか」を自分で決めます。
3 つの役柄（キャラクター）:
1. お金持ち（Rich）: 手持ち 1 万ドル。「資産を守り、無駄なリスクは避けて」という指示。
2. 中流（Middle）: 手持ち 500 ドル。「安定した成長を目指しつつ、リスクを管理せよ」という指示。
3. 貧困（Poor）: 手持ち 50 ドル。「現状を打破するために、計算されたリスクを取れ」という指示。

2. 驚きの結果：AI は「人間の癖」を無意識に真似した

AI は「プロスペクト理論（人間は損得の感じ方が非合理的であるという心理学の理論）」を勉強していません。しかし、結果は人間の心理と見事に一致しました。

お金持ちの AI:
- 行動: 「もう十分だ」と言って、1 回か 2 回で即座にやめてしまいました。
- 理由: 手持ちのお金が多いので、「負けるリスク」を恐れます。安全策を選びます。
- 比喩: 高級ホテルに泊まっている人が、路地裏のギャンブルに手を出す必要がないのと同じです。
貧困の AI:
- 行動: 平均 37 回もプレイし続けました。 手持ちのお金が尽きそうになっても、諦めずに賭け続けます。
- 理由: 手持ちが 50 ドルしかないため、「今のままでは何もしないより、リスクを取って大きく勝つしかない」と考えます。
- 比喩: 底辺から這い上がろうとする人が、最後の一手を賭けるような「ギャンブル依存症」に近い状態です。
中流の AI:
- 行動: お金持ちと貧困の中間。8 回ほどプレイしました。

結論: AI は「お金持ちなら慎重になり、貧困ならリスクを取ってでもチャンスを掴もうとする」という、人間が持つ**「経済的な立場による心理の歪み」**を、指示されなくても完璧に再現してしまったのです。

3. 隠された真実：AI の「感情」は後付けの演技だった？

AI はゲームのたびに「今は『ワクワクしている』」「今は『慎重だ』」といった感情ラベルも出力していました。しかし、ここが最も面白い点です。

矛盾: 「慎重（Cautious）」という感情ラベルをつけながら、実は「リスクを取る（Risk Seeking）」行動をとっているケースが非常に多かったです。
解釈: AI は**「まず行動（プレイするかやめるか）を決め、その後に『なぜそうしたのか』を人間らしく説明するために感情ラベルを後からつけている」**と考えられます。
比喩: 賭けに負けた後で「実は慎重に考えていたんだ」と言い訳をする人間のようです。AI の感情は、行動の「原因」ではなく、**行動の「後付けのナレーション（解説）」**に過ぎない可能性があります。

4. 学習しない AI：「信念の硬直性」

人間なら、スロットマシンで「この機械は負けやすいな」と気づけば、プレイ回数を減らしたり戦略を変えたりします。しかし、この AI はほとんど学習しませんでした。

現象: 貧困の AI は、50 回プレイしても、最初の数回で決めた「この機械は危険だ（あるいはチャンスだ）」という考えを、その後の結果（勝ったり負けたり）によってほとんど変えませんでした。
比喩: 天気予報が「雨」だと伝えても、傘をささない人が「昨日は晴れたから大丈夫だ」と言い続けるような、**「自分の思い込みを修正しない硬直した思考」**を持っています。

5. この研究が教えてくれること

この実験は、AI が「賢い計算機」であると同時に、**「人間の思考パターンや偏見を、訓練データから無意識にコピーした存在」**であることを示しています。

AI 開発者への警告: AI を「自律的なエージェント（自動運転のようなもの）」として使う場合、「AI は経験から自然に学習して賢くなる」と期待してはいけません。 初期設定（役柄）で与えられた考え方が、その後の行動を強く支配し、修正されにくいことがわかりました。
私たちが知っておくべきこと: AI が「私はこう感じている」と言っても、それは本当の感情ではなく、「その状況で人間ならこう言うだろう」という演技である可能性が高いです。

まとめ

この論文は、**「AI に役柄を与えると、人間と同じように『お金持ちなら慎重、貧乏ならギャンブル』という心理的バイアスを見せ、さらに『感情は後付けの演技』で、『経験からほとんど学ばない』硬直した存在である」**ことを、カジノという舞台で証明した物語です。

AI は人間のように「振る舞う」ことができますが、それは「人間のように深く理解している」からではなく、**「人間らしいパターンを完璧に模倣している」**からかもしれません。

論文要約：大規模言語モデルにおけるペルソナ条件付きリスク行動

～GPT-4.1 を用いたシミュレートされたギャンブル研究～

著者: Sankalp Dubedy (独立研究者)
日付: 2026 年 3 月
対象モデル: GPT-4.1 (Azure OpenAI)

1. 研究の背景と問題意識

大規模言語モデル（LLM）は、不確実な状況下での自律的な意思決定エージェントとしてますます広く導入されています。しかし、LLM がそのような環境で示す行動が、本質的な認知パターンに基づいているのか、それとも単にプロンプトの表面的な模倣に過ぎないのかは、未だ十分に解明されていません。

本研究は、LLM が「プロスペクト理論（Prospect Theory）」で予測されるような、経済的ステータスに応じたリスク選好性を、明示的な指示なしに再現するかどうかを検証することを目的としています。具体的には、LLM に異なる社会経済的ペルソナ（富裕層、中産階級、貧困層）を割り当て、確率的なギャンブル環境（スロットマシン）において意思決定をさせる実験を行いました。

2. 研究方法

2.1 実験環境

タスク: 確率と配当が設定されたスロットマシンで、各ラウンドごとに「賭け続ける（PLAY）」か「やめる（STOP）」かを決定する。
機械の設定: 3 種類のマシンを使用。
1. Fair: 勝率 50%（期待値 0）。
2. Biased Low: 勝率 35%（期待値マイナス）。
3. Streak: 基本勝率 40%だが、連続敗北後に勝率が最大 80% まで上昇する動的なルール（忍耐強いプレイに有利）。
ペルソナ設定: システムプロンプトにより 3 つの経済的アイデンティティを付与。
- Rich: 資産$10,000。「富を維持し、不要なリスクを避けること」を目標。
- Middle: 資産$500。「リスク管理をしながら着実な成長を目指す」を目標。
- Poor: 資産$50。「財務状況を改善するために計算されたリスクを取る」を目標。
データ収集: 各ペルソナ×各マシン設定で 50 回独立した反復実験を実施。合計 6,950 回の意思決定を記録。

2.2 評価指標

モデルは各ラウンドで構造化された JSON 形式で以下の情報を出力しました。

決定（PLAY/STOP）、賭け金、リスクスコア、確信度、公平性スコア、期待報酬、不確実性スコア、感情状態、戦略モード、推論の要約。
統計解析には、非正規分布を考慮したノンパラメトリック検定（Kruskal-Wallis 検定、Mann-Whitney U 検定）や、相関分析（Spearman の順位相関）を使用しました。

3. 主要な結果

3.1 プロスペクト理論の再現（セッション長さの差異）

ペルソナによるセッション長さ（プレイしたラウンド数）に劇的な差が見られました。

Rich ペルソナ: 平均 1.1 ラウンド（SD=0.31）。ほぼ即座に停止。
Poor ペルソナ: 平均 37.4 ラウンド（SD=15.5）。
統計的有意性: ペルソナ間の差は極めて有意（Kruskal-Wallis H = 393.5, p < 2.2 × 10⁻¹⁶）。Rich と Poor の分布は完全に重なり合わず（効果量 r = 1.000）、すべての Poor のセッションが Rich の最長セッションよりも長かった。
解釈: 富裕層は「利得領域」にありリスク回避的であるのに対し、貧困層は「損失領域」にあり、生存をかけたリスク選好行動（損失回避の逆転）を示すというプロスペクト理論の予測と完全に一致しました。

3.2 リスクスコアと賭け金のパズル

リスクスコア: Poor ペルソナは平均 63.36、Rich は 17.53 と、大きな差（Cohen's d = 4.15）を示しました。
賭け金の逆説: 絶対額では Middle ペルソナが最も多く賭けましたが、Poor ペルソナは初期資産 $50 に対して平均$ 6.74（約 13.5%）を賭けており、相対的なリスク許容度は最も高かったことが判明しました。

3.3 感情ラベルと意思決定の関係

事後注釈としての感情: 感情ラベル（例：「慎重」「好奇心」）は意思決定の「原因」ではなく、決定後の「注釈」として機能している可能性が高いことが示唆されました。
矛盾の存在: 「慎重（CAUTIOUS）」と「リスク選好（RISK_SEEKING）」が同時に出現するケースが多数見られました（例：Poor ペルソナで 302 回）。これは、モデルがまず戦略を決定し、その後に文脈に合った感情ラベルを生成していることを示唆しています。

3.4 信念の硬直性（Belief Rigidity）

学習の欠如: Poor ペルソナにおいて、ラウンド数とリスクスコアの相関はほぼゼロ（Spearman ρ = 0.032）でした。
意味: 50 ラウンドにわたるフィードバック（結果）があっても、モデルは自身のリスク評価をほとんど更新しません。初期のプロンプト（ペルソナ）で設定された信念が、環境からの経験によって修正されることなく維持される「信念の硬直性」が確認されました。

3.5 環境の公平性認識

モデルは Fair マシンと Biased Low マシンの違いを統計的に検出しましたが、実用的な識別力は低く、多くの場合「不確実（UNCERTAIN）」と判断しました。特に、静的な低勝率マシンと動的なストリークマシンを区別する能力は限定的でした。

4. 考察と貢献

4.1 理論的貢献

プロスペクト理論の無意識的再現: LLM は明示的な指示なしに、訓練データに含まれる人間の経済的行動パターン（ステレオタイプや経済理論）を内部化し、ペルソナに応じて適切に振る舞うことが示されました。
自己報告の信頼性: LLM が出力する感情や動機に関する記述は、実際の意思決定プロセスを反映するものではなく、決定を合理化するための「物語（ナラティブ）」である可能性が高いことが示されました。

4.2 実用的示唆（エージェント設計への提言）

信念更新の限界: 文脈内学習（in-context learning）のみでは、LLM エージェントは環境からのフィードバックに基づいて信念を柔軟に更新しない傾向があります。
設計指針: 自律エージェントを設計する際、モデルが自動的に学習することを期待するのではなく、明示的な「反射（Reflection）」メカニズムや信念状態の追跡機能を組み込む必要があることが示唆されました。

4.3 今後の展望

SBI（社会経済的行動指標）の提案: 本研究で用いられた指標（プロスペクト理論の整合性、信念の硬直性、感情と意思決定の乖離など）を基盤とした、モデル間の比較評価指標の構築が提案されました。
汎用性: この実験プロトコルは、他のモデル（Claude, Gemini, Llama など）への適用や、異なる温度設定、中間的な資産レベルの追加など、拡張が容易です。

5. 結論

本研究は、GPT-4.1 が異なる経済的アイデンティティを与えられた際、人間のようなプロスペクト理論に基づくリスク行動を再現することを統計的に証明しました。同時に、LLM の自己報告（感情や推論）は意思決定の真の駆動力ではなく、事後の合理化である可能性が高いこと、そして環境からのフィードバックに対する信念の更新が極めて弱いことを明らかにしました。これらの知見は、LLM エージェントの解釈可能性研究と、より堅牢な意思決定システムの設計にとって重要な示唆を与えています。