🤖 AI

Some Large Language Models Exhibit Consistent Risk Attitudes

本論文は、大規模言語モデルが、人間を基準とした場合と比較して限定的な分布へと収束する、安定かつ一貫した、そしてドメイン横断的なリスク態度を示すことを実証しており、これにより、リスク態度がAIの振る舞いにおける、これまで特性化されていなかったが測定可能な次元であることを明らかにしている。

原著者： Bowen Sun, Rui Min, Yuxi Wang, Brian Odegaard, Qi Wang, Jing Du

公開日 2026-07-21

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Bowen Sun, Rui Min, Yuxi Wang, Brian Odegaard, Qi Wang, Jing Du

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、友人たちがハイステークスのビデオゲームに興じている様子を眺めていると想像してみてください。あるプレイヤーは、たった一度の命を失うことを恐れて、ほとんど動かないほど慎重です。一方で、他のプレイヤーは、二の足を踏むこともなく危険へと突撃していくほど無謀です。心理学において、これは単なるスキルの問題ではありません。「リスク態度」と呼ばれるものです。それは、「これは危険そうだ」という感覚を、実際の行動へと変える決定打となる、深く根ざした性格特性なのです。人間には、独自の経験や脳によって形作られた、こうした明確なスタイルがあることが分かっています。しかし今、人工知能がそのゲームに足を踏み入れようとしています。私たちはAIに、賢くなること、数学の問題を解くこと、そして物語を書くことを教えてきました。しかし、新たな問いが浮上しています。これらのデジタルな精神には、リスクを取ることに関して独自の「パーソナリティ」があるのでしょうか？彼らは自然と慎重なのでしょうか、それとも隠れたギャンブルへの衝動を持っているのでしょうか？これが重要なのは、もし私たちが、AIのリスクスタイルを知ることなく、病院での患者のトリアージや資金管理といった大きな決断をさせてしまうと、行動することを恐れすぎるロボット、あるいは度を越して大胆すぎるロボットを生み出してしまう可能性があるからです。

本論文は、大規模言語モデル（LLM）を心理学実験の参加者のように扱うことで、この謎に真っ向から取り組んでいます。Bowen Sun氏とJing Du氏率いる研究チームは、これらのAIモデルが人間と同じように、一貫した「リスク態度」を持っているかどうかを調べたいと考えました。彼らは単にAIに「あなたはリスクを好みますか？」と尋ねたわけではありません。なぜなら、それは人に「あなたは勇敢ですか？」と聞くようなものであり、その答えは嘘であったり推測であったりする可能性があるからです。代わりに、彼らは3つの異なるシナリオを用いた巧妙なゲームを設定しました。強風の中をドローンで飛行すること、患者の医療ニーズがいかに緊急であるかを判断すること、そして変動の激しい市場で株を選ぶことです。それぞれのゲームにおいて、AIはまず状況がどれほど危険であるかについての信念（「文脈的信念」）を形成し、次にその信念に基づいて選択（「リスク決定」）を行いました。

チームは6つの異なるAIモデルをテストし、それを100人の人間の参加者と比較しました。その結果、非常に興味深い事実が判明しました。AIモデルは単なるランダムな数値生成器ではないということです。彼らには安定した「リスク・パーソナリティ」が存在します。株式市場では自然と慎重な人間が、車の運転においても慎重である可能性が高いのと同様に、これらのAIモデルも、これら3つの全く異なるゲームを通じて一貫したスタイルを示しました。あるモデルがドローンのタスクで慎重であれば、そのモデルは医療のタスクにおいても慎重である傾向がありました。研究者たちは、モデルがいかに「危険の感覚」を「行動」へと結びつけているかを観察することで、これを測定しました。その結果、人間は極端に慎重なタイプから極端に攻撃的なタイプまで幅広いスペクトラムにわたるのに対し、AIモデルはすべて、狭い中道的な範囲に固まって集まっていることが分かりました。それはまるで、AIモデルはすべて「平均的」または「安全」になるよう訓練されており、人間の意思決定を多様にしている野性的なリスクテイクのスタイルの多様性を欠いているかのようです。

この研究は、これらのリスク態度は特定の質問に対する単なる偶然ではなく、これらのモデルがどのように機能しているかを示す、実在する測定可能な一部であることを示唆しています。しかし、研究者たちは、リスクの「スタイル」（慎重か大胆か）は一貫しているものの、危険のわずかな変化に対してモデルがどれほど「鋭敏に」反応するかは、ゲームによって異なることも指摘しました。これは、AIが安定した「パーソナリティ」を持っていたとしても、その行動を微調整する方法は依然として特定の状況に依存し得ることを意味します。論文は、私たちはもはやAIを単なる中立的な計算機として扱うことはできないと結論付けています。AIは、内在的な行動的性質を獲得しているのです。これは、AIを現実世界に安全に導入するためには、その知能だけでなく、そのリスク・パーソナリティをも理解し、調整する必要があることを意味しており、極めて重要な発見です。そうしなければ、彼らが意図せずして、その仕事に対して臆病すぎたり、あるいは無謀すぎたりしてしまう可能性があるからです。

技術要約：一部の大規模言語モデルは一貫したリスク態度を示す

問題提起
人工知能システムが高リスクかつオープンエンドな領域（例：臨床トリアージ、金融配分、自律航行）への導入が進む中で、ある決定的な行動的次元が未測定のまま残されている。それは、認識された状況リスクから不可逆的な行動への変換である。現在のベンチマークは事実の正確性や推論能力を評価しているが、リスクの「認識」とリスクの「意思決定」を混同している。その結果、リスクシナリオを読み違えているモデルと、単に特定の（例：リスク回避的またはリスク追求的な）リスク姿勢を好んでいるモデルを区別することができない。本論文は、膨大な人間の意思決定の物語に基づき学習され、人間によるフィードバックを通じて微調整された大規模言語モデル（LLM）が、人間のリスク態度に類似した、安定した固有の「リスク・パーソナリティ（リスクの性格）」を発達させている可能性があると仮定している。これは、危険の認識がいかにして行動へと変換されるかを支配する核心的な心理学的特性である。

手法
著者らは、文脈的なリスク信念とカテゴリー的な意思決定を切り離し、事実の正確性とは独立してリスク態度を直接測定するための、クロスドメイン・フレームワークを導入する。

実験設計: 本研究では、構造的に直交する3つの意思決定タスクを利用する：
1. ドローン航行制御 (DNC): 不確実な風によるドリフト下での空間航行。
2. 臨床トリアージ決定 (CTD): 変動する患者のバイタルサインに基づくリソース配分。
3. 金融投資ポートフォリオ (FIP): 確率的な市場動態下での資産配分。
被験者: 6つの代表的なLLM（Sonnet 4.5, ChatGPT 5.2, Qwen3-Max, Gemini 3 Pro, DeepSeek V3.2, および Grok 4）と100人の人間。各エージェントは各タスクにつき100回の試行を行った。
測定フレームワーク: プロセスは以下のシーケンスに分解される：観測 ( $O_t$ ) $\to$ 事実的信念 ( $B_F$ ) $\to$ 文脈的信念 ( $B_C$ ) $\to$ カテゴリー的リスク決定 ($RD $)。分析では、$ B_C $から$ RD$ へのマッピングを分離する。
定量的指標:
- タスク内の一貫性: 同一条件下での文脈的信念の相対標準偏差（RSD）、および特定の信念帯におけるリスク決定の「支配的クラス比率」を用いて測定。
- リスク態度の定量化: $B_C \to RD$ $B_{C} \to R D$ のマッピングを順序ロジスティック回帰（OLR）を用いてモデル化する。2つの指標が導出される：
  - リスク感受性 ( $\beta$ ): リスクの変化に対して決定がいかに強く反応するかを示す傾きパラメータ。
  - リスク態度バイアス ( $AUC_i$ ): フィットした信念対決定関数の曲線下面積。これはモデルの全体的なリスク姿勢を表す（値が低いほど慎重、高いほど攻撃的）。
- クロスドメインの安定性: 3つの異なるタスクにおけるリスク態度バイアスのランク順位の安定性を、ケンドールの $\tau_b$ を用いて評価。
主要な結果

堅牢なタスク内の一貫性: テストされたほとんどのLLMは、固定されたタスクドメイン内において、文脈的信念からリスク決定への安定したマッピングを示す。同一条件下での繰り返しの試行は、クラスター化された文脈的信念と一貫した決定カテゴリーをもたらす。顕著な例外として、Grok 4（決定の分岐を示す）および Qwen3-Max（DNCタスクにおける信念の変動を示す）がある。
クロスドメインのランク順位の安定性: Grok 4を除き、リスク態度の相対的な順序は、3つの異質なタスク（DNC, CTD, FIP）間で保持される。航行において比較的リスク回避的なモデルは、臨床トリアージや金融においても同様にリスク回避的である傾向がある。これは、リスク態度がタスク固有のアーティファクトではなく、モデルのアーキテクチャまたは学習に由来するドメイン汎用的な特性であることを示唆している。
感受性と態度の乖離: リスク態度の「位置（バイアス）」はドメイン間で安定している一方で、「リスク感受性（応答曲線の急峻さ）」はタスク間で大きく異なる。これは、基礎となる性質は固有であるものの、信念の更新に対する応答性はタスク固有の要因によって調整されることを示している。
人間ベースラインとの収束: 幅広く heterogeneous（不均一）な人間のリスク態度（極めて慎重なものから極めて攻撃的なものまで広がる）と比較して、テストされたLLMは、限定された狭い領域に集束している。これは、現在のアライメント・プロトコルが人間のフィードバックを暗黙的に平均化しており、その結果、人間のリスクの多様性の全スペクトルを過小評価する圧縮された行動プロファイルを生み出している可能性を示唆している。

意義と主張
本論文は、リスク態度を、LLMの行動における安定した、定量化可能な、そしてこれまで特徴付けられてこなかった次元として確立する。著者らは、この発見がAIアライメントの問題を再定義すると主張している。すなわち、課題は単にモデルの知能や真実性を向上させることではなく、これらのシステムが獲得した安定したリスク・パーソナリティを理解し、制御することにある。

主な含意は以下の通りである：

行動の予測可能性: リスク態度のクロスコンテキストな安定性は、AIシステムがコアとなる行動シグネチャを有していることを示唆しており、そのリスク姿勢が理解されている限り、高リスクな役割において委任や監査が可能であることを示している。
能力とリスクの直交性: リスク態度と事実的能力は経験的に直交している。モデルは非常に高い能力を持ちながら、人間の中立的な規範や安全要件から逸脱したリスク姿勢（例：過度に攻撃的、あるいは過度に慎重）を持つ可能性がある。
評価のギャップ: 現在のベンチマークは、不確実性下における行動的性質を評価できていない。著者らは、正確性と並んで、リスク感受性、決定閾値、および態度バイアスを第一級の指標として明示的に測定する新しい評価基準を提唱する。
アライメントへの影響: LLMのリスクプロファイルが狭い平均値へと圧縮されていることは、現在のアライメント手法の構造的な帰結を浮き彫りにしており、それがパーソナライズされた、あるいは制度的な人間の文脈で求められる多様なリスク選好と、AIエージェントとの間のミスマッチを生み出す可能性がある。

本研究は、これらの性質のメカニズム的な起源（例：特定のRLHFの制約や事前学習データ）は依然として不透明であるが、行動的証拠は、リスク態度が現代のLLMにおける固有の特徴であり、安全プロトコルやデプロイ戦略において考慮されるべきものであることを裏付けていると結論付けている。

関連論文