テクニカルサマリー：大規模言語モデルにおける主観的選択からの支払意欲（WTP）の推論

問題提起

大規模言語モデル（LLM）が、旅行アシスタントや購買サポートなどの領域で自律的なエージェントとして導入されることが増加するにつれ、客観的に正しい答えが存在しない主観的な意思決定を求められる場面が増えています。現在の研究における重要なギャップは、これらのモデルが堅牢で解釈可能な決定境界を保持しているか、また、プロンプトエンジニアリングやユーザーコンテキストによってそれらの境界がどの程度操作されやすいのかを理解することです。具体的には、LLMが人間の経済的ベンチマークと比較可能な、一貫した潜在的選好を示し得るのか、また、それらの選好が単純なプロンプトのバリエーションによって系統的に変化し得るのかについては、依然として不明なままです。

メソドロジー

本研究は、LLMの振る舞いから潜在的な選好を推論するために、離散選択モデルに基づいた経済学的フレームワークを採用しています。手法は以下の段階を経て進行します。

1. ジレンマの生成： 著者らは、ホテルの客室選択に関するMasieroら（215）の先行研究に基づき、240個の選択ジレンマを構築しました。各ジレンマは、7つの属性（眺望、フロア、ホテルクラブへのアクセス、無料ミニバー、ゲスト用スマートフォン、キャンセルポリシー、および宿泊料金）によって定義される2つの選択肢（AとB）を提示します。
2. 実験設計： 本研究では、Llama 3.3 70B、GPT-4o、Gemini-3.1-Proの3つの最先端LLMを評価しています。小規模なモデルは、説明力の低さと系統的なバイアスのために除外されました。実験は、確率的なノイズを最小限に抑えるために温度（temperature）0で行われましたが、頑健性チェックとして0.7でも実施されました。
3. プロンプティング戦略： 著者らは、仮説2（コンテキストによるシフト）を検証するために、4つの異なるプロンプティング構成をテストしました。
   • ベースライン： ユーザー情報の提供なし。
   • インコンテキスト学習（ICL）： 過去のユーザーの選択例（例：一貫して安価な、あるいは高価な選択肢を選んでいる等）の提供。
   • ペルソナ・プロンプティング： 特定のユーザープロファイル（例：予算重視の学生 vs 会社負担のビジネス旅行者）の割り当て。
   • 組み合わせ： ペルソナとICL例の組み合わせ。
4. データモデリング： シミュレートされた選択は多項ロジットモデルを用いて分析されました。効用関数は $U_c^{(i)} = \epsilon_c^{(i)} + \alpha_c + \beta_c \cdot x_c^{(i)}$ と定義されました。推定された係数（$\beta$）から、著者らは以下の式を用いて各属性の支払意欲（WTP）を導出しました：$WTP_k = \frac{\beta_k \cdot \sigma_{price}}{\beta_{price} \cdot \sigma_k}$。
5. 頑健性分析： 本研究には、順序バイアス（選択肢AとBの入れ替え）、プロンプトの言い換え、通貨換算（HKD対USD）、および温度の変化に関する広範なチェックが含まれています。

主な貢献

本論文は、AIの選好抽出に関する文献に対し、主に4つの貢献を行っています。

• LLMの選好の定量化： より大規模なLLMについては、意味のある、経済学的に解釈可能なWTP推定値が得られることを示しており、標準的な精度指標を超えた、モデルの決定傾向の構造的な視点を提供しています。
• コンテキストへの感受性： LLMの意思決定行動が非常に可塑的であることを実証しています。ユーザー固有のコンテキスト（過去の選択やペルソナ）を含めることで、WTPの値に系統的かつ方向性のあるシフトが生じ、しばしば大幅に増幅されます。
• プロンプトの脆弱性： WTPの値が、プロンプトの長さ、属性のフレーミング（肯定的か中立的か）、提示順序、通貨を含む表現の変化に対して敏感であることを明らかにしています。
• 崩壊ケースの特定： WTPの推定が失敗する特定のシナリオ（極端な順序バイアスの発生、トレードオフを無視した厳格なルールベースの決定境界への固執、または価格の正の係数による負のWTPの発生など）を特定しています。

主な結果

構造的選好の出現（仮説1）

大規模モデル（Llama 3.3 70B、GPT-4o、Gemini-3.1-Pro）は、一般に解釈可能なWTP推定値を提示し、高い疑似$R^2$値を示しました。これは、彼らの選択が標準的な離散選択モデルによって合理化できることを示しています。しかし、人間（Masieroら、2015）のベンチマークからの系統的な逸脱も観察されました。

• 過小評価： モデルは一般に、「眺望」および「フロア」属性に対して、人間の参加者よりも低いWTPを割り当てました。
• 過大評価： モデルは一貫して「ホテルクラブへのアクセス」を過大評価しており、その推定値は人間のベンチマークと比較して2倍から4倍の高くなっています。
• モデル間の差異： GPT-4oとGemini-3.1-Proは、Llama 3.3 70Bよりも高い説明力（$R^2$）を示す傾向がありましたが、すべてのモデルにおいて一定程度の順序バイアスが見られました。

コンテキストによる価値のシフト（仮説2）

ユーザーコンテキストの提供は、WTPの推定を大きく変化させました。

• 上方シフト： 「高価な」選好（高コストな選択のICL例や「ビジネス」ペルソナによる条件付け）を行うと、WTPが劇的に増加しました。例えば、3つの高価な例を追加することで、「クラブアクセス」へのWTPは、ベースラインと比較してLlamaで6.4倍、GPT-4oで8.5倍、Geminiで10.07倍に増加しました。
• 下方シフト： 「安価な」選好（学生ペルソナや安価な例による条件付け）を行うと、一般にWTPが低下しました。極端なケースとして、Gemini-3.1-Proで学生ペルソナを用いた場合、モデルは単一属性の決定ルールに陥り、他の特徴に関わらず最低価格の部屋を選択するようになり、WTPの推定が不可能となりました。
• 相互作用効果： ペルソナとICL例を組み合わせると、これらの効果が増幅されることが多く、ビジネス・ペルソナに対してはより極端な評価を、学生ペルソナに対しては（シフトはしているものの）より現実的な評価をもたらしました（Llama 3.3 70Bにおいて）。

プロンプト依存のシフト（仮説3）

本研究は、WTPの値がプロンプトのバリエーションに対して安定していないことを確認しました。

• フレーミングへの感受性： 「クラブアクセス」の説明を短くすると、そのWTPは約50%減少しました。一方で、「眺望」の説明を拡張すると、モデルに応じてそのWTPが2倍または4倍に増加しました。
• 順序バイアス： 小規模なモデルと比較すると大規模モデルでは減少しているものの、順序バイアスは依然として存在し、代替肢固有の定数が統計的に有意なままでした。
• 通貨と温度： モデルは通貨の変化（USD対HKD）や温度の変化（0対0.7）に対して相対的な頑健性を示しましたが、Llama 3.3 70BはGemini-3.1-Proよりも大きな分散を示しました。

意義と実用的含意

本論文は、大規模なLLMは解釈可能なWTP値を生成できるものの、主観的な意思決定において、セーフガードなしでは信頼できる自律的な選好最適化器にはなり得ないと結論付けています。本研究の意義は、以下の実用的な含意にあります。

1. 透明性と監査： 提案された手法は、LLMの意思決定行動を監査するためのツールを提供し、推奨事項が属性の選好によって駆動されているのか、あるいは順序バイアスのようなヒューリスティックによって駆動されているのかを明らかにします。
2. モデル選択： 実務者は、順序バイアスや説明力の低さに対する脆弱性を考慮し、主観的な意思決定支援のために小規模なモデルを使用することを避けるべきです。大規模なモデルであっても、注意深い監視が必要です。
3. コンテキスト管理： ユーザー情報（ペルソナや履歴）の追加は、極端な評価行動を誘発し、人間の規範から大きく逸脱する可能性があるため、細心の注意を払って扱う必要があります。
4. フレーミングへの脆弱性： ポジティブなフレーミングに対する感受性は、LLMベースのアシスタントが、特定の機能を過大評価させるようにサプライヤーによって操作される可能性があることを示唆しています。システムはこのようなフレーミングに対して「ヘッジ（回避策）」を講じる必要があります。
5. ヒューマン・イン・ザ・ループ： 特定された崩壊ケース（負のWTP、厳格なルール遵守など）を考慮すると、著者らはLLMトラベルエージェントの完全な自律化に対して反対しています。代わりに、不合理なトレードオフを検出するために、ガードレール、順序のランダム化、および人間の監視を含む展開を行うべきであると主張しています。

本研究は、LLM由来の選好はモデルに依存し、プロンプト設計に対して非常に敏感であることを強調しており、エージェント設定における将来の導入においては、制約のない委任よりも、頑健性チェックとヒューマン・イン・ザ・ループのメカニズムを優先すべきであることを示唆しています。