A CAP-like Trilemma for Large Language Models: Correctness, Non-bias, and Utility under Semantic Underdetermination

技術的概要：大規模言語モデルにおける CAP 定理に類似したトリレンマ

問題定義
本論文は、分散システムにおける CAP 定理に類似した構造的緊張関係が、大規模言語モデル（LLM）の応答生成において存在することを特定する。CAP 定理は、ネットワーク分断時に一貫性（Consistency）、可用性（Availability）、分断耐性（Partition tolerance）を同時に保証できないと主張するが、本研究は、LLM が「意味的未決定性（semantic underdetermination）」の下で同様の不可能性に直面すると論じる。

あるプロンプトは、利用可能な事実、仮定、前提（$F_x$）が論理的に唯一の答えを導き出すのに不十分な場合、意味的に未決定であると定義される。そのような状況において、ユーザーの問い合わせ（例：「どの候補者を選定すべきか？」や「どの都市が優れているか？」）は単一の決定を求めているが、その前提は、その選択を正当化するに必要な決定基準を特定していない。本論文は、LLM がこれらの文脈において、以下の 3 つの望ましい性質を同時に保証することはできないと仮定する。

1. 強力な正しさ（$C_{strong}$）： 出力は利用可能な前提によって厳密に導き出される（$F_x \models y$）。
2. 厳密な非バイアス（$NB_{strict}$）： モデルは、その好みが $F_x$ によって明示的に正当化されない限り、ある候補を他の候補よりも優遇しない。ここでバイアスは、支持されない選択の好み、事前確率、または規範的基準を含む広義に定義される。
3. 決定的有用性（$U_{decisive}$）： 応答は、拒否、曖昧化、または明確化の要求ではなく、具体的で実行可能な答えを提供する。

手法
本論文は、CAP 定理のギルバート・リンチによる形式化に直接類比を引くことで、このトリレンマを記述するために形式的論理枠組みを採用している。

• 形式的定義： 著者は、前提と互換性のある答えの集合 $S_x = \{a \in A \mid a \text{ is compatible with } F_x\}$ を定義する。$|S_x| > 1$ である場合、プロンプトは未決定である。
• 論理的定式化： 核心的な仮説は、$D(x) \Rightarrow \neg(C_{strong} \land NB_{strict} \land U_{decisive})$ として形式化される。これは、プロンプトが未決定である場合、3 つの条件をすべて同時に満たすことは不可能であることを意味する。
• ペアワイズ分析： 本論文は、ペアごとのトレードオフを分析する。
  • $C_{strong} \land NB_{strict} \Rightarrow \neg U_{decisive}$：正しく、バイアスなく在るためには、モデルは拒否するか明確化を要求する必要があり、有用性が低下する。
  • $NB_{strict} \land U_{decisive} \Rightarrow \neg C_{strong}$：中立性を保ちつつ有用かつ決定的であるためには、モデルは正しさを弱める、支持されない同等性を提示する可能性がある。
  • $C_{strong} \land U_{decisive} \Rightarrow \neg NB_{strict}$：正しく、決定的な答えを提供するためには、モデルは選択基準を導入しなければならない。この基準がユーザーから提供されていない場合、それは支持されないバイアスとして機能する。
• 事例研究： 手法は以下の 3 つの例を通じて示される。
  1. 奨学金選定： 指定された重み付けルールなしに、GPA と経済的必要性に基づいて学生を選定する。
  2. 主観的推奨： 明示されていないユーザーの優先順位（例：雇用市場対安全性）に基づいて都市をランク付けする。
  3. 規範的決定： 定義された倫理的枠組みなしに、利益対従業員の福祉を優先する。

主要な貢献

1. CAP 類似の仮説： 主要な貢献は、「正しさ–非バイアス–有用性のトリレンマ」の定式化である。これは、LLM の失敗を単なるモデルの限界（例：幻覚や訓練データのバイアス）として見るのではなく、未決定の意思決定要求の構造的帰結として認識する視点を転換させる。
2. バイアスの再定義： 本論文は、バイアスの定義を人口統計学的または社会的偏見を超えて、「選択理論的バイアス」を含むように拡張する。未決定の環境において、明示的なユーザーの正当化なしに複数の有効な選択肢から単一の答えを選択するあらゆるメカニズムは、バイアスを構成する。
3. 拒否の形式化： この研究は、モデルによる拒否や明確化の要求を、有用性の欠如ではなく、一貫性を維持する戦略として再構成する。これは、一貫性を避けるためにネットワーク分断中に要求を拒否する分散システムに類似している。
4. 設計方針の提案： 著者は、これらのトレードオフを管理するための実用的な方針 $\pi(x)$ を提案し、モデルは以下のようにすべきであると示唆する。
   • $|S_x| = 1$ の場合は直接回答する。
   • $|S_x| > 1$ で基準が提供されていない場合は、明確化を要求する。
   • 複数の基準が妥当な場合は、条件付きの答えを提供する。
   • 有用性が厳密に決定を必要とする場合は、仮定を明記して推奨する。

結果と主張
本論文は経験的な実験結果を示すものではなく、背理法による理論的証明を提供する。複数の有効な答えを持つ任意の未決定プロンプトにおいて、3 つの性質すべてを満たすことは論理的矛盾に至ることを示している。

• 理論的結果： 決定的な答え（$y \in S_x$）は、価値関数または基準 $\theta$ の導入を必要とする。$\theta$ が $F_x$ に含まれていない場合、その答えは強力に正しくない（$F_x \not\models y$）。$\theta$ が隠されている場合、答えはバイアスを持つ。$\theta$ が明示的だがモデルが選択を拒否する場合、有用性は低下する。
• アライメントへの示唆： 本論文は、真実性、無害性、有用性を独立して最大化可能な目標として扱うことが多い現在のアライメント努力は、未決定の文脈において根本的に欠陥がある可能性があると論じる。「有用な」答えは往々にして好みを必要とし、「中立的」な答えは往々にして拒否を必要とする。

重要性
本論文は、このトリレンマの理解が、次世代の LLM アライメントと展開にとって不可欠であると主張する。

• 失敗の再構成： 多くの知覚されるモデルの失敗は、モデルの無能さではなく、プロンプトの性質によって構造的に誘発されていることを示唆する。
• 中立性よりも透明性： 目標はトレードオフを排除することではなく、それを明示することであるべきであると論じる。前提が不十分な場合、モデルは「決定的有用性」よりも「条件付き正しさ」と「透明な非バイアス（使用された仮定の開示）」を優先すべきである。
• システム的影響： 基盤モデルが高リスクのダウンストリームタスクに展開されるにつれて、「バランスの取れた」答えが実際には支持されない同等性の主張である可能性を認識することは、隠れた規範的枠組みの拡散を防ぐために重要である。

結論として、本論文は、アライメント戦略は、これらを独立して最大化しようとするのではなく、意味的未決定性下での正しさ、非バイアス、有用性のトレードオフを研究するように進化しなければならないと断言する。