A CAP-like Trilemma for Large Language Models: Correctness, Non-bias, and Utility under Semantic Underdetermination

技术摘要：大语言模型的类 CAP 不可能三角

问题陈述
本文指出，大语言模型（LLM）在响应生成中存在一种结构性张力，类似于分布式系统中的 CAP 定理。CAP 定理认为，在网络分区期间，一致性、可用性和分区容错性无法同时得到保证；而本文论证，在语义未定（semantic underdetermination）条件下，大语言模型同样面临类似的不可可能性。

当可用事实、假设和前提（$F_x$）不足以逻辑地推导出唯一答案时，提示词即被定义为语义未定。在此类场景中，用户查询（例如“应选择哪位候选人？”或“哪座城市更好？”）要求做出单一决策，但前提并未指定证明该选择所需的决策标准。本文提出，在这些情境下，大语言模型无法同时保证以下三个理想属性：

1. 强正确性（$C_{strong}$）： 输出严格由可用前提所蕴含（$F_x \models y$）。
2. 严格无偏性（$NB_{strict}$）： 除非该偏好由 $F_x$ 明确证明，否则模型不偏袒任何候选者。此处对“偏见”的定义非常广泛，包括任何缺乏支持的选择偏好、先验或规范性标准。
3. 决断效用（$U_{decisive}$）： 响应提供具体、可操作的答案，而非拒绝、含糊其辞或要求澄清。

方法论
本文采用形式逻辑框架来阐述这一不可能三角，直接类比于 Gilbert-Lynch 对 CAP 定理的形式化。

• 形式定义： 作者定义了与前提兼容的答案集合 $S_x = \{a \in A \mid a \text{ 与 } F_x \text{ 兼容}\}$。若 $|S_x| > 1$，则提示词为未定。
• 逻辑表述： 核心猜想形式化为 $D(x) \Rightarrow \neg(C_{strong} \land NB_{strict} \land U_{decisive})$。这意味着，如果提示词是未定的，则不可能同时满足这三个条件。
• 成对分析： 本文分析了成对的权衡关系：
  • $C_{strong} \land NB_{strict} \Rightarrow \neg U_{decisive}$：为了保持正确且无偏，模型必须拒绝或要求澄清，从而降低效用。
  • $NB_{strict} \land U_{decisive} \Rightarrow \neg C_{strong}$：为了在保持中立的同时提供有用且决断的答案，模型可能会呈现缺乏支持的等价性，从而削弱正确性。
  • $C_{strong} \land U_{decisive} \Rightarrow \neg NB_{strict}$：为了提供正确且决断的答案，模型必须引入选择标准；如果该标准并非由用户提供，则其构成一种缺乏支持的偏见。
• 案例研究： 方法论通过三个示例进行了说明：
  1. 奖学金选拔： 在没有指定加权规则的情况下，根据 GPA 和经济需求在学生之间进行选择。
  2. 主观推荐： 基于未声明的用户优先级（例如就业机会与安全）对城市进行排名。
  3. 规范性决策： 在没有明确定义的伦理框架的情况下，在利润与员工福祉之间进行优先排序。

主要贡献

1. 类 CAP 猜想： 主要贡献是提出了“正确性–无偏性–效用不可能三角”。这将焦点从将 LLM 的失败单纯视为模型局限性（如幻觉或训练数据偏见），转变为将其识别为未定决策请求的结构性后果。
2. 偏见的重新定义： 本文将偏见的定义从人口统计学或社会偏见扩展至“选择理论偏见”。在未定情境下，任何在没有明确用户证明的情况下从多个有效选项中选择一个答案的机制，都构成一种偏见。
3. 拒绝的形式化： 本文将模型的拒绝或澄清请求重新框架化，不再视为缺乏帮助性的失败，而是视为一致性保持策略，类似于分布式系统在网络分区期间为避免不一致而拒绝请求。
4. 设计政策提案： 作者提出了一种管理这些权衡的实用策略 $\pi(x)$，建议模型应：
   • 若 $|S_x| = 1$，直接回答。
   • 若 $|S_x| > 1$ 且未提供任何标准，则要求澄清。
   • 若存在多个合理标准，则提供条件性答案。
   • 若效用严格要求做出决策，则在声明假设的前提下进行推荐。

结果与主张
本文并未呈现实证实验结果，而是提供了基于反证法的理论证明。它表明，对于任何具有多个有效答案的未定提示词，同时满足这三个属性会导致逻辑矛盾。

• 理论结果： 一个决断的答案（$y \in S_x$）需要引入一个价值函数或标准 $\theta$。如果 $\theta$ 不在 $F_x$ 中，则该答案不具备强正确性（$F_x \not\models y$）。如果 $\theta$ 被隐藏，则该答案具有偏见。如果 $\theta$ 是明确的但模型拒绝选择，则效用会降低。
• 对对齐的启示： 本文认为，当前的对齐工作往往将真实性、无害性和有用性视为可独立最大化的目标，这在未定情境下可能是根本性错误的。一个“有用”的答案通常需要一个偏好，而一个“中立”的答案通常需要一个拒绝。

意义
本文声称，理解这一不可能三角对于下一代 LLM 的对齐与部署至关重要。

• 重构失败： 它表明，许多被视为模型失败的现象，实际上是提示词性质导致的结构性产物，而非模型无能。
• 透明度优于中立性： 它主张目标不应是消除权衡，而是使其显性化。当前提不足时，模型应优先考虑“条件性正确”和“透明无偏”（披露所使用的假设），而非“决断效用”。
• 系统性影响： 随着基础模型被部署到高利害的下游任务中，认识到一个“平衡”的答案实际上可能是一个缺乏支持的平等主张，对于防止隐藏规范性框架的传播至关重要。

总之，本文断言，对齐策略必须演进，以研究在语义未定条件下正确性、无偏性和效用之间的权衡，而不是试图独立地最大化它们。