💻 computer science

When Specifications Conflict: A Symmetry-Based Framework for Measuring LLM Preferences

本文引入了一种基于对称性的实验框架，用以系统地衡量大语言模型如何解决相互竞争的规范之间的冲突，揭示了在不同领域中存在着一致的偏好层级，即形式化语言和自然化形式语言优于纯自然语言和输入输出示例。

原作者： Tairan Wang, Liang Zhou, Zikang Zhan, Pingchuan Yan

发布于 2026-07-31

📖 1 分钟阅读☕ 轻松阅读

原作者： Tairan Wang, Liang Zhou, Zikang Zhan, Pingchuan Yan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在向一位非常聪明、博学多才的朋友寻求解决一个棘手谜题的帮助。但这里有个陷阱：你的这位朋友收到了两份针对同一个谜题的不同说明书，而这两份说明书相互矛盾。一份说：“向左转红色旋钮，”而另一份则坚持说：“向右转红色旋钮。”在人工智能的世界里，这些“朋友”就是大型语言模型（LLMs）——它们是经过几乎整个互联网文本训练的庞大计算机程序。它们擅长写故事、解数学题甚至编写代码，但当接收到的信息混乱或冲突时，它们经常会感到困惑。

这篇论文深入探讨了人工智能科学的一个特定领域：冲突解决（Conflict Resolution）。它提出了一个简单而深刻的问题：当人工智能收到两条相互冲突的指令时，它究竟听哪一个？它更倾向于严格的数学公式？一句普通的英文句子？一个例句列表？还是一个正式的代码片段？理解这一点至关重要，因为随着我们开始将人工智能用于重要的任务——比如编写计算机代码、诊断医疗问题或做出法律决策——我们需要知道人工智能是在遵循“硬性规则”，还是仅仅根据词汇听起来的感觉在进行猜测。如果我们不知道人工智能优先考虑哪条指令，我们就无法信任它的答案。

伟大的指令对决

伦敦大学学院的研究人员决定将这个问题当作一场科学竞赛实验来对待。他们并没有只是问人工智能一些随机问题，而是构建了一个受控的竞技场，让他们能够迫使人工智能在两个特定的、冲突的规则之间做出选择。他们称之为“基于对称性的框架”，这是一种高级说法，意思是通过完美设置游戏，使得唯一发生变化的是规则的“写法”，而不是规则本身。

为此，他们创建了一个庞大的“数学战斗竞技场”，其中包含 550 个不同的冲突场景。在每个场景中，人工智能都必须解决一个数学问题（例如计算一个序列或寻找图中的路径），但同时被给予了两种不同的方式来描述解决方案。他们测试了四种截然不同的“语言”形式的指令：

纯自然语言： 仅使用普通的英文句子（例如，“把数字加在一起。”）。
形式语言： 严格的数学符号和方程（例如， $f(x) = x + 1$ ）。
自然化形式语言： 一种混合形式，使用数学符号但包裹在英文句子中（例如，“该函数的定义为 $f(x) = x + 1$ 。”）。
输入-输出示例： 一个展示输入及其结果的示例列表（例如，“如果输入 2，输出 3。如果输入 5，输出 6。”）。

人工智能必须选择其中一种描述来解决特定的测试问题。研究人员随后观察人工智能足够“信任”哪种描述并据此执行。

结果：信任的等级制度

研究结果出人意料地一致。人工智能并非随机选择；它有一个非常明确的偏好。事实证明，人工智能热爱结构，厌恶歧义。

研究人员发现了一个严格的“等级制度”：

顶层： 形式语言和自然化形式语言是明显的赢家。当这些语言与纯英文或示例进行竞争时，人工智能遵循这些规则的频率高达 87% 到 93%。似乎当人工智能看到一个清晰的数学公式时，它会将其视为“法律”。
中层： 纯自然语言位居第二。它比示例更可靠，但不如数学可靠。在与示例竞争时，人工智能遵循这些指令的频率约为 78%。
底层： 输入-输出示例是最不被信任的。当人工智能必须在一条清晰的规则和一组示例之间做出选择时，它几乎总是忽略示例。

可以这样理解：如果你告诉一个机器人，“这是我吃午饭的时间表：12:00, 12:15, 12:30，”它可能会猜你会在 12:45 吃午饭。但如果你告诉它，“我每天中午 12:00 吃午饭，”它就会坚持 12:00。人工智能更倾向于显性的规则，而非它必须通过猜测得出的模式。

不仅仅是数学：现实世界测试

团队并未止步于数学。他们想看看这种“信任等级制度”在更复杂的现实世界情况中是否依然成立。他们在其他三个领域测试了人工智能：

布尔代数（逻辑门）： 他们让一个紧凑的数学公式与一个巨大的“真值表”（列出所有可能结果的庞大列表）进行对决。尽管真值表是详尽且不可能出错的，但人工智能仍然在 88% 的情况下更倾向于选择紧凑的公式。看来人工智能比起“暴力”列表，更喜欢“聪明”的捷径。
代码生成： 他们给人工智能提供了一个关于计算机程序应该做什么的文字描述，以及一套自动化测试（检查程序是否工作的代码）之间的冲突。在这里，结果取决于人工智能的“脑力”。规模较小、能力较弱的模型倾向于遵循文字描述，而最强大的模型则强烈偏好自动化测试，遵循率高达 97%。这表明，随着人工智能变得越来越聪明，它学会了信任代码测试这种“硬证据”，而非人类的描述。
临床规则（医疗建议）： 他们用关于药物剂量的真实医疗规则测试了人工智能。有趣的是，人工智能并不关心“格式”（英文还是示例），它更关心的是“内容”。在这个领域，人工智能始终选择更严格的规则（即那个说“不要这样做”的规则），无论该规则是如何编写的。这表明，在涉及高风险的领域，人工智能具有内置的安全偏好。

这对我们意味着什么

论文总结道，人工智能不仅仅是一个随机的猜测者；它有一套系统化的方法来决定遵循哪些指令。它通常更喜欢显性的、结构化的规则（如数学公式），而不是隐含的模式（如示例）。

然而，研究人员也发现，这并不是一个完美、不可改变的定律。人工智能的偏好会根据模型的智能程度以及所处理的任务类型而发生变化。例如，在医疗测试中，人工智能完全忽略了格式，而直接寻找“更安全”的答案。

这项研究为我们衡量人工智能如何思考提供了一个新工具。通过了解人工智能有一个“偏爱的”指令类型，我们可以设计出更好的系统。如果我们希望人工智能遵循特定规则，我们应该将其写成清晰、正式的陈述，而不是寄希望于它能从一份示例列表中自行领悟。这提醒我们，虽然人工智能正在变得越来越聪明，但它仍然需要我们用清晰的方式与其交流——尤其是在指令发生冲突的时候。

技术摘要：一种基于对称性的衡量 LLM 在冲突规范下偏好性的框架

问题陈述

大型语言模型（LLMs）越来越多地运行在多个上下文规范定义任务的环境中。这些规范通常以多种形式存在——自然语言指令、形式化约束、可执行测试或输入-输出示例——并且可能是不一致或直接冲突的。虽然先前的研究已经探讨了模型如何检测或调和不同信息源之间的冲突（例如在检索增强生成或事实核查中），但目前仍缺乏一种可控且可归因的方法，用于系统地分析模型在支持不兼容行为时，如何对不同形式的任务规范进行优先级排序。具体而言，目前尚不清楚 LLM 是否对某些表示类型（例如形式化语言与自然语言）表现出系统性的偏好，以及这些偏好如何随模型和任务领域而变化。

方法论

作者提出了一种基于对称性的实验框架，旨在通过将问题视为对竞争性可执行映射的选择过程，来衡量模型在冲突规范下的偏好。

核心框架

可执行映射（Executable Mappings）： 任务由映射 $f: X \to Y$ 定义。冲突的规范被构建为一对映射（ $f_1, f_2$ ），它们对于一个判别性查询 $q^\star$ 会产生不同的、可归因的输出（其中 $f_1(q^\star) \neq f_2(q^\star)$ ）。
归因（Attribution）： 由于每种规范都会诱导一个具体的输出，模型的响应可以直接归因于其中一个映射、另一个映射，或两者皆非。这把隐式决策转化为了一个可观测的变量。
基于对称性的平衡设计（Symmetry-Based Counterbalancing）： 为了将表示类型的偏好从混淆因素（如呈现顺序或特定的内容偏差）中分离出来，该框架采用了对称完备的配置。对于任何在表示类型 $A$ $A$ 与 $B$ $B$ 之间的比较，每个冲突实例都会生成四个试验：
- $(A(f_1), B(f_2))$ , $(B(f_1), A(f_2))$ , $(A(f_2), B(f_1))$ , $(B(f_2), A(f_1))$ 。
  这种设计平衡了表示类型对底层映射的分配以及呈现顺序，允许通过聚合来估计偏好，从而消除非目标因素的影响。

实验设置

该框架在三个领域进行了实例化：

数学基准： 一个包含 11 个函数族（如代数、图、矩阵运算）共 550 个冲突实例的受控数据集。对比了四种表示类型：纯自然语言（NL）、形式化语言（Form）、自然化形式化语言（NatF）以及输入-输出示例（Ex）。
布尔代数： 符号公式与真值表之间的冲突。
代码生成： 自然语言文档与可执行单元测试（源自 MBPP 数据集）之间的冲突。
临床规则： 涉及肾脏给药阈值和儿科年龄指示的冲突，这些规则源自 openFDA 标签，用于测试真实规则与保持模式的扰动之间的冲突。

关键结果

1. 系统性的表示偏好（数学基准）

在多个模型（包括 DeepSeek、GPT 和 Llama 系列）中，研究确定了一个用于解决数学冲突的一致偏好排序：
$\text{Formal} \approx \text{Naturalized Formal} > \text{Pure Natural Language} > \text{Input–Output Examples}$

形式化 vs. 自然语言： 在可归因的响应中，模型在约 87% 的情况下选择了形式化规范而非纯自然语言。
形式化 vs. 示例： 模型对形式化规范相对于示例的偏好甚至更强（约 93%）。
自然化形式化： 尽管是以自然语言表达，但自然化形式化规范的行为与纯形式化规范相似，这表明显式的数学结构是主导因素，而非表面语法。
模型差异： 虽然整体层级关系成立，但偏好的相对强度有所不同。例如，对形式化与自然化形式化的偏好并不统一；某些模型（如 GPT-5-nano）倾向于自然化形式化，而其他模型（如 DeepSeek-V4-Flash）则倾向于纯形式化。

2. 示例的角色

输入-输出示例的竞争力被发现高度依赖于模型能力和任务结构：

能力依赖性： 高能力度的模型变体通常比低能力度的变体更频繁地选择由示例支持的映射。
任务依赖性： 示例在与纯自然语言竞争时最具竞争力（某些模型的选择率高达 ~55%），但在面对形式化或自然化形式化规范时竞争力显著下降（选择率通常 <10%）。
结构敏感性： 当竞争性规范展示出显式的数学结构时，示例难以应对，因为有限的演示不足以恢复出规则，无法与形式化符号的显式约束相媲美。

3. 异构领域的发现

布尔代数： 模型表现出对紧凑、组合式符号表示（公式和门电路网表）相对于详尽真值表的强烈偏好。然而，公式与门电路网表之间的偏好具有模型依赖性，表明不存在通用的层级结构。
代码生成： 观察到了基于模型能力的剧烈分歧。低分模型通常倾向于自然语言文档，而高分模型则强烈倾向于可执行测试（顶尖模型的选择率高达 97%）。
临床规则： 在临床场景中，表示层级并未清晰转移。相反，出现了一种领域特定的偏差：模型一致地偏好更严格的规则（52%–87% 的选择率），无论该规则是“真实”的标签还是扰动后的规则。这表明在高度敏感的领域，安全性/限制性偏差可以覆盖表示偏好。

4. 鲁棒性与弃权

呈现顺序： 虽然是一个次要效应，但呈现顺序对结果的影响远小于表示类型，除非竞争性的规范强度相似（例如形式化 vs. 自然化形式化）。
弃权： 当被明确允许回答“不确定”时，模型（特别是 GPT-5-nano）利用弃权作为处理冲突的策略，其速率随表示对的变化而显著不同（例如，在 GPT-5-nano 处理形式化 vs. 自然化形式化冲突时，弃权率约为 64%）。

意义与主张

本文声称建立了将 LLM 中的冲突解决视为一个受控的、可执行的且基于对称性平衡的测量问题。

可归因测量： 通过使用可执行的地面真值（ground truth）和基于对称性的平衡设计，该框架实现了对模型输出的直接归因，超越了对“幻觉”或“调和”的定性分析。
结构化但具有上下文相关性： 研究结果表明，LLM 的冲突解决并非随机噪声，而是一个结构化的选择过程。然而，这种结构是上下文相关的：虽然在数学任务中存在对显式结构的普遍偏好，但领域特定因素（如临床规则中的限制性或代码生成中的测试精确度）可以重塑或覆盖这些偏好。
统一框架： 本工作提供了一种统一的实验方法来分析模型如何优先考虑不同的规范形式，证明了这些偏好并非普适，而是会随模型、任务族和领域而发生系统性变化。

作者总结道，理解这些隐式层级对于设计可靠的 LLM 系统至关重要，因为冲突中的“胜出者”是由表示类型、模型能力和领域特定约束之间复杂的相互作用决定的。