💬 NLP

Interpreting and Controlling Model Behavior via Constitutions for Atomic Concept Edits

本文介绍了一种黑盒可解释性框架，该框架通过系统地对提示词应用原子概念编辑，来学习可验证的自然语言“宪法”，从而实现对模型在文本生成图像和数学推理等任务中行为的深度洞察与有效控制。

原作者： Neha Kalibhat, Zi Wang, Prasoon Bajpai, Drew Proud, Wenjun Zeng, Been Kim, Mani Malek

发布于 2026-02-03

📖 1 分钟阅读☕ 轻松阅读

原作者： Neha Kalibhat, Zi Wang, Prasoon Bajpai, Drew Proud, Wenjun Zeng, Been Kim, Mani Malek

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你拥有一个非常强大但又带点神秘感的机器人艺术家，或者是一个超级聪明的计算器。你给它一个提示词（一组指令），它就会给你一个答案或一张图像。有时，你会想知道：“为什么它弄错了？”或者“我该如何诱导它做对？”

这篇论文介绍了一种与这些“黑盒”模型进行交流的新方法，而无需看到它们的内部代码。他们将这种方法称为宪法引导的原子概念编辑（Constitution-guided Atomic Concept Edits，简称 ACEs）。

以下是使用简单类比进行的详细拆解：

1. 问题所在：“黑盒”之谜

想象一下，你正试图修理一辆汽车，但发动机被隐藏在一个实心的钢块内部。你看不见里面的齿轮。你只能转动钥匙（提示词），然后观察车是否发动了（输出）。

挑战： 如果车没发动，你怎么知道是燃料、火花塞还是电池的问题？在人工智能中，如果模型给出了错误的答案，很难知道你的提示词中具体是哪个词导致了失败。

2. 工具：“原子概念编辑”（ACEs）

研究人员将提示词视为一个 乐高结构。

原子概念： 一个单一且独特的乐高积木（例如，“猫”这个词、“红色”这个颜色，或“奔跑”这个动作）。
编辑（ACE）： 你不是在重建整辆车，而只是更换掉 其中一块 积木。
- 移除： 把“猫”这块积木拿走。
- 添加： 放进一个“狗”的积木。
- 替换： 把“红色”换成“蓝色”。

他们系统地尝试更换这些单块积木，看看会发生什么。车现在发动了吗？图像发生了变化吗？这有助于他们精确地绘制出哪些“积木”控制着特定的行为。

3. 解决方案：“宪法”

在测试了数千次这些单块积木的更换后，研究人员并不仅仅是保留数据；他们编写了一本 规则手册（或称为“宪法”）。

把这本“宪法”想象成 厨师改变菜肴风味的秘密食谱。

没有宪法时： 你在随机猜测。“也许加点盐？也许去掉胡椒？”这需要很长时间才能摸索出窍门。
有了宪法： 你有一份书面指南，上面写着：“如果要让汤变辣，请务必加入辣椒。如果要让它味道平淡，请移除食盐。绝不要加糖。”

这份“宪法”是一份用纯英文编写的 好策略 和 坏策略 的列表。它总结了研究人员发现的模式。

示例： “如果你想让图像看起来出错，可以添加一个‘冲突的环境’（比如把鱼放在沙漠里）。”
示例： “如果你想让数学题的答案出错，可以添加一个‘干扰变量’（一个看起来很重要但其实没用的数字）。”

4. 实际运作方式

研究人员在三种不同的“游戏”上测试了这种方法：

游戏 1：字数挑战
- 目标： 让 AI 写出一个非常短的答案（少于 50 个单词）。
- 宪法的洞察： AI 会忽略像“简洁”这样模糊的词。它只听从 硬性数字（例如，“正好写 10 个单词”）或 结构限制（例如，“仅写一句话”）。
- 结果： 使用宪法后，AI 遵循字数规则的效果比不使用时要好得多。
游戏 2：数学陷阱
- 目标： 让 AI 在一道简单的数学题上失败。
- 宪法的洞察： 一些 AI 模型（如 GPT-5）如果加入“干扰变量”（一个看起来像是属于题目一部分的假数字）就会感到困惑。而其他模型（如 Gemini）足够聪明，能够忽略假数字并得出正确答案。
- 结果： 宪法揭示了不同的模型拥有不同的“盲点”。
游戏 3：图像不匹配
- 目标： 让 AI 画出一张与描述不符的图像。
- 宪法的洞察：
  - 一个模型（GPT-Image）如果移除物体之间的关系（例如，说“一个男人和他的儿子”，但移除了“儿子”），就会出错。它依赖严格的语法。
  - 另一个模型（Imagen）如果添加 冲突的场景（例如，一个带有“工业废料”的“公园”），就会出错。它更在意整体的“氛围”或环境。

5. 重大胜利

论文声称，通过使用这种宪法（规则手册）来引导 原子编辑（单块积木更换），他们控制 AI 行为的能力比随机猜测要高出 1.86 倍。

总结一下：
与其盲目猜测如何改变 AI 的想法，这种方法让我们能够将 AI 的指令拆解为逐个单词，学习其运行的规则，并编写一份简单的“宪法”，从而准确地告诉您如何引导它实现您的目标。它将一个神秘的黑盒变成了一台拥有清晰、易懂说明书的机器。

技术摘要：通过宪法（Constitutions）解释并控制模型的原子概念编辑行为

1. 问题陈述

大型生成式模型的快速发展在安全性、可靠性和可解释性方面带来了显著挑战。一个主要的障碍是模型错误行为的归因问题；在现代架构中，越来越难以将失败追溯到特定的输入特征。虽然对抗性机器学习已经证明，细微的输入变化可以触发重大故障，但分析这些脆弱性仍然是一个研究空白，特别是在多模态大语言模型（LLMs）中，提示词扰动（prompt perturbations）的可解释性非常有限。

现有方法通常依赖于全局可解释性方法或不可解释的对抗性攻击（例如像素级扰动）。目前需要一种框架，能够通过在可解释的、原子的提示词概念编辑与模型输出变化之间建立因果联系，来系统地解码“黑盒”模型行为。其目标是学习一种自然语言形式的“宪法”（constitution）——即关于特定提示词突变如何影响模型行为的总结——以此来解释并引导这些模型。

2. 方法论

作者提出了一个以**原子概念编辑（Atomic Concept Edits, ACEs）和宪法（Constitutions）**为核心的黑盒可解释性框架。

2.1 核心定义

原子概念编辑 (ACEs)： 针对性的操作，旨在对输入提示词中的单个可解释概念进行添加、删除或替换。概念可以是显式的（如“男人”、“飞盘”）或隐式的（如“一天中的时间”、“儿子的年龄”）。
自动评分器 (Autorater)： 一个二元分类器（或评分函数），根据特定任务（如文本-图像对齐、数学正确性、字数达标）将模型输出映射为一个期望得分（0 或 1）。
宪法 ( $\pi$ )： 一种自然语言描述，用于指导如何生成 ACEs，从而通过修改输入来诱发期望的（或特定的）模型行为。它作为一个规则手册，包含了用于突变的“良好策略”和“不良策略”。

2.2 框架架构

该框架分为三个主要阶段运行：

ACE 生成： 给定初始提示词、任务定义和一个（最初为空或随机的）宪法，概念提取器（Concept Extractor）将提示词分解为一组概念。随后，ACE 生成器会对这些概念提出原子编辑建议（添加、删除、替换）。
探索与标注： 将提议的 ACE 应用于提示词，并由目标模型和自动评分器对生成的输出进行评估。这创建了一个 ACE 轨迹数据集 ( $D = \{(x_i, a_j, y_j)\}$ )，其中 $y_j$ 是真实的自动评分得分。
宪法优化： 为了避免重复查询大型目标模型带来的高昂计算成本，作者采用了代理分类器（带有指令模板的 LLM）来预测自动评分得分。利用受 Alpha Evolve 和 TextGrad 启发的进化算法，该框架迭代更新宪法。宪法通过优化，旨在最大化由其引导的 ACE 满足任务定义的概率。

2.3 优化目标

目标是学习一个宪法 $\pi$ ，使得 ACE 的预期成功率最大化：
$\max_{\pi} \mathbb{E}_{x} \left[ \mathbb{E}_{a \sim p(a|x,t,\pi)} [f(M(\phi(x, a)))] \right]$
其中 $M$ 是目标模型， $f$ 是自动评分器， $\phi$ 表示将 ACE $a$ 应用于输入 $x$ 。优化过程利用来自代理分类器误分类的反馈来进化宪法中的策略。

2.4 推理与控制

一旦完成优化，宪法将引导 ACE 生成器，以极少的步骤将输入提示词转向特定目标（例如，破坏数学正确性或降低图像对齐度）。该框架允许顺序应用 ACE，即通过一系列编辑步骤来增加成功的可能性。

3. 主要贡献

原子概念编辑 (ACEs)： 一种通用的提示词突变方法，通过对特定概念进行可解释的局部编辑（添加、删除、替换）来实现。
宪法优化： 一种进化方法，用于优化自然语言宪法，该宪法既能解释也能引导模型行为。宪法总结了导致期望结果的关键突变方面，并指导未来的 ACE。
实证验证： 在三个领域（字数达标、数学推理和文本-图像对齐）进行了全面评估，使用了多种模型（如 Gemini 2.5, GPT-5, Imagen 4, DALL-E 3 等）。

4. 实验结果

作者在三个下游任务上评估了该框架：

字数 (Word Count)： 强制模型遵守严格的字数限制（< 50 字）。
数学 (Math)： 修改数学问题以使其难以被正确解决（诱导错误）。
文本-图像 (T2I) 对齐： 更新提示词以降低与生成图像的对齐度。

定量发现

成功率： 与没有宪法引导的基准 ACE 相比，使用宪法引导的 ACE (CACE) 在所有模型和任务中实现了平均 1.86 倍的成功率提升。
效率： CACE 在较少的步骤内（通常为 4 步）即可实现高成功率（> 80%），优于基准方法。
多样性： Self-BLEU 指标表明，该框架保持了提示词的多样性，并未收敛到平凡且重复的解。
代理准确性： 代理分类器在预测 ACE 是否满足任务方面优于 TextGrad（一种最先进的文本梯度方法）。

定性洞察（模型行为分析）

学习到的宪法揭示了跨模型的不同行为模式：

文本-图像 (T2I)：
- GPT-Image： 当关键的关系元素和动作聚焦元素被移除时（例如，移除动词的对象），对齐度显著下降，这表明其依赖于严格的组合逻辑。
- Imagen 4： 当添加无关或冲突的环境元素时，对齐度降低，这表明其优先考虑整体场景语境和美学连贯性。
数学推理：
- GPT-5： 通过引入干扰变量或跨方程代换，其性能显著下降。
- Gemini 2.5 / o4-mini： 这些模型受干扰变量的影响较小，在 GPT-5 失效的地方表现出了鲁棒性。
- 通用情况： 引入指数或根号在所有模型中一致地增加了难度，暴露了复杂代数推理方面的局限性。

5. 重要性与主张

本文声称提供了一种全新的框架，通过将概念层面的提示词修改与行为转变联系起来，从而理解并引导黑盒生成式模型。其主要意义在于能够生成人类可解释的宪法，这些宪法作为规则手册，可用于对抗性引导和主动测试。

作者强调，其方法具有以下特点：

在无需访问内部权重的情况下解码模型行为（黑盒）。
提供可操作的、泛化性的见解（例如，“移除关键关系元素”），而非仅仅是特定的数据点。
证明了不同的模型具有截然不同的“盲点”或失效模式，这些模式可以被系统地识别和利用。

这项工作为向任何由自动评分器定义的客观目标进行模型行为引导奠定了基础，为非结构化的提示词工程或不可解释的对抗性攻击提供了一种结构化的替代方案。作者也指出了一些局限性，包括对稳健自动评分器的依赖，以及未来可能需要将这些概念扩展到图像/视频模态和智能体系统。