💬 NLP

COFT: Counterfactual-Conformal Decoding for Fair Chain-of-Thought Reasoning in Large Language Models

COFT 是一种无需训练的解码时方法，它通过将反事实逻辑融合与符合性校准相结合，在无需模型重训的情况下，显著降低了大语言模型思维链推理中的社会偏见，同时保留了任务效用。

原作者： Arya Fayyazi, Mehdi Kamal, Massoud Pedram

发布于 2026-06-01

📖 1 分钟阅读☕ 轻松阅读

原作者： Arya Fayyazi, Mehdi Kamal, Massoud Pedram

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你拥有一位非常聪明、博学多才的图书管理员（大型语言模型）来帮助你写故事、回答问题或解决问题。这位图书管理员读过互联网上数以百万计的书籍。虽然他们知识渊博，但也吸收了那些书中存在的混乱且不公平的刻板印象（比如认为某些职业只属于男性，或者根据姓名对人做出假设）。

当你要求这位图书管理员“大声思考”（思维链推理）后再给出答案时，他们可能会在思考过程中不经意地低声说出一些不公平的刻板印象，即使最终的答案看起来没问题。

COFT（公平思维链）是一个全新的“交通警察”系统，它站在图书管理员思考时的一旁，实时观察他们即将说出的话，并温柔地将他们引导向更公平的选择。

以下是 COFT 的工作原理，通过一个创意类比将其分解为三个简单的步骤：

类比：“双重检查”厨房

想象一下，图书管理员是一位正在准备一道复杂菜肴（答案）的厨师。有时，食谱会要求使用代表敏感话题的食材（比如特定的国籍或性别）。如果厨师使用了那个食材，这道菜的味道可能会带有偏见。

COFT 就像是在一个平行的厨房里工作的孪生厨师。

第一步：“蒙眼”测试（反事实掩码）

在主厨写下食谱的下一个词之前，COFT 会创建一个“被遮盖”版本的提示词。

现实世界： 提示词是：“那位护士（她是一名女性）完成了她的查房……”
COFT 的遮盖版本： 它将敏感词“女性”替换为一个中性的占位符，如 [MASK]。于是它变成了：“那位护士（她是一名 [MASK]）完成了她的查房……”

系统现在会让图书管理员的大脑运行两次：一次使用真实的词，一次使用被遮盖的词。这就像是在问厨师：“如果我不知道性别，你还会选择这个下一个食材吗？”

第二步：“搅拌机”（逻辑融合）

系统会将两个潜在的下一个词列表（一个来自真实提示词，一个来自被遮盖的提示词）混合在一起。

如果真实的提示词强烈暗示了一个有偏见的词（例如：“护士” + “她”），但遮盖后的提示词暗示了一个中性的词，那么“搅拌机”就会将它们混合。
这会创造出一个折中列表，其中不公平、有偏见的选项被调低，而中性的选项被提升。这就像是将一种浓郁辛辣的酱汁与一种温和的酱汁混合，得到一种味道不会过于极端的风味。

第三：“安全门”（符合性过滤）

这是最独特的部分。COFT 不仅仅是在猜测；它使用了一个被称为**符合性预测（Conformal Prediction）**的数学“安全门”。

想象一下，厨房门口站着一名保安。这名保安有一条预先计算好的规则：“只有当真实的厨师和遮盖后的厨师都认为某个食材是安全的时候，才允许其通过。”
如果一个词仅在有偏见的版本中受欢迎，但在中性版本中不受欢迎，保安就会拦截它。
如果一个词在两种版本中都很受欢迎，它就会获得通行证。

这提供了一个统计学保证：COFT 可以承诺，“我们有 95% 的把握确定，无论提示词中的敏感细节如何，我们刚刚放行的这个词都是公平的。”

为什么这很重要？

无需“大脑手术”： 大多数修复偏见的方法都需要“重新训练”模型，这就像是让图书管理员回到学校学习多年以改掉坏习惯。COFT 是无需训练的（training-free）。它直接作用于现有的模型，就在此时此刻。
无需“额外大脑”： 一些方法需要雇佣第二个 AI（分类器）来检查偏见。COFT 不需要第二个 AI；它只是利用图书管理员自己的“孪生兄弟”（被遮盖的版本）来进行检查。
保留“精华部分”： 研究表明，虽然 COFT 削减了偏见（减少了约 30–55%），但它并不会破坏答案的质量。图书管理员解决数学问题或编写好故事的能力与之前一样出色。
可审计性： 因为 COFT 对每一个词都做出了清晰、分步的决策，你可以查看日志，准确看到为什么某个词被选中或被拒绝。它不是一个“黑箱”。

代价

唯一的缺点是速度。因为 COFT 必须运行模型两次（一次针对真实提示词，一次针对遮盖提示词）然后混合结果，所以它需要更多的时间——大约相当于在烹饪过程中增加了一个额外的步骤（慢了约 10%）。然而，研究认为，考虑到它所提供的安全性与公平性，这个微小的代价是值得的。

总结

COFT 是一个位于你与 AI 之间的实时公平性过滤器。它要求 AI 想象一个敏感细节（如种族或性别）被隐藏的世界，将这种想象与现实进行对比，并且只允许 AI 说出在两种世界中都合理的词。它确保了 AI 的“思考过程”保持公平，而无需重新训练 AI 或雇佣额外的助手。

技术摘要：COFT（用于公平思维链推理的反事实共形解码）

1. 问题陈述

在网络语料库上训练的大型语言模型（LLMs）内化并往往会放大社会偏见，尤其是在思维链（Chain-of-Thought, CoT）生成过程中。虽然模型的最终输出可能看起来是中立的，但中间的推理步骤可能会揭示出逐标记（token-by-token）的有害关联。现有的缓解策略面临显著局限性：

训练时方法（如微调、RLHF、数据清洗）：计算成本高昂，需要访问模型权重，且存在降低通用领域性能或编码标注者偏见的风险。
推理时引导（如使用辅助分类器或专家集成）：引入延迟，依赖于外部分类器的盲点，且缺乏严格的统计保证。
表示空间去偏（如零空间投影）：通常应用全局且与提示词无关的修正，这可能会抑制合法的上下文相关语义，且无法捕捉非线性的偏见表现形式。

至关重要的是，当前的方法缺乏解码时的逐步统计保证。它们既没有规定哪些标记可以在控制偏见风险的前提下被安全发射，也没有在每个解码步骤中强制执行局部反事实一致性（即输出在提示词中敏感片段发生假设性变化时的稳定性）。

2. 方法论：COFT

COFT（公平思维链）是一个无需训练、仅在推理阶段使用的解码框架，旨在为冻结的因果语言模型强制执行反事实公平性。它分为三个截然不同的阶段运行：

第一阶段：反事实掩码（Counterfactual Masking）

COFT 通过将敏感片段（如性别、种族、宗教标识符）替换为中性哨兵标记（如 [MASK]）来构建输入提示词的“掩码”版本 $\hat{p}$ 。

实现： 掩码算子是确定性的且保持长度不变。如果一个敏感片段被分词为 $k$ 个标记，它将被替换为 $k$ 个哨兵标记。这确保了事实分支和掩码分支在绝对位置上保持完美对齐，从而允许在相同的自回归前缀下进行有效的逐标记逻辑值（logits）比较。
双分支执行： 模型 $f_\theta$ 在事实提示词 $p$ 和掩码提示词 $\hat{p}$ 上并行运行两次，两者均以生成的相同前缀 $w_{<t}$ 为条件。

第二阶段：反事实逻辑值融合（Counterfactual Logit Fusion）

为了减弱属性驱动的偏见，COFT 对来自事实分支（ $z^F_t$ ）和掩码分支（ $z^{CF}_t$ ）的逻辑值分布进行凸插值：
$\tilde{z}_t = (1 - \lambda) z^F_t + \lambda z^{CF}_t$
其中 $\lambda \in [0, 1]$ 是一个可调的融合参数。

效果： 此操作创建了两个概率分布的几何混合。从理论上讲，它在线性插值对数几率（log-odds），有效地使模型对敏感属性“盲视”，同时保留分布中的高概率区域。这种融合发生在认证之前，以确保随后的过滤步骤是在已经对高质量区域达成共识的分布上进行操作。

第三阶段：双分支拆分共形过滤（Dual-Branch Split-Conformal Filtering）

COFT 在每一步 $t$ 应用**拆分共形预测（Split-Conformal Prediction, CP）**程序来认证候选标记集。

非一致性得分（Nonconformity Score）： 基于每个标记 $v$ 在融合的事实分布 ( $\tilde{\pi}_t$ ) 和掩码分布 ( $\pi^{CF}_t$ ) 中所持的最小概率定义得分：
$s_t(v) = 1 - \min\{ \tilde{\pi}_t(v), \pi^{CF}_t(v) \}$
校准： 在一个不相交的校准集上，计算这些得分的 $(1-\alpha)$ 分位数 $q_t$ 。
认证： 在测试时，只有当得分低于阈值（即 $s_t(v) \le q_t$ ）时，标记才会被允许进入候选集 $C_t$ 。这等同于要求该标记在事实视图和掩码视图中同时具有足够的概率。
采样： 最终的标记从受限于认证集 $C_t$ 的融合分布 $\tilde{\pi}_t$ 中采样。如果 $C_t$ 为空（这是一个罕见事件），则使用确定性回退机制（例如 argmax）。

3. 核心贡献

无需训练的公平解码： COFT 提供了一种在不进行重训、无需梯度访问或辅助分类器的情况下，对冻结语言模型实施公平性的机制。
逐步边际保证： 与以往方法不同，COFT 提供了无分布假设的边际有效性保证（在交换性假设下），用于确保发射标记的稳定性。它证明了真实下一个标记被包含在候选集中的概率至少为 $1-\alpha$ 。
局部反事实一致性： 该方法在标记层面实现了反事实公平性，确保当提示词中的敏感属性被假设性地改变时，解码过程保持稳定。
双分支架构： 通过融合逻辑值并要求事实视图和掩码视图的共同支持，COFT 有效地减轻了偏见，同时保留了任务效用。

4. 实验结果

作者在六个模型（包括 LLaMA-2, Mistral, Mixtral, 和 Qwen2）以及多个偏见基准测试（StereoSet, CrowS-Pairs, BBQ, BOLD, Utrecht, COMPAS）和标准效用任务（GSM8K, StrategyQA, ARC-easy, PIQA）上评估了 COFT。

偏见缓解： 与原始解码相比，COFT 将标准偏见指标降低了 30–55%（中位数为 38%），并优于强大的推理时基线（如 Self-Debiased Decoding, DExperts, Dual-Threshold Conformal Decoding）。例如，在 BBQ 数据集上，偏见降低幅度达到了 34–41%。
效用保留： 在推理和问答基准测试上的任务准确率保持不变（差异 $\le 0.2$ 个百分点）。语言质量指标（Perplexity, MAUVE）与原始解码相比无显著差异。
效率： 计算开销较小，相当于每步增加一次缓存的前向传递。吞吐量降低了约 10–25%，且峰值内存占用增加极微（ $\le 0.8$ GB）。
消融实验： 去除逻辑值融合会导致残留偏见更高，证实了融合是减弱属性驱动对数几率的主要机制。去除双分支共形过滤器会导致失去反事实稳定性保证。

5. 重要性与主张

论文将 COFT 定位为实现更安全的 CoT 生成的清晰、可审计的路径。其主要意义在于为冻结模型提供可验证的安全边界，而无需承担重新训练的高昂计算成本。

可审计的安全： 通过提供逐步边际保证，COFT 使从业者能够在敏感领域（如医疗、法律、招聘）部署模型，并拥有量化的风险度量。
鲁棒性： 该方法对分布偏移具有鲁棒性（其覆盖率随密度比优雅下降），并在多种模型架构上保持性能。
局限性： 作者坦诚地指出，算法干预并非万能药。其保证依赖于对敏感属性的具体定义以及校准数据与测试数据之间交换性的假设。此外，双分支解码会引入推理延迟，必须权衡其带来的偏见降低收益。该方法最适用于那些推理轨迹本身必须是可审计的场景。

总之，COFT 证明了通过一种基于共形预测理论的轻量级、无需训练的过程，可以显著降低 LLM 推理过程中的社会偏见，同时保留其效用。