💬 NLP

Agreement in Representation Space for Open-Ended Self-Consistency

本文介绍了基于嵌入的一致性（Embedding-Based Agreement, EBA），这是一种无需训练的方法，它通过利用表示空间中的几何聚类来识别高质量输出，从而将自一致性扩展到开放式生成任务中，并证明了嵌入空间中的语义集中度是比精确符号匹配或近期的基于大语言模型的选择方法更具鲁棒性和可扩展性的可靠性信号。

原作者： Paula Ontalvilla, Gorka Azkune, Aitor Ormazabal

发布于 2026-06-11

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Paula Ontalvilla, Gorka Azkune, Aitor Ormazabal

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心问题：寻求第二意见

想象一下，你向一个非常聪明但有时有点唠叨的 AI 请教一个数学问题或一段代码。为了得到最好的答案，你把同一个问题问了它 100 次。这被称为“采样”（sampling）。

在有唯一正确答案的简单任务中（比如“2+2 等于几？”），你只需要统计投票数即可。如果 90 次它说“4”，10 次它说“5”，你就选“4”。这就是旧的做法，被称为自一致性（Self-Consistency）。

但如果任务是开放式的呢？

编程： 你要求编写一个用于对列表进行排序的函数。一个答案使用 Python，另一个使用 JavaScript，第三个使用不同的排序算法。它们都能运行，但看起来完全不同。你不能直接“统计投票”，因为没有两个答案在字面上是完全相同的。
摘要生成： 你要求总结一篇新闻文章。一个摘要短小精悍；另一个则详尽细致。两者都很好，但并不匹配。

旧方法在这里失效了，因为它寻找的是精确匹配（就像寻找一模一样的双胞胎）。本文作者希望找到一种方法，即使答案在表面上看起来不同，也能衡量它们的共识程度。

新思路：“拥挤的房间”类比

作者提出了一种看待一致性的新方式。他们不再关注 AI 生成的文字，而是关注文字背后的含义。

想象 AI 的“大脑”（其内部表示空间）是一个巨大的、隐形的房间。

假设： 当 AI 生成许多虽然不同但含义正确且相似的答案时，它们不会随机散布。相反，它们倾向于聚集在房间中一个特定的、拥挤的角落。
噪声： 当 AI 生成错误或奇怪的答案时，它们往往会游荡到房间中那些空旷、孤立的角落，远离人群。

因此，“一致性”并不是指每个人都说出完全相同的句子。而是指每个人都站在同一个几何邻域内。

解决方案：EBA（基于嵌入的协议）

为了测试这一点，作者创建了一个名为 EBA 的工具。其工作步骤如下：

询问 AI： 对同一个问题生成 100 个不同的答案。
映射答案： 将每一个答案转化为那个巨大隐形房间中的一个坐标点（使用一种叫做“嵌入/embedding”的技术）。
寻找人群： 寻找最大的点簇（cluster）。大多数答案聚集在哪里？
挑选领袖： 选择最靠近那个最大人群中心的那个答案。

类比： 想象你在参加一个派对，你想知道当前的“主要谈话话题”是什么。

旧方法： 你在听人们是否在喊出完全相同的短语。如果没人喊出完全相同的短语，你就放弃了。
EBA 方法： 你观察房间。你看到一大群人围成一个圈，笑着聊天。即使他们说的词汇不同，他们的肢体语言和位置也表明他们都在就同一个话题达成共识。你选择站在那个圆圈中心的人作为“最佳”答案。

他们的发现

作者在三类任务上测试了该方法：数学、编程和摘要生成。

效果优于随机： 仅仅从生成的 100 个答案中随机抽取一个，就像是在整栋建筑里随机找一个人。EBA 挑选的是“聪明人群”中的人，它能持续获得更好的结果。
样本越多 = 结果越好： 你要求 AI 生成的答案越多，那个“人群”就变得越清晰。这就像如果你房间里只有 5 个人，很难判断群体在哪里；但如果你有 200 个人，人群就显而易见了。随着提供的数据增多，EBA 会变得越来越聪明。
稳定性高： 其他试图解决此问题的办法（例如让第二个 AI 来评判答案）往往会在请求过多答案时感到困惑或耗尽内存。而 EBA 即使面对海量样本，也能保持稳定可靠。
“中心”至上： 他们发现了一个迷人的现象：位于几何簇中心附近的答案，几乎总是最好、最可靠的答案。而那些位于边缘（“外围”）的答案通常是糟糕或不准确的。

为什么这很重要

这篇论文改变了我们看待 AI 一致性的方式。

以前： 我们认为一致性意味着“说同样的话”。
现在： 我们知道一致性是一种几何属性。它意味着“站在意义的同一个邻域内”。

这使我们能够将“自一致性”这一技巧（通过提问多次并挑选最佳答案）应用于复杂的任务，如编写代码或总结书籍，而不局限于简单的数学问题。它证明了即使 AI 的答案在外部看起来各异，它们的“内在几何结构”也能揭示哪些答案才是真正达成共识的。

技术摘要：表征空间中的一致性协议（Agreement in Representation Space for Open-Ended Self-Consistency）

问题陈述

自一致性（Self-consistency）已成为增强大语言模型（LLM）推理能力的主要推理时策略。经典的各种方法，如 Wang 等人 (2022) 提出的方法，通过采样多个推理路径并利用多数投票法选择出现频率最高的最终答案来运行。虽然这种方法在处理具有类别输出的任务（如数学推理、多项选择题）时非常有效，但它依赖于精确的符号匹配。

将自一致性扩展到开放式生成任务（如代码合成、文本摘要和自由形式推理）面临着显著挑战。在这些场景中，语义等价的响应在词汇或结构层面可能存在巨大差异，使得精确匹配失效。最近尝试解决此问题的研究，例如使用基于 LLM 评估的通用自一致性（Universal Self-Consistency, USC, Chen et al., 2023），或依赖不确定性信号的自我确定性（Self-Certainty, SCe, Kang et al., 2026），都引入了关于可扩展性、计算成本和稳定性的新局限性。

方法论：基于嵌入的一致性协议（Embedding-Based Agreement, EBA）

作者假设，开放式生成中的自一致性不仅仅是符号重叠的属性，而是生成空间的几何属性。具体而言，他们认为语义兼容的生成内容会集中在表征空间中相似且稠密的区域，而不同或低质量的生成内容则显得孤立或分布稀疏。

为了使这一假设具象化，论文引入了基于嵌入的一致性协议（EBA），这是一个无需训练的框架，通过以下步骤估计一致性：

采样（Sampling）： 给定输入提示词 $x$ ，从语言模型中采样 $N$ 个候选生成结果 $\{y_1, \dots, y_N\}$ 。
嵌入（Embedding）： 使用嵌入函数 $\phi(\cdot)$ 将每个生成结果映射到连续的表征空间，产生向量 $\{e_1, \dots, e_N\}$ 。
聚类（Clustering）： 使用余弦距离进行凝聚类聚类（agglomerative clustering）。聚类数量通过轮廓系数分析（silhouette analysis）自动确定。
选择（Selection）： 包含较多生成结果的簇被解释为具有强一致性的区域。最终的预测结果被选为最接近该主导簇质心的样本。

该框架设计为与模型无关，不需要额外的训练或外部 LLM 评估器来进行选择过程。

核心贡献

自一致性的几何解释： 论文将自一致性从离散的投票机制重新定义为一种几何现象，即一致性源于采样生成在表征空间中的集体组织方式。
EBA 框架： 引入了一种简单的、无需训练的方法（EBA），利用嵌入空间中的聚类来为开放式任务选择高质量的输出。
实证验证： 在三个不同领域进行了全面的实验：数学推理（MATH500）、代码生成（HumanEval）和摘要生成（CNN/DM）。
缩放与鲁棒性分析： 研究表明，一致性信号随着采样预算的增加而增强，并且在不同的模型家族（Llama, Qwen）、模型规模（8B 到 70B）以及嵌入空间（预训练模型 vs. 原生隐藏层表示）中保持稳健。
几何质量相关性： 分析揭示了生成的几何位置与其质量之间存在强相关性。集中在表征空间中心区域的生成结果能产生更可靠的输出，而处于边缘位置的生成结果准确性显著降低。

实验结果

作者使用 Llama 3.1-8B/70B 和 Qwen 3-8B/32B 模型对 EBA 进行了评估，并将其与随机选择、USC 和 SCe 进行对比。

性能提升： EBA 的表现始终优于随机选择。在代码生成（在 HumanEval 上提升高达 4 个百分点）和数学推理（在 MATH500 上提升高达 17 个百分点）方面的提升最为显著。在摘要生成方面的提升较小但保持一致（+1 ROUGE-1 点）。
缩放行为： 与 USC（由于上下文限制或评估噪声，随着候选数量增加往往会出现性能下降）以及 SCe（表现出不稳定的缩放）不同，EBA 当采样预算（ $n$ ）从 1 增加到 256 时，表现出稳定且近乎单调的改进。
鲁棒性： EBA 的有效性在不同的嵌入模型（Qwen, Gemma）甚至在使用直接从生成模型提取的原生隐藏表示时依然成立，这表明该信号是生成分布所固有的。
与经典 SC 的联系： 在 MATH500 上，当应用于提取的最终答案时，EBA 紧密模拟了经典多数投票法的缩放行为，表明它是对原始自一致性原则的连续扩展。

重要性与主张

论文声称，将自一致性视为采样生成的几何属性，为类别型任务和开放式任务提供了一个统一的视角。这项工作的核心意义在于：

为在开放式生成中选择一致输出提供了一种鲁棒、可扩展且计算高效的替代方案，以取代基于 LLM 的评估。
证明了一致性信号在不同模型规模和嵌入空间（包括原生表示）中是稳定的。
确立了生成分布所占据的表征空间的“中心”是衡量输出可靠性的强指标。

作者总结道，他们的发现支持了对自一致性的理解发生转变：从精确的符号重叠转向生成空间的几何组织，这为基于表征空间结构的推理时选择开辟了新的方向。

局限性

论文承认了以下几点局限性：

表征几何（Representation Geometry）： 当前的嵌入空间可能表现出低分离度的几何结构（例如，集中在狭窄的高维锥体中），这意味着邻近并不总是完美等同于语义等价。
聚类启发式算法（Clustering Heuristics）： 依赖凝聚类聚类和轮廓系数分析可能无法完全捕捉生成空间中的细粒度局部结构。
计算开销（Computational Overhead）： 虽然比 LLM 评估更便宜，但 EBA 仍需要生成多个样本并计算嵌入，对于非常大的采样预算或长文本生成来说，这可能仍然成本较高。
范围（Scope）： 评估仅限于摘要、代码和数学；需要在对话或智能体推理等领域进行进一步评估。