🤖 AI

The Silent Vote: Improving Zero-Shot LLM Reliability by Aggregating Semantic Neighborhoods

本文介绍了语义 Softmax，这是一种在推理阶段聚合语义邻域分数的方法，旨在缓解零样本大语言模型分类中的重归一化偏差及其导致的“静默投票”问题，从而在多个基准测试中显著提升模型的校准能力和判别性能。

原作者： Sanket Badhe, Priyanka Tiwari, Deep Shah

发布于 2026-05-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Sanket Badhe, Priyanka Tiwari, Deep Shah

原始论文根据 CC0 1.0（http://creativecommons.org/publicdomain/zero/1.0/）发布到公有领域。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用简单语言和日常类比对论文《沉默的投票》的解释。

问题：“沉默的投票”与“强制选择”

想象你是一名才艺秀的评委。你有一份包含三个特定类别的清单：喜悦、悲伤或愤怒。

你观看了一场表演，感觉它混合了“兴奋”和“自豪”。在你脑海中，你知道“兴奋”和“自豪”与“喜悦”是近亲。事实上，你的大脑会给这些“近亲”词汇投下一点点“票”，因为它们非常契合这种感受。

然而，这场特定才艺秀的规则非常严格：你只允许写下三个官方类别中的一个。 你不能写“兴奋”或“自豪”。

标准方式（缺陷）：
在当前的 AI 系统中，当模型被迫仅从官方列表中选择时，它就像一个无视所有那些“近亲”投票的评委。它抛弃了关于“兴奋”和“自豪”的证据，并说：“好吧，既然我不能选那些，而‘喜悦’是唯一剩下的接近选项，那我必须 100% 确定它是喜悦！”

论文将这种现象称为重归一化偏差。通过抛弃“沉默的投票”（同义词和相关词汇），AI 变得人为地过度自信。它认为自己以 99% 的确定性知道答案，即使答案实际上有些模糊。这是危险的，因为 AI 不知道它何时是在猜测。

解决方案：“语义 Softmax"（邻里守望）

作者提出了一种名为语义 Softmax的新方法。这种方法不像忽略那些“近亲”，而是像一个聪明的邻里守望组织。

它是如何工作的：

观察整个社区： 在迫使 AI 只选择一个标签之前，该方法会查看 AI 正在思考的“前 50 个”词汇，即使它们不在官方列表中。
收集投票： 它会问：“嘿，‘兴奋’这个词看起来像‘喜悦’吗？‘自豪’看起来像‘喜悦’吗？”
合并证据： 如果 AI 正在思考“兴奋”和“自豪”，它会将这些“投票”加到“喜悦”的堆中。
结果： AI 不再说“我 100% 确定它是喜悦”，而是可能会说：“主要是喜悦，但很有可能与它相关，所以我只大约 75% 确定。”

这使得 AI 变得校准良好。它承认自己何时不确定，这对于实际应用来说可靠得多。

类比：拥挤的房间

将 AI 的大脑想象成一个挤满了人（词汇）的拥挤房间。

旧方式： 你告诉 AI，“只听从戴红、蓝或绿帽子的人。”如果房间里戴紫色帽子的人（同义词）喊得最大声，AI 就会忽略他们。然后，它看着戴红帽子的人说：“既然紫色消失了，红色一定是声音最大的！”AI 在欺骗自己，以为红色实际上有多大声。
新方式（语义 Softmax）： AI 倾听了戴紫色帽子的人，意识到他们谈论的事情与戴红帽子的人相同，并将他们的声音加入到红色堆中。现在，AI 可以准确地衡量“红色”群体实际上有多大声音，包括所有在 sidelines 支持它的所有声音。

论文发现

研究人员在两个流行的 AI 模型（Qwen-3 和 Phi-4-mini）上使用两个不同的数据集进行了测试：

GoEmotions： 一个关于人类情绪的数据集（如“钦佩”、“自豪”、“喜悦”）。
Civil Comments： 一个关于有毒评论的数据集，人类经常对某事物是否有毒意见不一（模糊案例）。

结果：

减少过度自信： 新方法大幅降低了“预期校准误差”（衡量 AI 对自己置信度错误频率的分数）。简单来说，AI 不再假装自己是天才，而实际上是在猜测。
更高的准确性： 令人惊讶的是，通过承认不确定性，AI 实际上在挑选正确标签方面变得更好了。它提高了区分不同类别的能力。
类人的不确定性： 在人类意见不一致的情况下（例如，“这条评论是刻薄还是只是直率？”），使用新方法的 AI 给出的分数与人类平均意见相符，而不是强制给出一个非黑即白的“是”或“否”。

重要局限性（论文所述）

作者谨慎地指出了该方法不能做什么：

它不是偏见的魔法修复： 如果 AI 的大脑对某些群体存在偏见，这种方法无法修复。它只是让 AI 更诚实地面对自己的不确定性。
它适用于“零样本”任务： 这是设计用于要求 AI 从列表中挑选标签而无需重新训练的情况。它不适用于生成长故事或文章。
它需要一点时间： 该方法需要 AI 进行额外的数学运算来寻找“邻里”词汇，如果你一次性处理数百万个词汇，这可能会稍微减慢速度。
它需要良好的“地图”： 该方法依赖于 AI 对词汇之间关系的良好理解。如果 AI 的语言内部地图很混乱，这种方法可能会感到困惑。

底线

论文认为，当我们强迫 AI 从简短列表中选择单个标签时，我们无意中让它对自己有多确定撒谎。通过让 AI 计算相似词汇的“沉默投票”，我们可以让它更诚实、更准确，并更好地知道何时它不知道答案。

技术摘要：沉默的投票

问题定义：重归一化偏差与沉默的投票

本文指出了大型语言模型（LLM）作为零样本分类器使用时存在的一个系统性可靠性问题， termed 重归一化偏差（Renormalization Bias）。在标准的受限解码中，模型被限制在一组少量的目标标签（例如，特定的情感类别）上。为了强制执行这一限制，softmax 操作仅应用于代表这些标签的 token，从而有效地屏蔽了词汇表中的其余部分。

作者认为，这一过程丢弃了“沉默的投票”：即分配给语义同义词和相关概念的概率质量，这些概念存在于受限标签集之外，但与输入在语义上相关。由于 LLM 学习的是分布式表示，其中意义分散在同义词的密集邻域中，强制模型在计算概率之前仅从稀疏的 token 集合中选择，会导致人为的过度自信。模型仅因为目标标签是唯一具有不可忽略亲和力的允许 token，便赋予其近乎确定的概率，即使其绝对语义对齐度很弱。这导致了校准不良，即预测的置信度显著超过实际准确率，并且无法量化模糊输入中固有的偶然不确定性。

方法论：语义 Softmax

为了恢复丢失的信息并减轻重归一化偏差，作者提出了语义 Softmax，这是一种轻量级、无需训练的推理层。与屏蔽词汇表的标准受限解码不同，语义 Softmax 聚合了围绕每个目标标签的语义邻域中的概率质量。

该框架的操作步骤如下：

无约束分布：模型在整个词汇表上生成原始 logits。
Top-K 选择：该方法不屏蔽词汇表，而是考虑无约束分布中的前 $K$ 个 token（ $V_{topK}$ ）。
语义核：使用模型的输出嵌入，计算每个无约束 token $v$ 与目标标签 $l$ 之间的语义权重 $w(v, l)$ 。该权重源自阈值化的余弦相似度：
$w(v, l) = \max\left(0, \frac{E_v \cdot E_l}{\|E_v\|\|E_l\|} - \tau\right)$
其中 $\tau$ 是作为噪声过滤器的超参数阈值。
聚合概率：目标标签的最终概率计算为前 $K$ 个 token 概率的加权和，并在所有目标标签上进行归一化：
$P_{sem}(l|x) = \frac{\sum_{v \in V_{topK}} P(v) \cdot w(v, l)}{\sum_{l' \in L} \sum_{v \in V_{topK}} P(v) \cdot w(v, l')}$

这种方法使模型能够反映其内部的不确定性；如果语义证据分布在关联不同类别的 token 上，生成的概率分布自然会变得柔和，而不是保持人为的尖锐峰值。

实验设置与结果

作者在 Qwen-3-1.7B 和 Phi-4-mini (3.8B) 模型上评估了语义 Softmax，使用了两个数据集：

GoEmotions：包含 58,000 条 Reddit 评论的数据集，具有 28 个细粒度情感类别，选择该数据集是因为标签之间存在大量的语义重叠。
Civil Comments（模糊子集）：用于评估对偶然不确定性的处理能力，利用标注者分歧分数而非硬标签。

关键结果：

校准改进：语义 Softmax 大幅降低了期望校准误差（ECE）。在 GoEmotions 上，Qwen-3 的 ECE 从 0.574 降至 0.069，Phi-4 从 0.421 降至 0.065，相比标准基线最高提升了 8.5 倍。在 Civil Comments 上也观察到了类似的降低（平均超过 75%）。
Brier 分数：该方法一致地降低了 Brier 分数，表明预测概率与实际结果之间的均方误差减小。
判别性能：与校准改进可能会以牺牲准确率为代价的假设相反，语义 Softmax 同时增强了判别能力。在所有测试配置中，AUROC 和 Macro-F1 分数均有所提高。
置信度分布：可靠性图显示，标准解码表现出系统性过度自信（曲线位于对角线下方），而语义 Softmax 紧密跟踪了理想校准曲线。对于模糊输入，标准模型强制产生极端概率（>0.9），而语义 Softmax 产生的分数与人类共识一致。

主要贡献

本文做出了三项主要贡献：

重归一化偏差的形式化：作者定义并形式化了将归一化限制为目标 token 所导致的系统性扭曲，将其确定为企业级 LLM 部署中过度自信的驱动因素。
语义 Softmax 框架：他们引入了一种在操作上可行、数学基础扎实的方法，用于在受限推理期间聚合分布式语义证据，而无需参数更新或模型结构变更。
实证验证：通过在 GoEmotions 和 Civil Comments 上的实验，他们证明了该方法降低了校准误差和 Brier 分数，同时提高了在模糊场景中与人类分歧的一致性，并增强了整体判别性能。

意义与局限性

本文将语义 Softmax 定位为现有服务基础设施的“即插即用”解决方案，通过考虑语言细微差别来提高零样本分类的可靠性。它为涉及毒性检测和情感分类的任务提供了更校准的替代方案。

然而，作者对其主张保持了适度的范围：

范围：该方法专门针对“作为分类器的 LLM"范式下的受限解码设计。
架构：验证仅限于高效的小型架构（1.7B–3.8B 参数）；尚未建立更大基础模型的缩放定律。
计算成本：由于动态 top- $k$ 搜索和相似度计算，该方法引入了推理时的开销，使其不太适合延迟累积的长文本解码任务。
嵌入依赖性：有效性依赖于底层嵌入空间的质量；各向异性嵌入或语义聚类不佳理论上可能引入噪声。
语言：目前的评估仅限于英语基准。

伦理说明：作者强调，虽然该方法改进了不确定性量化，但它并不能消除基础模型中嵌入的社会偏见。他们建议将高不确定性输出作为触发人工介入审查的机制，而不是在敏感的内容审核任务中仅依赖自动判断。