💬 NLP

Rating Roulette: Self-Inconsistency in LLM-As-A-Judge Frameworks

本文揭示了基于大语言模型的评判者在不同运行中表现出显著的内部评分者不一致性，削弱了其评分的可靠性，并探讨了是否可以通过特定准则使此类评估仍能被有效利用。

原作者： Rajarshi Haldar, Julia Hockenmaier

发布于 2026-04-29

📖 1 分钟阅读☕ 轻松阅读

原作者： Rajarshi Haldar, Julia Hockenmaier

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用通俗语言和创意类比对论文《Rating Roulette：LLM-as-a-Judge 框架中的自我不一致性》的解释。

核心理念：“过山车”式评委

想象你聘请了一位著名的美食评论家来评价一家新餐厅。你请他们在同一张桌子前、面前放着同一张餐巾的情况下，连续三次品尝同一道菜。

第一次品尝： 他们给出五星评价，称其为“杰作”。
第二次品尝： 他们给出两星评价，称其“平淡无味且煮过头了”。
第三次品尝： 他们给出四星评价，称其“尚可但需要更多盐”。

如果发生这种情况，你绝不会信任这位评论家。你会意识到他们的判断就像轮盘赌——即使食物（输入）从未改变，轮盘每次旋转后停下的数字却各不相同。

这正是研究人员在要求大语言模型（LLM）充当其他 AI 生成文本的评委时所发现的情况。他们发现，这些 AI 评委正遭受着"评分轮盘赌"的困扰。

问题所在：AI 评委无法与自己达成一致

在 AI 领域，我们常利用一个 AI 来给另一个 AI 的工作打分。这被称为"LLM-as-a-Judge"（LLM 作为评委）。它之所以流行，是因为比雇佣人类更快、更便宜。

然而，研究人员进行了一项简单的测试：

他们选取了一段文本（如新闻摘要或聊天对话）。
他们要求同一个 AI 评委使用完全相同的指令对该文本进行三次评分。
他们检查 AI 每次是否给出了相同的分数。

结果： AI 评委的表现千差万别。

在名为 SummaC 的任务中（检查摘要是否符合事实），表现最好的 AI 评委仅有约 79% 的时间能与自己达成一致。
在名为 MT-Bench 的任务中（对聊天机器人对话进行排名），一致性甚至更低。在某项任务中，一个 AI 评委仅在 61% 的案例中连续三次给出了完全相同的答案。

这就像评委的情绪每次你提问时都会改变，尽管问题和答案都未曾变动。

适得其反的“魔法”

你可能会想：“好吧，让我们告诉 AI 别再随机行事了。让我们关掉它大脑中‘掷骰子’的部分，让它总是给出相同的答案。”

研究人员尝试了这种方法。他们将 AI 设置为 100% 确定性（无随机性）。

它变得一致了吗？ 是的。
它变成了更好的评委吗？ 没有。

事实上，当他们强迫 AI 停止掷骰子时，与人类评委相比，它的评分实际上变得更差了。这就像强迫厨师每次都使用完全相同的食谱；他们可能不再犯错，但也失去了创造力或适应性，最终食物的味道反而变差了。

该论文指出存在一种权衡：为了获得与人类观点相符的良好评分，AI 需要一点点“随机性”（变异性）。但这种同样的随机性又导致 AI 无法与自己保持一致。

人类对比：人类做得更好吗？

研究人员还考察了人类评委，以查看这是否仅为 AI 独有的问题。

人类专家： 当专家对同一段文本进行评分时，他们彼此之间的一致性尚可，但并非完美。
众包工人： 当普通人（众包工人）对文本进行评分时，他们经常彼此之间以及与专家之间意见不一。
令人惊讶的是： 在某些情况下，AI 评委与自己的一致性甚至高于人类彼此之间的一致性。然而，由于 AI 的分数波动如此之大，很难判断 AI 究竟是“正确”还是仅仅“运气好”。

这为何重要？（“坏尺子”类比）

想象你试图测量一棵树的高度。

旧方法： 你使用一把略微弯曲的尺子。它不完美，但很稳定。
新方法（LLM 评委）： 你使用一把橡胶尺子。有时它会拉伸，有时它会收缩。即使你对同一棵树测量三次，也会得到三个不同的数字。

如果你使用橡胶尺，你就无法信任测量结果。该论文认为，目前使用 LLM 作为评委就像使用一把橡胶尺。

如果你运行一次测试，你会得到一个分数。
如果你再次运行，你会得到不同的分数。
如果你第三次运行，你会得到第三个分数。

因为分数每次都在变化，我们不知道 AI 是否真的擅长评判质量，还是仅仅在猜测。

他们在不同任务中发现了什么？

研究人员测试了 AI 必须参与的三种不同类型的“游戏”：

真或假（SummaC）： 摘要在事实上是否正确？（二选一）。
- 结果： AI 评委表现不一致，但更新、更大的模型稍好一些。
1 到 5 星评价（SummEval）： 根据“连贯性”、“流畅性”等对摘要进行评分。
- 结果： AI 表现非常不一致，尤其是在“流畅性”（文本听起来是否顺畅）方面。有趣的是，AI 在判断流畅性方面有时比人类彼此达成一致的能力还要强。
大逃杀（MT-Bench）： 两个聊天机器人中哪一个给出了更好的答案？
- 结果： 这是最困难的任务。AI 评委在这里表现得极其不稳定，经常改变主意，不确定哪个聊天机器人更好。

结论：如何修复轮盘赌

该论文为想要使用 AI 评委的人提供了一些实用建议：

不要信任单次运行： 如果你让 AI 对某事物进行评分，不要只取第一个答案。让它评分三次，然后取平均值或多数票。这可以平滑“轮盘赌”效应，得出更接近人类观点的分数。
不要关闭随机性： 尽管随机性会导致不一致，但完全关闭它会使 AI 在匹配人类观点方面变得更差。你需要一点点混乱才能获得正确的答案。
检查你自己的一致性： 在信任 AI 评委之前，你应该检查它是否能与自己达成一致。如果它无法与自己达成一致，它可能也无法与你达成一致。

总结

该论文揭示，AI 评委目前不可靠，因为每次被问及同一个问题时，它们都会给出不同的答案。它们更像是一个轮盘赌，而不是一架稳定的秤。虽然更新的 AI 模型在一致性上稍好一些，但它们仍难以做到可靠。目前最好的解决方案是让 AI 多次参与游戏并取平均结果，而不是信任轮盘的一次“旋转”。

以下是 Haldar 和 Hockenmaier 的论文《Rating Roulette：LLM-as-a-Judge 框架中的自不一致性》的详细技术总结。

1. 问题陈述

随着自然语言生成（NLG）的普及，评估模型输出已从传统指标（如 BLEU、ROUGE）转向LLM-as-a-Judge框架，即由大语言模型（LLM）对生成的文本分配分数或排名。虽然这些框架相比 n-gram 指标具有可扩展性且更好地与人类偏好保持一致，但它们存在一个关键且常被忽视的缺陷：低评分者内部信度（自信度）。

作者指出，LLM 评分者表现出显著的自不一致性。当相同的 LLM 在多次运行中接收相同的输入、超参数和设置时，它经常产生不同的评分。这种方差使得个别判断可能具有任意性，并难以确定 LLM 评估能力的真实质量。此外，现有研究通常依赖相关性或准确率等指标将 LLM 与人类进行比较，这些指标未能考虑偶然一致性，从而可能高估了感知到的信度。

2. 方法论

作者在三个不同的 NLG 基准上进行了全面的实证研究，以量化自信度及其对评估性能的影响。

数据集与任务

SummaC：用于摘要事实一致性的二元分类任务（一致 vs. 不一致）。
SummEval：多指标摘要评估，使用 1–5 李克特量表（Likert scale）评估四个维度：连贯性、一致性、流畅性和相关性。
MT-Bench：多轮对话排序任务，评分者在两个模型（模型 A、模型 B 或平局）之间选择更好的回复。

实验设置

模型：使用了三个 LLM 作为评分者：Llama-3.1-70B-Instruct、DeepSeek-R1-Distill-Qwen 和 Qwen3-32B。
过程：每个评分者在相同的数据集上运行三次，使用相同的提示和设置，以测量评分者内部方差。
一致性指标：
- Krippendorff's Alpha ( $\alpha$ )：用于测量一致性的主要指标。选择它而非准确率或相关性，是因为它能校正偶然一致性，并处理缺失数据、不同数量的评分者以及不同的数据类型（名义、有序、区间）。
- 距离函数：二元任务（SummaC）使用名义距离；李克特量表和排序任务（SummEval, MT-Bench）使用有序距离。
- 平衡准确率：用于 SummaC 以解决类别不平衡问题。
比较：研究比较了：
- 自信度：LLM 在不同运行中与自身的一致性。
- 评分者间信度：LLM 与人类评分者（专家以及众包工人/Turkers）之间的一致性。
- 性能影响：“多数投票”（聚合多次运行）与“无采样”（将温度设为 0）对与人类金标准一致性的影响。

3. 主要贡献

自不一致性的量化：本文首次系统量化了 LLM 评分者在不同任务（摘要、事实核查和对话）中低评分者内部信度的问题。
方差 - 性能权衡：作者揭示了一个反直觉的发现：禁用采样（将温度设为 0）以强制确定性输出，会降低 LLM 与人类判断的一致性。 这表明 LLM 固有的随机性虽然导致了自不一致，但实际上可能有助于探索解空间，从而找到更接近人类共识的答案。
评估指标的批判：研究强调，准确率和相关性等标准指标会高估 LLM 与人类之间的一致性，因为它们未校正偶然性。Krippendorff's Alpha 揭示了显著更低且更现实的一致性水平。
任务特异性变异：不一致性并非均匀分布；它随任务（例如，MT-Bench 低于 SummaC）和指标（例如，“流畅性”对 LLM 来说 notoriously 难以一致评分）而有显著差异。

4. 主要结果

自信度（评分者内部）

SummaC：Krippendorff's $\alpha$ 范围从 0.32（Llama 3.1）到 0.79（Qwen 3）。即使是最佳模型（Qwen 3）也勉强达到“良好”一致性的 0.8 阈值。
SummEval：自信度因指标而异。虽然连贯性和一致性显示出中等信度，但流畅性在所有模型中的一致性都非常低。
MT-Bench：自信度最低， $\alpha$ 值约为 0.26–0.56。Qwen 3 在三次运行中仅在 61.3% 的案例中与自身达成一致。
结论：LLM 评分者高度不稳定，往往比人类评分者更不稳定。

与人类的一致性

指标偏差：使用准确率时，LLM 似乎与人类有很高的一致性（例如，MT-Bench 中人类对人类的准确率为 0.827）。然而，使用 Krippendorff's Alpha 时，人类 - 人类的一致性降至 0.478，而 LLM-人类的一致性下降得更多（例如，Qwen 3 对人类：0.426）。
专家 vs. 众包：人类专家彼此之间的一致性高于众包工人。LLM 与专家显示出适度的一致性，但与众包工人显著分歧，这表明 LLM 可能与专家推理更一致，但仍未达到“金标准”。

采样策略的影响

多数投票：聚合多次运行的结果（例如，取 3 次运行的多数票）相比单次运行提高了与人类标签的一致性。
确定性模式（Temp=0）：在不采样的情况下运行模型（以消除方差）降低了性能。例如，在 SummaC 上，Qwen 3 的平衡准确率从 80.6%（多数投票）降至 79.2%（无采样）。这表明强制确定性会损害模型与人类偏好保持一致的能力。

5. 意义与建议

意义：
本文挑战了“单次运行”LLM 评估的当前范式。它揭示了 LLM-as-a-Judge 的“金标准”是不稳定的。如果 LLM 无法与自身达成一致，其作为可靠评估者的效用就会受损。研究结果表明，LLM 的随机性质不仅仅是缺陷，而是一个有助于达成人类对齐共识的特性，移除它是有害的。

对未来研究的建议：

报告自信度：评估框架必须在报告评分者间一致性的同时，报告评分者内部信度（例如 Krippendorff's Alpha）。
使用校正偶然性的指标：避免在评分者评估中使用准确率/相关性；应使用 Krippendorff's Alpha 或 Cohen's Kappa。
聚合多次运行：与其进行单次推理，不如使用多数投票或聚合多次运行来稳定分数并提高与人类判断的一致性。
不要强制确定性：避免将温度设为零来解决一致性问题，因为这会降低性能。
测量人类自信度：未来的基准测试应包括重复的人类标注，以建立 LLM 自信度的现实上限。

总之，作者认为，虽然 LLM-as-a-Judge 是人类评估的可扩展替代方案，但其当前实施存在显著的“评分轮盘赌”（随机性）。稳健的评估需要承认这种方差，使用适当的统计指标，并利用多次推理运行，而不是依赖单次判断。