💬 NLP

Jury Duty: Calibration and Orientation Failures in MLLM-as-a-Judge Under Cultural Ambiguity

本文引入了 VOIR DIRE 基准测试，旨在证明 MLLM-as-a-Judge 系统在评估具有文化歧义的内容时，存在明显的校准与取向失效问题，从而揭示了即使在纠正了尺度压缩之后，模型对特定文化规范的偏见依然存在，并且这些偏见无法通过角色提示或上下文示例得到完全解决。

原作者： Daniel Lee, Harsh Sharma, Eunkyu Park, Pranav Narayanan Venkit, Jeonghwan Kim, Kah Mun Chia, Andreas Vlachos, Shafiq Joty

发布于 2026-06-23

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Daniel Lee, Harsh Sharma, Eunkyu Park, Pranav Narayanan Venkit, Jeonghwan Kim, Kah Mun Chia, Andreas Vlachos, Shafiq Joty

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你雇佣了一位超级聪明的机器人法官来给学生的作文评分或给照片打分。通常情况下，我们会通过检查这个机器人是否与人类教师达成一致，来判断它做得好不好。但这篇文章提出了一个棘手的问题：这个机器人到底在和哪些人类老师达成一致？

作者 Daniel Lee 及其团队构建了一个特殊的测试方法，名为 VOIR DIRE（得名于通过质询陪审员以发现潜在偏见的法律程序）。他们想看看这些 AI 法官在观察图片时，是否带有隐藏的“文化偏见”，特别是对比它们是通过美国视角还是中国大陆视角来看待事物的。

以下是他们发现的研究成果，用简单的语言解释如下：

1. 背景设定：两个不同的世界

研究人员创建了 626 对图像。每一对图像展示了相同的“概念”（例如：庆祝餐、时尚套装或建筑），但风格迥异：一类是非常美式的，另一类是非常中式的。

他们请了两组人类专家对这些图像进行评分：

A 组： 美国专家。
B 组： 中国专家。

转折点： 专家们在各自的群体内部是一致的（他们具有连贯性），但他们在同一组图像上却表现出强烈的分歧。

例子： 一张便利店餐食的照片，美国人可能会评为“质量低”，而中国专家可能会评为“新鲜可靠”。基于各自的文化规则，两组人都认为自己是“正确”的，但评分数值却完全不同。

2. 问题所在：机器人法官“卡住了”

当 AI 法官观察这些图像时，它们并没有扮演一个中立的裁判。它们犯了两个具体的错误：

错误 A：“积极性底线”（橡皮筋效应）

想象一把尺子，底部的数字（1 和 2）代表“差”或“低质量”。

人类的现实： 美国人往往会将某些中国文化元素评为“差”（给出 1 或 2 分）。
机器人的问题： AI 法官拒绝使用尺子的底部。它们几乎从不给出 1 或 2 分。它们卡在了一个大约为 3 分的“底线”上。
结果： 因为 AI 不愿意给低分，它无意中与中国专家达成了一致（因为中国专家给出的分数较高），而与美国专家产生了分歧（因为美国人给出的分数较低）。AI 并不是在“选择”中国，它只是因为“太礼貌”而不愿说“这很糟糕”。

错误 B：“默认设置”（指南针效应）

即使研究人员尝试通过告诉 AI，“假装你是一个美国人”来修复这个“礼貌”问题，AI 也无法完全切换模式。

这就像是告诉 GPS，“开车去纽约”，但汽车仍然会因为其内部指南针指向北方而略微向芝加哥偏移。
AI 有一个默认的文化取向。即使被告知要表现得像个美国人，在评价中国文化内容时，它仍然会略微向中国的文化规范倾斜。这种“漂移”无法通过仅仅改变指令来修复。

3. 实验：尝试修复偏见

团队尝试了各种技巧，试图让 AI 成为一个更公正的法官：

改变人格设定： 他们告诉 AI，“你是一个典型的美国人”或“你是一个典型的中国人”。
- 结果： 这确实有一点帮助，但 AI 仍无法完全切换。即使被告知要表现得像个美国人，它也无法学会对美国人不喜欢的物品给出低分。
展示范例（上下文学习）： 他们在要求 AI 评价图片之前，先向其展示了人类如何评价类似图片的例子。
- 结果： 这反而让情况变得更糟了。AI 并没有学会如何公平地使用 1 到 5 的评分量表，反而开始给出更高的分数（4 分或 5 分）。它并没有学会公平，而是学会了更加“热情”。

4. 核心结论

该论文得出结论：**你不能只看一个“一致性得分”**来判断一个 AI 法官的好坏。

旧方法： “这个 AI 与人类的一致性达到 80%。”（但是和谁一致？美国人？中国人？还是两者？）
新方法： 你必须报告两个得分：“它与美国人的符合程度如何？”以及“它与中国人的符合程度如何？”

如果一个 AI 与美国人一致但与中国人不一致（或反之亦然），这并不是数据错误——这是 AI 的属性。它揭示了 AI 戴着什么样的文化“透镜”。

总结

AI 法官就像是未经充分筛选的陪审员。它们带有隐藏的文化偏见，使得它们在与一组人达成一致的同时，又在无形中与另一组人产生分歧。论文指出，我们不应假装这些法官是中立的，而应该开始精确测量它们究竟代表了谁的文化。

核心比喻：
把 AI 想象成一个卡在“室温”的温度计。

如果你把它放入冷冻室（一个评分较低的文化），它不会降至“冰点”。它会保持在“室温”。
如果你把它放入烤箱（一个评分较高的文化），它可能会上升一点，但不会像预期的那样热。
论文的核心观点是：“不要仅仅因为温度计与烤箱匹配就说它是‘准确’的。要告诉我们它之所以‘坏了’，是因为它拒绝测量寒冷。”

技术摘要：陪审团义务：文化模糊性下 MLLM-as-a-Judge 的校准与取向失效

问题陈述

“LLM-as-a-Judge”（LLM 作为评委）和 “MLLM-as-a-Judge”（多模态大模型作为评委）范式正越来越多地被用于评估开放式生成任务，因为基于参考值的指标已不再充分。这些系统通常通过测量其与人类标注的一致性来进行验证。然而，这种验证方法存在一个关键缺陷：它并未明确模型是在拟合谁的判断。在偏好敏感领域（如合理性、恰当性、期望度），人类的判断并非铁板一块，而是具有文化情境性的。当一个评委模型针对具有文化异质性的群体进行评估时，所得出的“一致性”得分会隐性地受限于该特定群体的文化构成。

已有研究记录了模型生成过程中的文化偏见（例如，文本生成图像系统中的误导性呈现），但较少有研究关注文化偏见如何塑造模型的评估行为。这在结构上具有重要意义，因为评委的输出通常作为强化学习中来自 AI 反馈（RLAIF）的训练信号，或作为排行榜的基准真相（ground truth）。如果一个评委模型拥有未报告的文化倾向，它会将这种偏见传播到未来的训练周期和评估指标中。

方法论：VOIR DIRE 基准测试

为了对此进行调查，作者引入了 VOIR DIRE，这是一个多模态基准测试，旨在量化 MLLM-as-a-Judge 的对齐情况与具有文化差异的人类参考池在偏好敏感的模糊性下的分歧。

基准测试构建

数据集组成： VOIR DIRE 由 626 个具有文化配对关系的“图像-提示词”条目组成。每个条目将一个符合美国文化概念的项与一个共享相同指涉物的中国大陆文化概念项进行配对（例如，两种语境下的庆祝餐食）。
类别： 条目涵盖三个类别：饮食饮料、时尚与人类特征、建筑与符号。
图像来源： 图像使用 Gemini 3 Pro Image 生成，并保持参数匹配（长宽比、光照、构图），以确保视觉差异严格源于文化线索，而非美学或构图差异。此外，还创建了一个包含 30 对自然主义照片的子集，以验证研究结果并非合成图像的伪影。
提示词设计： 提示词由具备双文化背景的专家标注者编写，旨在诱发评价性判断（而非事实检索），且这些判断在不同文化间具有合理的争议性。
人类标注： 十名具备双文化能力的标注者（五名美国背景，五名中国大陆背景）从四个维度对条目进行评分：
1. Q1（评价性响应）： 一个 5 分制的序数量表，根据提示词对图像进行评分。
2. Q2（文化对齐度）： 在“中国式”到“美国式”的 5 分制量表上对条目进行评分。
3. Q3（主观性）： 对提示词的主观程度进行评分。
4. Q4（跨文化可识别性）： 评分另一文化背景的人理解其逻辑的可能性。

实验设置

作者评估了 六个 MLLM（三个美国来源：Claude Opus 4.7, GPT-5.5, Llama 4 Scout；三个中国来源：GLM-5, Kimi K2.6, Qwen-3-VL-Flash），并在 十种提示词条件 下进行测试：

两个中性条件（英文和简体中文）。
八个角色扮演条件，涉及角色细节（基础型 vs. 高级型）、角色文化（美国 vs. 中国）以及提示词语言的交叉组合。

此外，还测试了 四种上下文学习（ICL） 条件，通过改变示例的来源（美国标注者 vs. 中国标注者）以及示例图像的来源（美国图像 vs. 中国图像）来观察影响。

文化模糊性的验证

该基准测试验证了条目具有池内可靠性（美国池 Krippendorff's $\alpha$ = 0.86，中国池 $\alpha$ = 0.74）但具有跨池分歧性（美国与中国共识之间的 Pearson $r$ = -0.12，针对 Q1 评分）。至关重要的是，这种分歧在于评价（Q1）而非识别（Q2），这证实了两个群体在内容上达成一致，但在规范性价值上存在分歧。

核心结果

1. 正向底线校准失败（Positivity-Floor Calibration Failure）

模型表现出一种“正向底线”现象，极少产生 1 或 2 分的低分（仅占 6–16% 的单元格）。在 U.S. 共识较低（ $\le$ 2）的条目上，模型无法给出低分，而是聚集在约 3 分的底线附近。

机制： 这一底线机械地验证了更宽松的文化解读。在本语料库中，中国池在争议性条目上更为宽松；因此，模型无法使用量表的低端，导致其在处理中国文化图像时，系统性地向中国共识靠拢。
不对称性： 这种偏见是局部化的。在处理美国文化图像时，模型表现出轻微的美国倾向。而在处理中国文化图像时，这种偏差发生翻转并扩大，表现出强烈的向中国人类倾向的特征。

2. 取向失败（Orientation Failure / 残差）

即使在校准得到部分恢复（例如，通过角色提示）的情况下，文化取向残差依然存在。

角色提示（Persona Prompts）： 虽然角色提示（如“你是一个美国人”）能使评委的倾斜方向向预期方向移动，但它们无法完全纠正校准失败。在处理中国文化图像时，即便在 U.S. 角色条件下，六个模型中的五个仍位于文化轴的中点以下。
ICL 示例（ICL Demonstrations）： 参考池的示例并不能恢复校准。相反，它们只是向上拓宽了评分窗口（增加了 5 分的比例），而未能恢复对低端（1 分和 2 分）的使用。此外，ICL 加深了取向残差而非纠正它；添加示例使评委更加趋同于演示池的文化规范，即是用与另一个池的对齐，换取了与当前演示池的对齐。

3. 模型来源作为协变量

模型来源（美国 vs. 中国）增加了一个微小的加性偏移（ $\sim$ 0.10 MAE），且该偏移在演示过程中基本保持不变。

并非纯粹的能力问题： “能力”假设（即中国来源的模型更了解中国文化）会预测对称性（中国模型对齐中国人类，美国模型对齐美国人类）。但数据并未显示这种对称性：无论来源如何，所有六个系统在处理中国文化图像时都表现出向中国人类倾斜的倾向。
影响层级： 评委行为的方差主要由条目本身驱动（ $R^2$ = 0.57），其次是角色配置，模型来源的贡献最小。

贡献与意义

本文做出了三个主要贡献：

VOIR DIRE 基准测试： 一个包含 626 个文化配对条目的多模态基准，通过池内可靠性和跨池分歧性，确立了文化模糊性是条目本身的一种属性。
偏见的分解： 识别了 MLLM-as-a-Judge 的两种不同失效模式：
- 校准失败： 无法产生低端评分（正向底线）。
- 取向失败： 默认倾向于特定的文化规范，且在尝试校准后依然持续存在。
方法论建议：
- R1（多池报告）： 对齐情况应分别针对每个参考池进行报告。在文化异质性的环境下，单一的“与人类一致性”得分是一个范畴错误。跨池分歧应被视为评委模型的属性，而非噪声。
- R2（来源作为协变量）： 在评估中应将模型来源与模型身份一同报告，因为它引入了系统性的、尽管规模较小的文化倾斜。

结论

研究得出结论，由于存在正向底线校准失败和持续的取向失败，当前的 MLLM-as-a-Judge 系统无法捕捉文化模糊性下人类偏好的全貌。无论是角色提示还是上下文演示，都无法完全解决这些问题；事实上，演示往往会加剧取向残差。作者认为，评估框架必须从寻求单一的“最佳”对齐得分，转向报告在多个文化参考池中的对齐剖面，并将分歧视为评委模型的一个基本特征。