💻 computer science

LLM-as-a-Judge for Human-AI Co-Creation: A Reliability-Aware Evaluation Framework for Coding

本文提出了一种面向代码领域人机协同创作评估的可靠性感知、评分标准驱动的“大语言模型即裁判”框架，该框架将严格的多指标裁判评估与轨迹级分析相结合，揭示了协同创作的成功通常集中在早期阶段，而修订行为则呈现异质性。

原作者： Md Faizul Ibne Amin, Yutaka Watanobe, Daniel M. Muepu, Haruto Suzuki, Kenta Nanaumi, Md Mostafizer Rahman

发布于 2026-05-01

📖 1 分钟阅读☕ 轻松阅读

原作者： Md Faizul Ibne Amin, Yutaka Watanobe, Daniel M. Muepu, Haruto Suzuki, Kenta Nanaumi, Md Mostafizer Rahman

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一场高风险的编程竞赛，参赛者被允许使用 AI 助手来帮助他们解决问题。本文就像是对该场景中两件事的“成绩单”：一是人类与 AI 协作的效果如何，二是作为“裁判”的 AI 评分员在评定工作表现方面有多出色。

以下是研究人员所做工作的分解，辅以简单的类比：

1. 设置：“允许使用 AI"的编程竞赛

通常，在编程竞赛中使用 AI 被视为作弊。但在这里，研究人员开设了一个特别赛道，让 15 名参赛者使用他们自选的 AI 工具尝试解决 13 道难题。

目标：他们不仅想看看代码是否运行成功，还想了解人类与 AI 是如何共同构思解决方案的。他们是否卡住了？他们是修正了小错误，还是彻底推倒重来？
问题：传统的评分只看最终答案（通过/失败）。这就像老师只查看最终论文，而忽略了杂乱的草稿、划掉的句子以及页边的笔记。研究人员希望评估的是过程，而不仅仅是成果。

2. 解决方案：“基于评分标准”的 AI 裁判

为了评估这些混乱的多步骤过程，研究人员无法仅靠人工阅读成千上万条日志。因此，他们构建了一个系统，利用AI 裁判（如 OpenAI、DeepSeek、Gemini 和 Claude）来担任裁判角色。

这就像是一个体育裁判小组：

规则：研究人员没有让 AI 裁判撰写自由形式的意见（这可能导致混乱和不一致），而是强制它们填写严格的评分表（一种“模式”）。它们必须针对“逻辑是否严密？”和“是否处理了边缘情况？”等具体项目给出分数。
安全网：由于 AI 有时会犯错或给出奇怪的回复，该系统设有一个“修复机制”。如果 AI 裁判忘记填写评分表中的某个框，系统会捕捉到这一点，并要求 AI 重试，直到评分表完美无缺。
背景：在评估特定代码片段之前，裁判被允许查看参与者的完整提示历史（他们向 AI 询问的内容）。这就像裁判在判罚犯规前观看整场比赛的回放，而不仅仅是盯着某一瞬间的画面。

3. 发现：人类与 AI 如何协作

研究人员分析了参与者的“轨迹”（即逐步推进的过程）。

“早鸟”效应：他们发现成功往往发生得很早。想象一场比赛，85% 的跑者在最初的几步内就冲过了终点线。一旦参与者及其 AI 找到了正确的路径，他们通常能迅速解决问题。如果在最初的几次尝试后仍在挣扎，他们很少能在后期取得成功。
修复汽车的两种方式：当代码出错时，参与者通过两种截然不同的方式修复它：
1. 机械师：微调小部件（渐进式优化）。
2. 建筑师：推翻整个设计并重建（大规模重构）。
- 惊喜：两种方法同样有效。没有一种“最佳”的代码修复方式；有时微调就奏效，有时则需要彻底重建。

4. 发现：AI 裁判的表现有多好？

研究人员测试了四种不同的 AI 模型，以查看哪一个是最好的裁判。

不同的优势：就像人类裁判一样，AI 裁判也有不同的“性格”。
- DeepSeek 最擅长将好的尝试排在差的尝试之上（就像识别最佳表现）。
- OpenAI 在概率分数的精确性方面表现出色。
- Gemini 和 Claude 则各有其特点。
“一致性”问题：裁判们并不总是彼此一致。如果你让两个不同的 AI 裁判对同一段代码进行评分，他们可能会给出不同的分数。研究人员发现，虽然他们有时能达成一致，但经常意见相左。
教训：你不能只依赖一名 AI 裁判。你需要一个“裁判小组”，并且必须查看多种不同的指标（如排名能力、置信度校准能力以及达成一致频率），才能获得对质量的真实图景。

5. 核心结论

本文提出了一套评估人类与 AI 协作效果的新** playbook（行动指南）**。

关于过程：它表明，在 AI 辅助编程中，成功通常发生得很早，且修复错误并没有唯一的“正确”方式。
关于评分：它证明，如果你强制 AI 遵循严格规则、检查其工作并使用多名裁判交叉核对分数，AI 可以成为可靠的裁判。

简而言之：本文构建了一种更好的方法来评估人类与 AI 之间混乱而协作的“舞蹈”，表明成功往往发生得很快，并且我们需要一个 AI 裁判团队才能准确打分。

以下是论文《LLM-as-a-Judge for Human-AI Co-Creation: A Reliability-Aware Evaluation Framework for Coding》（大语言模型作为裁判：人机共创的可靠性感知评估框架）的详细技术总结。

1. 问题陈述

本文解决了在编码和软件工程（SE）领域评估人机共创时的一个关键空白。虽然大语言模型（LLM）正越来越多地被用作共创伙伴和评估者（“LLM-as-a-Judge"），但现有的评估协议通常不足以应对这一特定情境：

传统指标的局限性：传统的编码评估依赖于最终结果（例如通过/失败的测试用例），无法捕捉共创中固有的中间产物、部分解决方案、调试假设以及迭代推理过程的价值。
可靠性与偏差：LLM 裁判容易产生偏差（例如偏向更长的回答、位置偏差）和不一致性。目前缺乏标准化、可审计的框架来确保裁判输出具有可靠性、在不同模型间具有可比性，并在多轮交互中具有可解释性。
数据泄露风险：在共创情境中，同一用户对同一问题的多次尝试会形成“轨迹”。标准的随机划分可能导致数据泄露，即裁判在评估早期轮次时看到了来自后期轮次的信息。

2. 方法论

作者提出了一种专为竞赛式人机共创设计的统一、基于评分标准的 LLM-as-a-Judge 框架。该方法论包含三个主要阶段：

A. 数据处理与数据集构建

来源：数据收集自 PC Koshien (PCK) 总决赛的AI 许可共创赛道，参与者解决与官方竞赛相同的问题，但被允许使用 AI 工具。
轨迹分组：数据按(参与者，问题)对组织的轨迹进行整理，以防止泄露。
NONBLIND 上下文：为了模拟现实评估，裁判被提供参与者级别的聚合上下文（ $Q_u$ ），该上下文拼接了该参与者的所有提示日志。这确保裁判在评估任何特定尝试时拥有用户交互的完整历史。
模式约束：裁判被强制输出结构化 JSON 而非自由文本，其中包含：
- $p_a$ ：预测的接受概率。
- $s_{algo}$ ：算法充分性的序数评分（1-5）。
- $s_{robust}$ ：鲁棒性/约束满足度的序数评分（1-5）。
- $r$ ：简短的理由。

B. LLM-as-a-Judge 推理流水线

多模型评估：评估了四个不同的 LLM 裁判：OpenAI (gpt-5.2)、DeepSeek (reasoner)、Gemini (2.5-pro) 和 Claude (sonnet-4)。
验证与修复：流水线包含一个稳健的验证步骤。如果 API 调用失败或返回格式错误的 JSON，系统将使用退避机制重试。仅接受满足严格模式约束（例如概率在 [0,1] 范围内、有效的序数评分）的输出。
划分策略：在(参与者，问题)级别应用分组划分（训练集/验证集/测试集）。
- 验证集：用于通过最大化 Matthews 相关系数（MCC）来选择最佳决策阈值（ $t^*$ ）。
- 测试集：仅用于最终报告，以确保无数据泄露。

C. 评估指标

该框架采用多指标协议来评估裁判和共创动态：

裁判质量指标：
- 区分度：ROC-AUC 和 PR-AUC（排序能力）。
- 概率可靠性：LogLoss、Brier Score 和期望校准误差（ECE）。
- 决策质量：使用在验证集上选择的阈值计算的 MCC。
- 裁判间一致性：Cohen's $\kappa$ （成对）和 Fleiss' $\kappa$ （多评分者）。
共创动态指标：
- Success@Turn：第 $k$ 轮时已解决的轨迹累积比例。
- Time-to-Success：通过 Kaplan-Meier 生存分析进行分析（处理未解决轨迹的右截断）。
- 修订行为：使用归一化编辑距离（NED）衡量表面级变化，使用CodeBLEU衡量代码感知相似性/收敛性。

3. 主要贡献

可靠性感知框架：引入了一条严格的 LLM 裁判流水线，包括模式约束输出、自动修复机制和分组划分以防止轨迹泄露。
多指标评估套件：超越单一指标报告，联合分析区分度、校准、决策质量和裁判间一致性。
轨迹级分析：提供了一种分析人机交互模式（挣扎曲线、生存分析）的新方法，而不仅仅是最终结果。
实证桥梁：在单一、可复现的实证环境中，将"LLM-as-a-Judge"可靠性与“人机共创”动态这两个领域联系起来。

4. 主要结果

A. 裁判性能

区分度：DeepSeek 和 Claude 取得了最高的 ROC-AUC（0.5937），其中 DeepSeek 在 PR-AUC 方面领先（0.6904）。Gemini 表现最弱（ROC-AUC 0.4250）。
校准：DeepSeek 显示出最佳的校准（最低 ECE：0.2819），而 Gemini 和 Claude 表现出较高的误差。
决策质量：DeepSeek 在测试集上实现了最高的阈值化 MCC（0.5000），其保守阈值为 0.81。
裁判间一致性：整体一致性适中。
- 平均成对 Cohen's $\kappa$ ：0.1592。
- Fleiss' $\kappa$ ：0.0696。
- 含义：裁判不可互换；它们表现出不同的偏差和优势，这强化了对多指标报告的需求，而非依赖单一模型。

B. 人机共创动态

前置成功：成功高度集中在早期轮次。
- Success@Turn 在第一个观测轮次达到 0.8533。
- 到第 6 轮，仅增加到 0.8641。
- Kaplan-Meier 分析证实，超出前几轮的轨迹显示出收益递减。
异质修订模式：不存在单一的“正确”修订风格。
- 无论是渐进式细化（小改动）还是广泛重构（大改动）都导致了成功的结果。
- 代码感知相似性（CodeBLEU）显示，成功的轨迹倾向于在结构上收敛到被接受的解决方案，无论中间变化的幅度如何。
提示 - 代码不相似性：提示与代码之间的高 NED 值证实，裁判上下文（自然语言）与解决方案（代码）在词汇上是不同的，验证了该评估任务的非平凡性。

5. 意义与启示

超越最终正确性：研究表明，评估 AI 辅助编码需要关注过程（轨迹），而不仅仅是产品。早期的成功模式表明，有效的共创依赖于快速迭代和验证，而非漫长的试错。
裁判作为工具而非神谕：结果强调，LLM 裁判是具有特定“盲点”和优势的量测仪器。单一指标（例如准确率）无法捕捉其全部效用；多维视角对于可审计的研究至关重要。
人类专业知识仍居核心：研究结果表明，AI 并未取代人类判断，而是重新定向了它。评估中间输出、识别停滞并引导修订的能力，仍然是共创中的关键人类技能。
可复现性：所提出的框架为未来的研究提供了一个模板，用于以透明方式评估 AI 辅助编码，确保评估协议能够抵御数据泄露和特定模型的偏差。

总之，本文提供了一种基础方法论，用于严格评估人类与 AI 如何协作解决复杂的编码问题，同时为在动态环境中使用 LLM 作为裁判建立了一个可靠性感知的标准。