Stopping and Routing LLM Judge Panels
本文提出了一种角色条件分配框架，通过识别评审角色（副本、互补与专家）来优化大语言模型评审面板的构建，从而实现动态路由、选择与停止调用，进而针对多样化任务生成一种可审计且具成本效益的评估策略。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在人工智能飞速发展的世界中，研究人员已经达到了这样一个阶段：编写代码、解决数学问题和生成故事的机器，其表现往往由其他机器来评判。这种被称为“LLM-as-a-judge”（大语言模型作为评审）的做法，已成为评估新模型的标准方式。开发者不再仅仅依赖昂贵且缓慢的人类评审员，而是使用大语言模型充当裁判，检查答案是否安全、正确或有帮助。然而，一个新的问题出现了：并不存在单一完美的裁判。有些模型擅长发现安全违规行为，但在检查数学问题方面表现较差；有些模型擅长通用推理，但在处理特定类型的错误时却会失败。因此，评估流程通常涉及一个由不同评审员组成的专家组，每位评审员都有其不同的专长。研究人员面临的挑战不仅是寻找最好的裁判，还在于弄清楚何时该调用哪些裁判，以及何时应该彻底停止调用以节省时间和成本。
来自中山大学的一个研究团队通过将评审员的选择视为一个动态决策过程，而非一个静态的最佳工具列表，解决了这一物流难题。他们开发了一种方法，通过分析一小部分测试数据，来确定每个潜在裁判相对于其他裁判所扮演的具体角色。他们发现，评审员通常分为三类：一些是冗余的副本，一旦已有特定裁判在工作，它们就不会增加任何新信息；一些是广泛的补充，能提高每一个案例的整体准确性；还有一些是专家，它们仅对特定类型的问题（如检测安全风险或处理困难数学）有用。
研究人员称之为“角色条件分配”（role-conditioned allocation）的方法，利用这种理解为每一批次的评估构建定制化方案。该系统并非盲目地要求每位可用的评审员审查每一个项目，而是首先检查一位评审员是否属于副本。如果一位新的评审员无法在现有团队已掌握的信息基础上提供额外价值，系统就会将其完全剔除。如果一位评审员能提供广泛的改进，它就会被加入到负责所有情况的主团队中。如果一位评审员是专家，系统则仅将其路由到需要的特定类型示例中，例如仅将安全专家发送给具有潜在危险的响应。当增加另一位评审员所带来的提升不足以证明其成本合理时，该过程会自动停止。
为了测试这一想法，该团队将此方法应用于各种困难任务，包括检查数学解题的逻辑、根据隐藏测试验证代码，以及评估聊天机器人响应的安全性能。他们将这种智能且具选择性的方法与几种其他策略进行了对比：仅使用单一最佳裁判、在每个任务上调用所有裁判，或者使用基于置信水平的简单规则。结果显示，他们的方法始终能找到正确的平衡点。在检查数学推理等任务中，该系统成功地将一个廉价、快速的验证器与几个专门的语言模型结合起来，在实现高准确度的同时，比调用所有人使用的资源要少得多。在安全评估方面，系统学会了仅将特定的裁判路由到风险案例中，从而捕捉到单一通用裁判会遗漏的错误，而不会在安全、简单的示例上浪费资金。
研究还揭示了何时进行早期停止更为合适。在简单的确定性检查器就能完美解决问题的案例中，系统正确识别出不需要进一步的裁判，从而防止了不必要的支出。相反，对于可能存在许多不同观点的复杂偏好任务，该方法知道何时保持全员专家组处于活跃状态。通过绘制这些不同的场景图谱，研究人员为开发者提供了一份清晰的指南：当任务复杂且多样时，使用广泛的团队；当任务具有特定的失效模式时，路由专家；以及当简单工具已经解决问题时，立即停止。
这项工作将关注点从单纯统计有多少可用裁判，转向理解它们如何协同工作。研究人员证明，如果裁判之间存在冗余或调用时机不对，拥有规模更大的裁判团并不一定意味着更好的结果。通过将评估过程视为一系列条件决策，他们创建了一个可复用的计划，能够告诉研究人员下一批工作中具体需要聘请哪些裁判。其结果是一种更高效、透明且具成本效益的方式，用以确保人工智能系统的评估是正确的，并确保资源仅在能产生可衡量差异的地方得到投入。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。