💬 NLP

The Score Granularity Gap in Black-Box LLM Classification: A Comparative Study of Confidence Constructions

本文引入了“评分粒度差距”（score granularity gap）的概念，旨在证明虽然黑盒大语言模型（LLM）中的单次提示（single-shot）言语化置信度评分在排序方面表现良好，但仅能为部署提供极少数粗略的阈值，而多查询聚合虽能改善弱模型，却可能降低强模型的性能。

原作者： Ao Sun, Tian Sun, Jiaxing Geng

发布于 2026-06-23

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Ao Sun, Tian Sun, Jiaxing Geng

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是繁忙工厂的经理。你有一个全新的、超级聪明的机器人（AI）负责分拣包裹。有时，机器人 100% 确定一个包裹是“好的”，有时它又 100% 确定是“坏的”。但对于那些它不确定的包裹，该怎么办呢？

在现实世界中，你不能让机器人做出所有的决定。你需要一条安全规则：“如果机器人的确定度达到 90%，则自动发货。如果确定度低于此值，则送交人工检查。”

这篇论文讨论了一个隐藏的问题，即我们询问这些机器人“有多确定”的方式存在问题。作者称之为**“得分粒度差距”（Score Granularity Gap）**。

以下是简单的术语拆解：

1. 问题所在：“损坏的旋钮”

想象一下，机器人给你一个置信度分数来做决定。

理想情况： 一个从 0% 到 100% 连续且具有无限微小步长的平滑旋钮。你可以设定规则中的任何一点（例如，“只有当确定度为 73.4% 时才自动发货”）。
现实情况： 机器人的“旋钮”是损坏的。它没有 100 个刻度，它只能给出四五个不同的数字，比如“低”、“中”、“高”和“非常高”。

即使机器人非常聪明，能够正确地对“好”包裹进行排序（它知道哪个更好），它也无法帮助你精细化管理你的工厂。如果你想接收前 70% 的包裹，但机器人只能给出 50% 和 90% 的分数，你就陷入了困境。你要么接受 50%，要么接受 90%，但永远无法实现 70%。

类比： 这就像试图调节一台只有四个电台的收音机：新闻、音乐、体育和天气。即使音乐频道非常完美，你也无法听“爵士乐”或“摇滚乐”，因为收音机根本没有这些频道。你面对的是一个“粗糙的阶梯”，而不是平滑的坡道。

2. 实验：询问机器人的七种方式

研究人员测试了七种向 AI 请求置信度分数的方法，以观察哪种方法能提供更多的“刻度”。

方法 A：直接询问（“言语化”分数）。 你问 AI：“你确定吗？”它回答：“我有 85% 的把握。”
- 结果： AI 实际上非常擅长排序（它知道什么是对的），但它只使用少量的数字（比如 0.5, 0.8, 0.9, 1.0）。这是一个粗糙的旋钮。
方法 B：使用“Token”分数。 如果允许 AI 展示其内部数学逻辑（对数概率），它可以给出更多的数字。
- 结果： 这提供了一个更平滑的旋钮，但许多商用机器人不会向你展示它们的数学过程。
方法 C：“群众”法（多重查询）。 你把同一个问题问 10 次，也许换一种稍微不同的问法，然后取答案的平均值。
- 结果： 这创造了一个非常平滑的旋钮，拥有数百个刻度。但是，这里有一个陷阱：
  - 如果机器人较弱（不够聪明），问它 10 次会使其变得更聪明，并给你一个完美的旋钮。
  - 如果机器人很强（已经非常聪明），问它 10 次反而可能会干扰它，导致其排序能力变差。这就像向一位天才征求 10 个不同人的建议；他们可能会把原本清晰的逻辑搞混。

3. “可解释性”的转折

研究人员还尝试了另一种方法，即将问题分解为 10 个更小的、具体的问题（例如，“这个句子是否存在矛盾？”“语法是否正确？”）。

为什么要这样做？ 这不是为了提高排序能力，而是因为它具有可解释性。
益处： 如果机器人犯了错误，你可以查看这 10 个小问题的答案，然后说：“啊，它出错是因为它没理解语法。”这就像拥有一张详细的购物收据，显示了你到底买了什么，而不仅仅是一个总金额。这对于受监管的行业（如医疗或法律）至关重要，因为你需要知道决策背后的原因。

4. 总结：你应该怎么做？

这篇论文为部署这些 AI 系统的开发者提供了一个简单的指南：

务必转换答案： 如果 AI 说“我有 90% 的把握是‘否’”，你必须在将其作为分数使用前，将其翻转为“我有 10% 的把握是‘是’”。否则，你的排序逻辑会颠倒。
如果你使用的是弱 AI： 使用“群众”法（问它 10 次）。它会让 AI 变得更聪明，并为你提供一个平滑的旋钮。
如果你使用的是强 AI： 坚持使用简单的“直接询问”法。它速度快且排序能力强。不要问它 10 次，否则可能会适得其反。
如果你需要解释你的决策： 使用“小问题”法。它能提供平滑的旋钮和清晰的决策依据，即使这会消耗更多的计算资源。

总结

这篇论文的核心观点是，我们不应该仅仅询问“AI 是否有信心？”。我们需要问的是：“我们可以多精细地调节这种信心？”

一个完美的排序系统，如果它只提供三个按钮供你按压，那它是毫无用处的。为了构建可靠的自动化系统，你需要一个提供足够“刻度”的分数，以便让你精确控制风险——无论是通过简单的转换、智能的“问题群体”，还是透明的逻辑拆解。

技术摘要：黑盒 LLM 分类中的得分粒度差距

1. 问题陈述

大语言模型（LLMs）正越来越多地被部署为高风险流水线（如医疗分诊、内容审核）中的黑盒分类器，这些流水线依赖于选择性预测（selective prediction）。在这种设定下，操作员会设置一个置信度阈值，以实现高置信度预测的自动化，并将不确定的案例路由至人工审核。

先前的研究主要关注 LLM 的置信度是否校准（calibrated）（即：声称的 80% 是否意味着 80% 的准确率？）或是否进行了正确的排序（ranked）（即：错误是否被正确地排在正确预测之下？）。然而，本文识别出了一个对于部署至关重要且被忽视的关键维度：得分粒度（score granularity）。

核心问题在于得分粒度差距（Score Granularity Gap）：一个置信度得分即使能完美地进行排序，如果它仅包含极少数不同的数值，那么对于细粒度控制而言也是无效的。如果一个得分仅提供 $V$ 个不同的值，那么无论该得分的排序能力多么出色，操作员最多只能定义 $V$ 个非平凡的操作点（阈值）。这导致系统呈现出一种“粗糙阶梯式”的可实现的风险-覆盖度权衡，而非平滑的调节旋钮，从而使得系统缺乏灵活性，无法满足特定的错误预算需求。

2. 研究方法

实验设置

本研究在 25 个“模型-数据集”对上评估了 七种置信度构建方式（涵盖 9 种不同强度的 LLM，并在 3 个基准测试集 BoolQ、MNLI 和 PubMedQA 上进行测试）。模型范围从强模型（如 GPT-4o-mini、Llama-3.1-70B）到弱模型（如 GPT-5-nano、Llama-3.1-8B）。

置信度构建方式

作者对比了属于以下两类的构建方法：

单次调用（Single-Shot, 1 次模型调用）：
- 动词（Verb）： 将口头表达的置信度转换为类别概率（通过处理负类预测，即若 $\hat{y}=0$ ，则 $P(pos) = 1-c$）。
- 动词-对数概率（Verb-logprob）： 直接使用首个 token 的对数概率（在允许 API 访问的情况下）。
- 动词-对数概率+温度缩放（Verb-logprob+T）： 对对数概率进行事后温度缩放处理。
多信号（Multi-Signal, 每输入 10 次模型调用）：
- 子任务分解（Sub-task Decomposition）： 模型回答 10 个手工设计的、具有可解释性的 yes/no 子问题（例如：“词汇重叠性”、“语义蕴含性”）。
- 多提示词改写（Multi-Prompt Paraphrase）： 模型针对原始提示词的 10 个改写版本进行回答。
- 聚合（Aggregation）： 通过以下方式组合 10 个标量得分：
  - 简单平均（Simple Averaging）： 朴素均值。
  - 学习组合（Learned Combination, LR）： 使用带有 L2 正则化的逻辑回归来学习权重和符号。
  - 校准（Calibration）： 对逻辑回归的 Logits 应用温度缩放。

指标

研究从三个维度评估得分：

排序质量（Ranking Quality）： 通过 PR-AUC（及归一化 PR-AUC $_N$ ）和 AURC（风险-覆盖度曲线下面积）进行衡量。
得分分辨率（Score Resolution）： 衡量指标包括：
- 粒度（Granularity, $G$ ）： 不同得分值的数量。
- 得分熵（Score Entropy, $H$ ）： 在 20 个分箱中的分布离散度。
- 内部质量（Interior Mass, $M$ ）： 有效范围 $(0.1, 0.9)$ 内的得分比例。
成本与可解释性（Cost & Interpretability）： 模型调用的次数以及审计推理过程的能力（子任务提供了此功能；改写方式则不具备）。

3. 关键结果

粒度差距

口头置信度（Verb）： 排序能力惊人地好（平均归一化 PR-AUC $_N$ = 0.80），但极其粗糙。它通常仅提供 1–21 个不同的值（平均 $G=9$ ），其中 45% 的案例共享最常见的数值。这限制了操作员只能设置约 9 个阈值，从而产生了阶梯状的风险-覆盖度曲线。
分辨率 vs. 排序： 高排序能力并不意味着高分辨率。如果缺乏不同的数值，一个得分即使能完美排序，在进行阈值设定时也是不可用的。

聚合效应

分辨率扩张： 多查询聚合（Sub-cal, MP-LR）一致地扩张了分辨率，将 $G$ 提升至平均 138，并填补了内部质量（ $M \approx 45\%$ ）。
对排序的影响具有选择性：
- 弱模型： 对于准确率 $\lesssim 85\%$ 的模型，聚合可以改善其排序能力。
- 强模型： 对于强模型（准确率 $\gtrsim 90\%$ ），聚合可能会降低其排序性能。学习到的权重可能会扰动原本表现良好的口头置信度排序，导致在 18 个强模型对中，有 13 个出现了更差的 AURC。
学习型 vs. 朴素型： 简单平均往往会失败（例如在 MNLI 上几乎降至随机水平），这是由于子任务之间存在冲突的极性。逻辑回归学习是必不可少的，它通过分配正确的符号和权重来恢复信号。

可解释性

子任务 vs. 改写： 改写聚合（MP-LR）在排序方面通常能达到或超过子任务聚合（Sub-LR）。然而，子任务提供了部署属性：权重透明度、错误归因以及审计追踪（每个子得分的理由）。
失效模式： 如果手工设计的探测器未能追踪标签（例如，某个特定模型在 BoolQ 上崩溃），子任务可能会失效；但这类失效是可见且可审计的，不像黑盒改写集成那样属于“沉默失效”。

Token 概率

在可获取的情况下，原始对数概率（log-probabilities）比口头置信度提供更好的分辨率。事后温度缩放显著提高了分辨率（将 $G$ 提升至 51–69）以及低错误率下的覆盖度，且所有这些提升都维持在 1 倍成本内。

4. 部署指南

本文提出了基于模型强度和约束条件的决策程序：

务必将口头表达的置信度转换为类别概率。
如果可以使用对数概率： 使用它们配合温度缩放（在成本/分辨率之间取得最佳平衡）。
如果模型较弱 ( $\lesssim 85\%$ 准确率)： 使用多查询聚合（10 倍成本）来同时提高排序能力和分辨率。
如果模型较强 ( $\gtrsim 90\%$ 准确率)： 坚持使用口头置信度进行风险-覆盖度控制（以避免性能下降）。仅在严格需要细粒度阈值控制时才使用聚合。
如果需要可解释性： 优先选择子任务分解而非改写，因为它可以提供透明度而不牺牲排序性能（相对于 MP-LR 而言）。

5. 重要性与主张

本文声称将 LLM 置信度的评估范式从二元的“它是否可靠？”转向了面向部署的“它能在多高的分辨率下被操作？”

重新定义“不可靠”： “LLM 置信度不可靠”的叙事部分是由于将“对答案的信心”与“类别概率”混淆，并忽略了分辨率所导致的假象。一旦完成转换，口头置信度的排序能力很好，但缺乏粒度。
权衡清晰度： 本研究明确区分了排序、全局风险-覆盖度以及阈值可控性。研究表明，聚合可以可靠地买到操作点（更细的控制），但并不普遍提升排序能力，且可能对强模型产生负面影响。
可解释性作为一种属性： 作者认为，可解释性不是一种排序优势，而是一种在受监管领域中必要的部署属性，可以通过子任务得分来实现。

作者总结道，未来的评估必须在报告排序指标的同时，也报告分辨率指标（粒度、熵、内部质量），因为一个虽然排序完美但仅提供极少数阈值的得分，是无法投入部署使用的。