💬 NLP

Semantic Token Clustering for Efficient Uncertainty Quantification in Large Language Models

该论文提出了一种名为语义令牌聚类（STC）的高效不确定性量化方法，它通过利用大语言模型内在的语义信息，在无需辅助模型或重复采样的情况下，仅凭单次生成即可实现与现有最先进方法相当的性能，从而显著降低了计算开销。

原作者： Qi Cao, Andrew Gambardella, Takeshi Kojima, Yutaka Matsuo, Yusuke Iwasawa

发布于 2026-03-23

📖 1 分钟阅读☕ 轻松阅读

原作者： Qi Cao, Andrew Gambardella, Takeshi Kojima, Yutaka Matsuo, Yusuke Iwasawa

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇文章介绍了一种名为**“语义令牌聚类”（Semantic Token Clustering, STC）**的新方法，旨在让大型语言模型（LLM）更聪明地“知道自己不知道什么”。

为了让你轻松理解，我们可以把大语言模型想象成一个**“博学但有点自负的图书管理员”**。

1. 核心问题：图书管理员的“过度自信”

想象一下，你问这位图书管理员：“1939 年世博会上关于电视发生了什么？”

情况 A（真话）： 他非常确定地回答：“那是电视首次公开演示。”
情况 B（胡编乱造）： 他可能也会非常自信地回答：“那是电视首次被发明。”（其实电视发明得更早，这只是个演示）。

问题在于： 这位管理员在说真话和胡编乱造时，语气和自信程度看起来一模一样。现有的很多检测方法，就像是为了验证他说的话，不得不反复问他十遍（重复采样），或者请一位更高级的专家来审核（使用辅助模型）。这就像为了确认一个事实，要跑十趟图书馆或雇一个侦探，太慢、太贵、太费资源了。

2. 新方案：STC（语义令牌聚类）

这篇论文提出的 STC 方法，就像给这位图书管理员装了一个**“内部语义雷达”。它不需要反复提问，也不需要请外人，只需要听他回答一次**，就能判断他是否靠谱。

它是如何工作的？（两个关键步骤）

第一步：给词汇“找亲戚”（语义聚类）
在图书馆里，词汇不仅仅是字母的组合，它们有“亲戚关系”。

比如，“电视”、“电视机”、"TV"、“电视机”在人类看来意思是一样的。
但在计算机眼里，它们可能是完全不同的代码。
STC 的做法： 它提前把意思相近的词（比如所有指代“电视”的词）归到一个**“语义家族”**里。这就像在图书馆里，把所有关于“电视”的书都放在同一个书架区域，不管书名是叫《电视》还是《TV 指南》。

第二步：看“概率大团结”（概率聚合）
当管理员开始回答问题时，他脑子里其实有很多个可能的词在打架。

如果他在说真话，他的脑子里可能会想：“电视”（概率 40%）、"TV"（概率 30%）、“电视机”（概率 20%）。虽然单个词的概率看起来不高，但把它们加起来（100%），说明他对这个概念非常确定。
如果他在胡编乱造，他的脑子里可能会想：“电视”（概率 10%）、“收音机”（概率 10%）、“电话”（概率 10%）。这些词意思不相关，加起来的总概率很低，说明他很迷茫。

STC 的绝招： 它不看单个词的概率，而是把属于同一个“语义家族”的所有词的概率加在一起。

加起来的概率高 = 管理员对这个概念很确定 = 回答可信。
加起来的概率低 = 管理员在瞎猜 = 回答存疑。

3. 为什么这个方法很厉害？（三大优势）

快如闪电（高效）：
- 以前的方法像“十人团”（问十遍），STC 像“单人侦探”（只问一遍）。
- 它不需要额外的计算资源，甚至可以在普通的 CPU 上运行，不需要昂贵的显卡。就像你不需要雇侦探，只需要看一眼管理员的眼神（内部数据）就能判断。
自带装备（自包含）：
- 它不需要额外的“老师”来教它怎么判断，也不需要收集大量的错误数据来训练。它直接利用模型内部已有的知识（词向量）就能工作。就像图书管理员自己就能通过整理书架来发现逻辑漏洞。
聪明地利用“前缀”（前缀匹配）：
- 有时候，词还没说完。比如管理员刚说了“电”，还没说“视”。
- STC 会想：“哦，他说了‘电’，那‘电视’、‘电话’、‘电脑’都可能是接下来的词。”它会把所有以“电”开头的词都算作一个整体来评估概率。这就像侦探不仅听结论，还听他说话的起头，从而更早地察觉不对劲。

4. 总结与比喻

如果把大语言模型的不确定性检测比作**“天气预报”**：

旧方法： 为了知道明天会不会下雨，派 10 个气象员去不同地方测，或者请一个超级计算机算一遍。结果很准，但太慢太贵。
STC 方法： 直接观察天空中的云层（模型内部的词分布）。如果云层（语义家族）聚集得很紧密，说明大概率要下雨（回答可信）；如果云层稀稀拉拉，说明天气不明朗（回答不可信）。

结论：
这篇论文提出了一种**“既快又准”**的方法，让大语言模型在回答问题的同时，能自己“照镜子”看看自己是否靠谱。它不需要额外的成本，就能大幅减少模型“一本正经胡说八道”的风险，让 AI 在医疗、法律等高风险领域变得更值得信赖。

1. 研究背景与问题 (Problem)

核心挑战：
尽管大语言模型（LLM）在各项任务中表现出色，但其输出并不总是真实的，且存在“过度自信”（Overconfidence）的问题，即模型经常对错误但看似合理的回答表现出高置信度。这在医疗、法律等高风险领域构成了严重的安全隐患。

现有方法的局限性：
现有的不确定性量化（Uncertainty Quantification, UQ）方法主要分为两类，但都存在显著缺陷：

监督式方法： 需要额外的标注数据和训练探针（Probes），泛化能力差，且难以应用于分布外数据。
无监督/采样式方法：
- 基于采样的方法（如 Semantic Entropy）： 需要多次生成（Repeated Sampling）并计算语义多样性，计算开销巨大，推理延迟高。
- 基于外部模型的方法（如 CCP）： 依赖外部自然语言推理（NLI）模型来评估语义关系，引入了额外的计算负担和依赖。
- 基于 Logits 的方法（如 Perplexity）： 往往忽略了语义一致性，仅关注单个 Token 的概率，导致对模型真实置信度的低估。

研究目标：
开发一种高效、自包含（Self-contained）的不确定性量化方法，仅需单次生成，无需外部模型或多次采样，同时能充分利用 LLM 内部编码的语义信息。

2. 方法论：语义 Token 聚类 (Methodology: Semantic Token Clustering, STC)

作者提出了 语义 Token 聚类 (STC) 方法，其核心思想是将模型输出的 Token 概率聚合到语义一致的簇（Cluster）中，从而更准确地衡量模型对“语义概念”的置信度，而非仅仅是对“特定字符串”的置信度。

核心流程：

该方法分为两个阶段：

阶段一：预计算阶段 (Pre-computation Stage) - 离线进行

Token 嵌入聚类： 利用无监督聚类算法（如凝聚聚类 Agglomerative Clustering），基于 LLM 的 Token 嵌入（Embeddings）将词汇表中的 Token 分组为语义一致的簇。
- 输入： 将 Token 的输入嵌入（Input Embeddings）和输出嵌入（Output Embeddings）拼接，形成统一的语义表示。
- 处理： 使用余弦距离作为度量，排除停用词和数字（因为数字的语义相似性不等于数学等价性）。
- 结果： 生成静态的语义簇映射表。此步骤仅需执行一次，不增加推理时的开销。

阶段二：推理阶段 (Inference Stage) - 在线进行

概率聚合： 在生成每个 Token 时，不仅计算该 Token 本身的概率，还聚合该 Token 所属语义簇中所有 Token 的概率质量。
前缀匹配 (Prefix Matching)： 为了解决分词（Tokenization）与语义单元不对齐的问题（例如 "television" 可能被分为 "tele" 和 "vision"），引入前缀匹配机制。
- 检查候选 Token 是否是后续生成内容的前缀。
- 将那些在语义簇中且与后续生成内容前缀匹配的 Token 纳入聚合范围。
不确定性分数计算：
- 对于生成的序列，计算每一步的“簇聚合概率” $\hat{p}_c$ 。
- 最终的不确定性分数 $S(x, y)$ 定义为： $1 - \prod \hat{p}_c$ 。即序列中所有步骤的聚合概率乘积的补数。概率越低（不确定性越高），分数越高。

关键公式：

$\hat{p}_c(y_i | x, y_{<i}) = \sum_{t \in T_i} p(t | x, y_{<i})$
其中 $T_i = T^e_i \cup T^p_i$ ， $T^e_i$ 是通过嵌入聚类找到的语义相似 Token 集合， $T^p_i$ 是通过前缀匹配找到的 Token 集合。

3. 主要贡献 (Key Contributions)

利用内部语义表示： 首次提出直接利用 LLM 内部编码的 Token 嵌入进行聚类，将语义一致性引入不确定性量化，无需外部模型。
高效且自包含：
- 单次生成： 仅需一次推理即可计算不确定性，无需多次采样。
- 零外部依赖： 不需要微调、监督数据或外部 NLI 模型。
- 计算高效： 繁重的聚类工作在离线完成，推理时仅需简单的查表和概率求和，显著降低了计算开销。
性能优越： 在多个基准数据集和模型上，STC 达到了与最先进（SOTA）方法相当甚至更优的性能，同时大幅减少了推理延迟。

4. 实验结果 (Results)

实验在 Llama-2/3, Mistral, Qwen2.5 等多个开源模型上，使用 TriviaQA (TQA), Natural Questions (NQ), WebQuestions (WQ) 三个数据集进行评估。

准确性 (AUROC)：
- STC 在大多数设置下达到了与 SOTA 基线（如 Semantic Entropy, CCP, EigenScore）相当甚至更高的 AUROC 分数。
- 例如，在 Llama-3-8B 的 NQ 数据集上，STC 达到 0.777，优于 CCP (0.763) 和 Semantic Entropy (0.756)。
效率 (计算开销)：
- 显著降低延迟： 与需要多次采样的方法（如 Semantic Entropy）相比，STC 的推理时间开销降低了 98% 以上。
- CPU 友好： 由于无需 GPU 加速的采样过程，STC 甚至可以在 CPU 上高效运行，而许多基线方法严重依赖 GPU。
- 在 Table 3 和 Table 8 中，STC 的相对执行时间开销（Relative Execution Time Overhead）通常仅为 1% - 7%，而基于采样的方法通常超过 200% - 400%。
消融实验 (Ablation Study)：
- 移除“嵌入聚类”或“前缀匹配”任一组件都会导致性能下降，证明两者具有互补性：嵌入聚类捕捉深层语义相似性，前缀匹配捕捉表面形式的一致性。
- 对聚类算法、距离度量、簇数量等超参数不敏感，方法具有鲁棒性。

5. 意义与局限性 (Significance & Limitations)

意义：

实用性强： STC 为资源受限场景（如边缘计算、低延迟应用）提供了一种可行的不确定性量化方案，使得在不牺牲性能的前提下实现实时风险检测成为可能。
理论洞察： 证明了 LLM 内部的 Token 嵌入空间蕴含了丰富的语义结构，可以通过聚类有效提取，用于修正模型对单一 Token 概率的过度自信。
通用性： 适用于任何白盒（White-box）LLM，无需重新训练。

局限性：

黑盒模型限制： 该方法需要访问模型的 Token Logits 和 Embeddings，因此无法直接应用于无法获取内部状态的闭源模型（如 GPT-4, Claude 等 API 模型）。
静态嵌入的噪声： 目前使用的是静态 Token 嵌入，未考虑上下文。这可能导致多义词（Polysemy）被错误聚类（例如 "bank" 作为银行和河岸）。虽然模型通常会给不兼容的 Token 分配极低概率从而缓解此问题，但未来工作可探索引入上下文感知的嵌入。
校准问题： 类似于其他方法，STC 输出的分数本身可能未校准（Calibrated），但在需要时可以进行后处理校准。

总结

这篇论文提出了一种名为 STC 的创新方法，通过离线聚类 Token 嵌入和在线概率聚合，成功解决了大语言模型不确定性量化中“准确性”与“效率”难以兼得的矛盾。它在不依赖外部模型和多次采样的情况下，实现了 SOTA 级别的不确定性检测能力，为构建更可靠、更高效的 LLM 应用系统提供了重要的技术路径。