← 最新论文
💬 NLP

dVoting: Fast Voting for dLLMs

本文提出了 dVoting,一种无需训练即可利用扩散大语言模型(dLLMs)任意位置并行生成特性,通过一致性分析与迭代投票机制显著提升推理能力的快速投票技术。

原作者: Sicheng Feng, Zigeng Chen, Xinyin Ma, Gongfan Fang, Xinchao Wang

发布于 2026-02-13
📖 1 分钟阅读☕ 轻松阅读

原作者: Sicheng Feng, Zigeng Chen, Xinyin Ma, Gongfan Fang, Xinchao Wang

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

这篇论文介绍了一种名为 DVOTING 的新方法,专门用来让一种新型的人工智能模型(称为 dLLM,即扩散大语言模型)变得更聪明、更快速,而且不需要重新训练

为了让你轻松理解,我们可以把 AI 写答案的过程想象成**“一群专家开研讨会”**。

1. 背景:传统的 AI 是怎么工作的?

传统的 AI(自回归模型)就像是一个**“按部就班的打字员”**。它必须从左到右,一个字一个字地写。

  • 缺点:如果它写错了,或者在某个地方犹豫了,它很难回头去改。它必须从头再来,或者在生成过程中非常慢。
  • 新模型(dLLM)的优势:dLLM 像是一个**“可以随意涂改的草稿纸”**。它不一定要按顺序写,它可以同时生成整段话,然后发现哪里不对,就把哪里“擦掉”(Mask,即掩盖),重新写。这就像你可以同时修改文章的第 1 句和第 10 句,而不需要把整篇文章重写一遍。

2. 问题:为什么现在的“投票法”太慢了?

为了让 AI 更聪明,我们通常会让它多试几次(比如生成 5 个不同的答案),然后大家投票选出一个最好的。

  • 现状:这就好比让 5 个专家分别写 5 篇完整的文章,然后大家坐在一起对比。
  • 浪费:研究发现,这 5 篇文章里,大部分内容其实都是一样的(比如开头、结尾、很多连接词)。只有中间关键的几个词不一样。
  • 比喻:想象 5 个人在画同一幅画,90% 的笔触(比如天空、草地)大家都画得一模一样,只有画中的“猫”画得不一样。如果我们要对比,没必要把 5 张画都从头画到尾再对比,那样太浪费时间了!

3. 解决方案:DVOTING(快速投票)

DVOTING 的核心思想就是:“只改大家画不一样的地方,一样的地方直接保留。”

它的工作流程像是一个聪明的“修图师”

  1. 第一轮草图:让 AI 快速生成几个版本的答案。
  2. 找不同(一致性分析)
    • 它发现:“嘿,这 5 个版本里,‘今天天气不错’这句话大家都写对了,保留!"
    • 它发现:“但是,关于‘数学计算结果’,大家写的数字不一样,这里有问题!"
  3. 精准修改(重掩码/Remasking)
    • 它把那些大家写得不一样的“问题词”擦掉(Mask),把那些大家写得一样的“好词”锁住(Preserve)。
    • 然后,它只让 AI 重新生成那些被擦掉的“问题词”。
  4. 循环直到完美:重复这个过程,直到大家的答案完全一致,或者达到一个满意的结果。

4. 这个方法的妙处在哪里?

  • 省钱省力(效率高):因为它不需要每次都生成整篇文章,只需要修改那一点点“不确定”的地方。就像修车时,只换坏掉的零件,而不是把整辆车拆了重装。
  • 变聪明了(效果好):通过这种“反复推敲”的过程,AI 在数学推理、科学问答等难题上的表现大幅提升。
    • 在数学题(GSM8K)上,准确率提升了 6% - 7%
    • 在科学题(ARC-C)上,甚至提升了 14% 以上。
  • 不需要重新训练:这是一个“即插即用”的技巧。就像给现有的 AI 戴上了一副“智能眼镜”,让它知道什么时候该停下来思考,而不是让它重新上学。

5. 总结

DVOTING 就像是给 AI 配备了一个**“智能纠错团队”**。
以前,AI 犯错时,我们让它“重头再来”(太慢);
现在,DVOTING 告诉它:“你前面写得都对,只有中间这一句大家有分歧,只改这一句就行!”

这种方法让 AI 在解决复杂问题时,既,而且不花额外的训练成本,是未来让 AI 变得更强大的一个非常实用的技巧。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →