VeriLLM: A Lightweight Framework for Publicly Verifiable Decentralized Inference
VeriLLM 是一个轻量级、可公开验证的去中心化大语言模型（LLM）推理框架，它通过将低成本的经验性重运行与一种在同一 GPU 工作节点上对推理与验证角色进行复用的同构架构相结合，确保了输出正确性和激励相容性，从而实现了效率与鲁棒性的最大化。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你想雇佣一群来自世界各地的陌生人为你写一个故事。你不认识他们，也不信任他们。你担心他们可能会偷懒、使用更廉价、质量更低的写作风格，或者只是简单地复制粘贴旧的故事，而不是创作新的内容。
这就是 VeriLLM 要解决的问题。它是一个全新的系统，让任何人都可以使用去中心化的计算机网络来运行强大的 AI 模型（例如那些编写故事或代码的模型），而无需依赖单一的大型公司。
以下是其工作原理的解释，通过简单的类比进行说明：
1. 问题所在：“懒惰工人”困境
在普通的计算中心，一家大公司会检查自己的工作。而在去中心化网络中，你有成千上万台独立的计算机（工人）。
- 风险： 工人可能会为了节省电费而使用“偷懒”版本的 AI，或者跳过某些步骤。
- 旧的解决方案： 为了检查他们是否完成了工作，你过去需要让另一台计算机从头开始重新做一遍完全相同的工作。这就像雇佣第二个作家去重写整个故事，仅仅是为了检查第一个人的工作。这极其昂贵且缓慢（就像为了完成一项任务而支付双倍的费用）。
2. 核心创意：“速通”技巧
VeriLLM 使用了一个基于 AI 模型实际思考方式的巧妙技巧。
- 编写故事（推理）： 当 AI 编写故事时，它必须逐字逐句地书写。在知道倒数第二个词之前，它无法写出最后一个词。这是缓慢且具有顺序性的。
- 检查故事（验证）： 但是，如果你已经有了写好的完整故事，你就不需要再逐字逐句地写一遍来检查它。你可以一次性查看整个内容。
类比： 想象一名学生正在参加数学考试。
- 学生（推理）： 必须一步步、一个问题接一个问题地解决问题。这需要很长时间。
- 老师（验证者）： 手里拿着学生写完的最终答案。老师不需要从头开始重新解每一个题，而是可以直接一眼看清所有的最终答案和关键步骤。
- 结果： VeriLLM 发现这种“速通”检查模式比重新做一遍工作要快 99%。它的验证成本仅为执行任务本身能量消耗的约 1%。
3. “蒙眼检查员”系统
即使有了这个速度技巧，如何防止工人仅仅通过“猜”来给出答案呢？VeriLLM 使用了一种基于博弈论的方法，称为**“承诺、采样与揭示”（Commit, Sample, and Reveal）**。
- 承诺（锁上盒子）： 在任何人知道答案之前，工人必须将他们的结果“锁定”在一个数字盒子中（一种加密承诺形式），并将其发送到区块链上。他们之后无法更改其中的内容。
- 随机采样（抽奖）： 一个智能计算机（调度器）会使用随机抽奖的方式，仅挑选工人故事中的几个特定页面或句子进行检查。
- 揭示： 工人必须打开盒子，并且仅展示那些特定的页面。
- 检查： 系统会检查这些页面。如果它们符合数学逻辑，工人就会获得报酬。如果它们不符，或者工人试图隐藏错误的页面，他们就会失去押金（经济处罚）。
为什么这行得通： 因为工人在锁定工作之前，并不知道哪些页面会被选中，所以他们无法只伪造那些他们认为会被检查的部分。他们必须完整且正确地完成整个工作。
4. “角色互换”规则
一个聪明的工人可能会试图弄清楚：“我是正在被要求写故事，还是正在被要求检查别人的故事？”如果他们知道自己是在担任检查员，他们可能会变得偷懒。
VeriLLM 通过让**推理（写作）和验证（检查）**的任务看起来完全一样来解决这个问题。
- 类比： 想象一个工厂，每个工人穿着完全相同的制服，使用完全相同的机器。有时这台机器被要求制造汽车；有时它被要求检查汽车。工人（计算机）根本不知道自己正在执行哪项任务。他们无法通过在检查时偷懒来“钻系统的空子”，因为他们甚至不知道自己正在进行检查。
5. 处理“混乱”的计算机
由于微小的硬件差异（例如两个计算器显示的数值分别是 0.0000001 和 0.0000002），不同的计算机（GPU）有时计算出的数字会略有不同。
- VeriLLM 拥有一个“噪声过滤器”。它知道微小的、随机的差异是可以接受的（就像字迹的轻微差异）。但如果数字差异巨大（比如变成了完全不同的单词），它就知道出问题了，并会发出警报。
总结
VeriLLM 是一个让世界共享运行强大 AI 成本的系统。
- 它让检查工作变得廉价且快速（利用“速通”技巧）。
- 它让作弊变得不可能（利用“蒙眼检查员”抽奖机制）。
- 它让系统变得公平（通过隐藏身份和任务）。
其结果是一个值得信赖的 AI 网络，你不需要信任一个中央管理者；你只需要信任数学和代码。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。