Can Blockchains Reliably Train Machine Learning Models?
本文介绍了训练证明(PoT),这是一种将高能耗的工作量证明挖矿资源重新用于可验证的机器学习模型训练的协议,通过理论分析和实现证明,该方法在解决去中心化学习技术短板的同时,实现了高吞吐量、鲁棒性和增强的网络安全。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一场规模宏大的全球竞赛,成千上万台计算机不断尝试解决极其困难的数学谜题。这正是比特币及类似区块链目前的运作方式(一种称为“工作量证明”的系统)。率先解决这些谜题的计算机会获得现金奖励。然而,有一个陷阱:这些谜题毫无用处。它们不创造任何有价值的东西,只是消耗大量电力来维持网络安全。这就像拥有一支赛车队,它们只是在原地绕圈,只为证明自己能开得很快,消耗了燃料却寸步未行。
与此同时,人工智能(AI) 领域正极度渴求算力。训练智能 AI 模型需要海量的计算,这既昂贵又难以获取。
本文提出了一种名为**“训练证明”(Proof of Training, PoT)** 的解决方案。其理念很简单:与其将能量浪费在无用的数学谜题上,不如利用同样的海量算力来训练 AI 模型。但是,如何确保人们确实在工作而不是作弊呢?这就需要论文中提出的新协议。
以下是该系统的运作方式,分解为日常概念:
1. 新游戏:训练而非解谜
将区块链想象成一个全球课堂,而不是谜题求解器。
- 客户端(老师): 需要训练 AI 模型的人在网络上发布“家庭作业”(数据集和目标)。
- 矿工(学生): 这些计算机不再解谜,而是下载作业并开始训练 AI。他们承诺:“我将在指定时间前完成这份作业”,并锁定这一承诺。
- 验证者(监考员): 这些是独立的计算机,负责检查作业。他们查看完成的 AI 模型,并根据一套秘密测试集对其进行评分,以评估其表现。
2. “承诺与揭示”技巧(防止作弊)
在普通课堂上,学生可能会等到看到考题后再学习。在这个系统中,这是不可能的。
- 保险箱: 在考题(验证数据)发布之前,“学生”(矿工)必须将完成的 AI 模型放入数字保险箱中。他们向网络发送一张收据(哈希值),证明他们已准备好特定的模型。
- 揭示: 只有在考题发布后,矿工才打开保险箱并展示他们的模型。
- 为何重要: 这阻止了作弊者先查看考题答案,解决问题,然后假装自己早已解决。他们在知道答案之前就被锁定。
3. “看门狗”系统(争议处理)
你可能会问:“谁来检查监考员?如果他们评分不公或偷懒怎么办?”
论文引入了一种争议机制,类似于“吹哨人”系统:
- 假定善意: 系统最初假设监考员(验证者)是诚实的,以节省时间和能量。
- 挑战窗口: 评分后的短时间内,网络中的任何人都可以充当看门狗。如果看门狗发现监考员给出了错误的评分或虚假分数,他们可以发起挑战。
- 赌注: 要成为监考员,必须缴纳保证金(资金)。如果你被发现有作弊或评分错误,你将失去保证金。抓住你的看门狗将获得这笔钱的一部分作为奖励。
- 结果: 这为监考员提供了诚实的强大动力,也为看门狗提供了监督他们的动力。这就像一场游戏,诚实比作弊更有利可图。
4. 为何这比旧想法更好
论文认为,之前的尝试之所以失败,是因为它们太慢或不够安全。
- 瓶颈: 旧想法试图在主区块链上检查每一份作业。这会像交通堵塞一样使系统瘫痪。
- 解决方案: PoT 采用二层(Layer 2) 方案。将主区块链(一层)想象成银行金库。它只存放最终结果和资金。实际工作(训练和评分)在外部一个快速、并行的网络(二层)中进行。只有发生争执(争议)或支付获胜者奖金时,银行金库才会介入。这保持了系统的快速和可扩展性。
5. 安全保证
作者通过数学计算证明了其有效性。他们表明,如果作弊的惩罚(失去保证金)足够高,且被抓的概率足够高,那么诚实就是唯一合乎逻辑的选择。
- 如果矿工试图伪造一个优质模型,他们会被看门狗发现并损失金钱。
- 如果验证者试图给出虚假评分,他们将失去保证金。
- 因此,该系统自然地促使每个人进行真实的工作并公平评分。
总结
该论文提议将类比特币网络的“无用”能量转化为一个去中心化的 AI 工厂。
- 旧方式: 计算机消耗电力来解决毫无意义的谜题。
- 新方式(PoT): 计算机利用同样的电力来训练有用的 AI 模型。
- 如何保持诚实: 通过保证金制度、秘密测试题以及“吹哨人”奖励系统,确保无人能在不损失金钱的情况下作弊。
其结果是一个快速、安全且能够同时处理大量 AI 训练任务的网络,且无需将能量浪费在产生任何价值的工作上。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。