Distribution-Free Pretraining of Classification Losses via Evolutionary Dynamics
本文提出了一种进化动态损失（EDL），这是一种无分布框架，它利用合成数据和带有混沌变异的进化策略来预训练一种可迁移的分类损失，在预训练阶段无需访问真实样本即可实现具有竞争力的性能，从而能够作为交叉熵的即插即用替代方案。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在教一个机器人如何识别猫和狗。通常，你会给机器人一本规则教科书（即“损失函数”），告诉它在犯错时应“惩罚”自己多少。例如：“如果你把猫误认为是狗，那就是一个大错误，所以你要受到重罚。”
问题在于，这些教科书是由人类编写且固定不变的。即使机器人在嘈杂的环境中学习，或者图片模糊不清，又或者猫的数量多于狗，这些规则也不会改变。由于规则无法适应具体情况，机器人可能会陷入困境。
本文提出了一种编写教科书的新方法。他们不是使用人类编写的固定规则手册，而是教机器人在看到任何真实的猫或狗图片之前，自己编写规则手册。
以下是他们如何实现这一点的分解说明，分为几个简单概念：
1. “想象健身房”（无分布预训练）
通常，要教机器人一项新技能，你需要真实数据（猫和狗的照片）。但作者说：“让我们暂时跳过真实照片。”
相反，他们建立了一个虚拟的“想象健身房”。在这个健身房里，他们生成了数百万个虚构场景。他们不使用真实图像，只使用代表“置信度”的数字。
- 场景 A： 机器人 99% 确定是猫，但实际上是狗。（这是一个非常糟糕的猜测）。
- 场景 B： 机器人 51% 确定是猫，而实际上确实是猫。（这是一个幸运的猜测）。
目标不是教机器人猫长什么样。目标是教机器人如何为自己的错误感到糟糕。他们希望机器人学会一个简单的规则：“你错得越离谱，惩罚就应该越大。”
2. “味觉测试”（排序一致性）
如果不展示真实的猫，如何教机器人感受到正确程度的“糟糕感”？你使用一种排序游戏。
想象你有两个虚构场景。
- 配对 1： 一个非常自信的错误猜测。
- 配对 2： 一个稍微不确定的正确猜测。
你问机器人：“这两个中，哪一个应该受到更大的惩罚？”
机器人的任务只是搞对顺序。它不需要知道惩罚的确切数值，只需要知道配对 1 的惩罚必须高于配对 2。
机器人用数十亿个虚构场景反复练习这种排序游戏，直到它非常擅长将错误从“轻微恼人”到“灾难性”进行排序。
3. “进化大厨”（进化策略）
现在，我们如何找到完美的规则手册？作者并没有仅仅使用标准数学来解决这个问题。他们使用了一种受进化启发的方法，就像大自然选择最强壮的动物一样。
- 他们创建了一个包含 6 种不同规则手册（损失函数）的“种群”。
- 他们在“想象健身房”中测试这些手册，看哪一种能最好地对错误进行排序。
- “获胜者”（最好的规则手册）被保留下来。
- “失败者”被剔除。
4. “混沌洗牌”（混沌变异）
这里有一个巧妙的转折。当获胜者尝试创造“后代”（它们的新版本）时，它们需要进行微小的改变。通常，计算机使用随机的“高斯”噪声（就像掷骰子）来进行这些改变。
但作者加入了混沌。他们使用一种称为“逻辑斯蒂映射”的数学技巧来决定改变的大小。
- 这就像一位厨师在品尝汤。有时他们加一小撮盐（小改变）。有时，他们加一整勺（大改变）。
- “混沌”方法确保厨师不会永远只加小撮盐。它迫使系统偶尔做出大胆、巨大的跳跃，去探索那些正常、谨慎的计算机可能会错过的新口味的规则手册。
结果
经过这种“想象健身房”训练后，机器人拥有了一本定制且高度优化的规则手册。然后，他们使用这本规则手册，在著名的CIFAR-10数据集（一组标准的 10 类小图像）上训练了一个真实的图像分类器。
研究结果如下：
- 使用这种定制的、经过“进化”的规则手册训练的机器人，其表现与使用标准人类编写规则训练的机器人一样好，甚至略好。
- “混沌”方法（大胆跳跃）帮助机器人比标准的谨慎方法更快、更可靠地找到了更好的规则手册。
总结
本文介绍了一个名为EDL（进化动态损失）的系统。这是一种通过进化过程在虚构、人造数据上进行练习，从而教会计算机如何惩罚自身错误的方法，该过程混合了细致的微调与混沌、大胆的跳跃。其结果是一本灵活、可迁移的“规则手册”，能帮助计算机更有效地学习新任务，而这一切都不需要在初始训练阶段看到真实数据。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。