Searching on a Budget: HW-NAS with 10 Latency Probes
本文提出了一种两阶段硬件感知神经架构搜索框架，该框架利用免训练精度代理在合成设备上训练控制器，使其仅需少量高保真延迟探测即可搜索出低延迟架构，从而在测试时高效适应未见过的目标设备。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象你是一位厨师，正试图为一道菜设计完美的食谱。你有两个目标：这道菜必须味道惊艳（高准确率），但也必须烹饪得足够快，以便在食客离开前喂饱饥饿的人群（低延迟/低能耗）。
通常，当厨师（AI 研究人员）为特定的厨房（如手机或机器人等硬件设备）设计这些食谱时，他们会面临一个大问题。如果不实际尝试，他们无法仅凭猜测就知道一道菜在新厨房需要烹饪多久。但实际烹饪每一种食谱变体既缓慢、昂贵，又充满风险。
本文作者通过一个简单的两步策略解决了这个问题：
问题：“猜谜游戏”充满风险
大多数现有方法试图利用“食谱书”（分析近似）或“算命先生”（机器学习预测器）来预测一道菜需要烹饪多久。
- 风险：如果你的算命先生算错了，你可能向人群承诺只需 5 分钟的餐点，但实际上却需要 20 分钟。在关键情境下（例如机器人需要即时反应），这种错误是不可接受的。
- 成本：为了让算命先生准确，你通常必须先烹饪数百道测试菜肴，这耗费大量时间和金钱。
解决方案：拥有魔法地图的“旅行厨师”
作者提出了一种寻找完美食谱的新方法，只需在新厨房品尝10 道菜即可。他们称之为“两阶段”方法。
第一阶段：在“梦幻厨房”中训练（合成设备）
厨师不再试图学习某一个特定厨房的规则，而是在一个模拟的梦幻厨房中训练，那里的规则每天都会随机变化。
- 类比：想象厨师在一个厨房里练习，每次烹饪时炉灶速度、烤箱温度和刀具锋利度都会随机变化。今天炉灶超级快，明天却很慢。
- 目标：通过在这个混乱多变的环境中练习，厨师掌握了一项通用技能：“如何根据当前设备的状态调整我的食谱。”他们不是死记硬背某一个特定的炉灶，而是学会了如何适应任何炉灶。
- 捷径：为了在训练期间节省时间，他们并不实际烹饪整道菜来品尝。他们使用一种“快速品尝测试”（一种无需训练的代理指标），在不花费数小时烹饪的情况下，估算食谱是否会美味。
第二阶段：真实厨房（部署）
现在，厨师来到一个真实的、特定的厨房（如 iPhone 或机器人）进行实际烹饪。
- 策略：厨师不进行猜测。他们只烹饪10 道特定的菜肴（候选网络）并精确计时。
- 适应：由于厨师在“梦幻厨房”中经过多年训练，那里的条件不断变化，他们早已成为解读环境的专家。他们观察前几道菜的计时结果，意识到：“啊，这个炉灶比我想象的要慢”，并立即调整接下来的 9 道菜以适应这个特定的炉灶。
- 结果：他们从这 10 次真实测试中选出最佳菜肴。没有猜测，没有算命先生，只有真实数据。
为何这种方法更优（结果）
该论文在 18 种不同设备甚至真实的 iPhone 13 上，将这种方法与其他方法（如“算命先生”方法）进行了测试。
- 算命先生：试图基于少量样本预测数百道菜的烹饪时间。它经常算错时间，导致菜肴比承诺的更慢。
- “梦幻厨房”厨师：只烹饪了 10 道菜，但测量得完美无缺。
- 结果：在现实世界测试中，“梦幻厨房”方法找到的食谱比基于预测的方法快 8.7%。
核心启示
如果你的测试预算非常有限（你只能看 10 次时钟），那么准确测量几件事比猜测许多事的结果要好得多。
通过先在各种各样的虚假随机场景中训练一个“智能体”，它会变得极其擅长适应，以至于它可以走进一个全新的、未知的厨房，只品尝 10 道菜，就能立即知道如何为那个特定环境烹饪出完美的菜肴。
简而言之：不要试图预测未来；训练你的 AI 成为适应大师，然后让它进行几次现实世界的检查，以确保工作圆满完成。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。