A Reconfigurable Multiplier Architecture for Error-Resilient Applications in RISC-V Core
本文提出了一种集成于 RISC-V 核心中的运行时可重构乘法器架构,该架构支持神经网络推理中的细粒度能效权衡,在精确模式和近似模式下均实现了显著的功耗与能耗降低,同时保持了高计算性能。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,你正在运营一间繁忙的厨房(即计算机处理器),需要每秒准备数千道复杂的食谱(即神经网络)。烹饪这些食谱中最耗时且最耗能的环节是进行数学运算——具体而言,就是将数字相乘。
在传统厨房中,厨师是完美主义者。他们将每种食材精确到毫克,并以绝对精度计算每一步。虽然这能确保菜肴完美,但极其耗时,并消耗大量燃料(能量)。
问题所在:
曼迪印度理工学院的 researchers 发现,对于许多现代“食谱”(如图像识别或人工智能),食物实际上并不需要“完美”精确也能美味可口。如果测量略有偏差,顾客(即人工智能应用)通常察觉不到。然而,厨师仍在为追求完美而燃烧大量燃料。
解决方案:“智能”乘法器
该团队开发了一种新型厨房工具,称为可重构乘法器。你可以将其想象为一位“智能厨师助手”,能够根据当前任务即时调整其工作模式。
一具工具,两种模式:
- 完美主义模式(精确): 当食谱绝对要求精度时,该工具会像传统厨师一样,完美地计算一切。
- “足够好”模式(近似): 当食谱可以容忍微小误差(例如估算盐的用量)时,该工具会切换到更快、更灵活的模式。它会跳过一些繁琐且耗能的步骤,从而节省燃料。
遥控器(
mulcsr):
该设计的妙处在于它并非固定于单一模式。计算机拥有一个特殊的“遥控器”(一个名为mulcsr的寄存器),软件可利用它来精确设定所需的精度级别。- 想象一下灯光的调光开关。你可以将精度调至最高(100% 完美),或将其调低至 255 个不同的“足够好”级别。
- 计算机可以在程序运行过程中瞬间在这些设置之间切换,无需停止流水线或更改硬件。
内部工作原理:
为了实现这种可切换性,工程师将该工具由更小的模块化块(称为压缩器)构建而成。- 他们设计了两种类型的模块:一种非常严谨但略为复杂,另一种更简单、更快,但会采用一些“捷径”。
- 通过根据遥控器的信号混合搭配这些模块,他们创造出了一个 32 位乘法器,能够处理从重型数学运算到快速、节能的估算等各种任务。
结果:在不牺牲速度的情况下节省能源
当他们在标准处理器(RISC-V 核心,即一种流行的、用于小型设备的开源引擎)中测试这一新工具时:
- 节能效果: 在“足够好”模式下运行时,该工具比传统完美工具节省 62% 至 68% 的功耗。即使在“完美”模式下,由于其设计本身更加精简,其效率仍高出44% 至 52%。
- 速度: 它并未降低运行速度。处理器仍以相同的速度运行(1.89 DMIPS/MHz)。
- 现实世界测试: 他们在“矩阵乘法”(人工智能背后的数学)和“二维卷积”(图像处理背后的数学)等任务上进行了测试。在这些测试中,新工具节省了运行程序所需总能源的高达 63%。
核心结论
本文提出了一种针对小型电池供电设备(如智能摄像头或传感器)的硬件升级方案。它用一种灵活且节能的计算器取代了旧式僵化的“完美数学”计算器,该计算器懂得何时需要精确、何时可以采用捷径。其结果是,处理器在单次充电下能够运行更长时间的复杂人工智能任务,而用户完全不会察觉到质量的下降。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。