⚡ electrical engineering

Energy-Aware Multi-Exit TinyML for Smart Zero-Energy Devices

本文提出了一种面向零能量设备的多出口 TinyML 框架，通过根据输入难度动态调整推理深度并结合能量感知电路，在确保检测精度的同时将能耗降低了约 29.6%。

原作者： Shahab Jahanbazi, Mateen Ashraf, Lieven De Strycker, Jeroen Famaey, Onel L. A. Lopez

发布于 2026-03-10

📖 1 分钟阅读☕ 轻松阅读

原作者： Shahab Jahanbazi, Mateen Ashraf, Lieven De Strycker, Jeroen Famaey, Onel L. A. Lopez

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇文章介绍了一种让完全不需要电池的智能小设备变得更聪明、更省电的新技术。想象一下，未来你的墙壁开关、窗户传感器或者衣服上的小贴片，不需要换电池，也不需要插电线，它们完全靠吸收环境中的光、热或震动来“吃饭”（获取能量），然后自己完成复杂的任务（比如识别是不是有人经过）。

这就好比给这些设备装上了一个**“超级节能的大脑”**。

以下是用通俗易懂的语言和生动的比喻来解释这篇论文的核心内容：

1. 核心挑战：给“流浪汉”装大脑

这些设备被称为**“零能量设备”（ZEDs）**。它们就像流浪汉，口袋里没钱（能量），随时可能因为没饭吃而晕倒（断电）。

难题：如果让它们运行复杂的“人脸识别”程序，就像让一个饿着肚子的人去跑马拉松，很容易中途力竭。
现状：以前的方法要么太笨重（存不下模型），要么太浪费（不管简单还是复杂的任务，都跑完整个流程，导致能量耗尽）。

2. 解决方案一：聪明的“快进”大脑（多出口模型）

这篇论文提出了一种**“多出口 TinyML"**技术。

比喻：想象你在做一道数学题。
- 传统方法：不管题目多简单（比如 $1+1$ ），你都必须从第一页算到最后一页，把步骤全走完，最后得出答案。这很浪费时间（能量）。
- 新方法（多出口）：你的大脑里设了几个“检查站”。
  - 如果题目很简单（比如 $1+1$ ），你在第一个检查站就能确定答案，直接交卷走人（早期退出）。
  - 如果题目很难（比如微积分），第一个检查站发现你不确定，你就继续往下做，直到最后一个检查站才给出最终答案（深度推理）。
效果：简单的任务“秒回”，省下了大量能量；难的任务虽然多花点能量，但保证了准确性。这样，设备就能在有限的能量下，完成更多的任务。

3. 解决方案二：精打细算的“管家”（能量感知电路）

光有聪明的大脑还不够，还得有个精明的管家来管钱（能量）。

比喻：设备里有一个**“能量存钱罐”**（超级电容）。
- 旧做法：不管存钱罐里还有多少钱，只要想干活，就硬着头皮开始干，结果干到一半钱没了，任务失败，之前的努力全白费。
- 新做法（能量感知）：在开始干活前，管家先看一眼存钱罐。
  - 如果钱够做“简单任务”，那就直接做。
  - 如果钱不够做“复杂任务”，或者存钱罐里的钱只够做简单任务但刚才的判断模棱两可，管家会立刻停止，或者只做一个简单的判断，绝不冒险去干需要更多钱的复杂任务，防止“破产”（断电）。
创新点：作者设计了一种特殊的MOSFET 电路（一种电子开关），像是一个高效的“总闸”。当摄像头不需要工作时，它直接切断电源，而不是仅仅让它“待机”。这就像把灯彻底关掉，而不是让灯亮着微光，能省下约 34% 的电力。

4. 实际效果：省下的能量能跑多远？

研究人员做了一个原型机，用太阳能板供电，在 Arduino 开发板上运行。

对比实验：他们把这套新系统和以前的“单出口”系统（不管难易都跑完全程）做了对比。
结果：
- 省电：新系统比旧系统节省了约 29.6% 的能量。
- 能干更多活：在同样的光照条件下，新系统能完成的任务数量更多。
- 不丢精度：虽然省了电，但识别人的准确率并没有明显下降。

5. 总结：未来的智能设备长什么样？

这篇论文告诉我们，未来的智能设备不需要背着沉重的电池，也不需要频繁充电。通过**“看菜吃饭”（根据任务难度调整计算量）和“精打细算”**（智能管理剩余能量），这些设备可以像植物一样，靠吸收环境中的微量能量，长期、稳定、智能地工作。

一句话总结：
这就好比给设备装了一个**“会看眼色行事”的管家**，遇到简单事就快速解决，遇到难事才全力以赴，并且时刻盯着钱包，确保永远不把最后一分钱花光，让设备在没电池的情况下也能活得长久又聪明。

这是一份关于论文《Energy-Aware Multi-Exit TinyML for Smart Zero-Energy Devices》（面向智能零能耗设备的能量感知多出口 TinyML）的详细技术总结。

1. 研究背景与问题 (Problem)

随着物联网和边缘计算的发展，将智能直接部署在边缘设备上已成为趋势。然而，对于零能耗设备 (Zero-Energy Devices, ZEDs) 而言，这一挑战尤为严峻。ZEDs 依赖环境能量收集（如太阳能），面临以下核心约束和矛盾：

能量极度受限且不稳定：环境能量具有间歇性、波动性，设备常面临“掉电”（brownout）风险，导致计算中断或状态丢失。
资源约束：微控制器 (MCU) 的内存（Flash/RAM）和计算能力非常有限。
精度与能效的权衡：传统的机器学习模型通常对所有输入执行相同的计算量（固定深度），无论输入是“简单”还是“困难”。这导致在处理简单样本时浪费了大量宝贵的能量，而在处理困难样本时又可能因能量不足而无法完成高精度推理。
现有方案的不足：
- 云端卸载推理：通信能耗往往高于计算能耗，且依赖网络连接。
- 单出口模型：无法根据输入难度动态调整计算量。
- 多模型选择方案（如文献 [3]）：需要在设备上存储多个模型，占用过多内存，且每次推理前需解优化问题，带来额外开销。

核心问题：如何在严格的内存、能量和精度三重约束下，设计一种自适应的推理机制，既能防止掉电，又能最大化单位能量的任务完成量（能效），同时保持高检测精度？

2. 方法论 (Methodology)

本文提出了一种统一的能量感知多出口 TinyML (Energy-Aware Multi-Exit TinyML) 架构，主要包含以下三个核心部分：

A. 多出口模型架构 (Multi-Exit Model)

基础架构：基于 MobileNet V1 构建，采用 BranchyNet 思想。模型包含一个主干网络（Backbone）和两个出口（Exit）：
- EX1 (早期出口)：位于网络较浅层，计算量小，能耗低，但精度相对较低。
- EX2 (深层出口)：位于网络末端，计算量大，能耗高，精度高。
训练策略：采用加权损失函数联合训练主干和分支，平衡不同出口的精度。
模型压缩：为了适应 ZEDs 的内存限制，对模型进行了剪枝 (Pruning) 和 量化 (Quantization) 处理，将其压缩为 TinyML 格式 (.tflite)，使其能运行在资源受限的 MCU 上。

B. 运行时自适应推理策略 (Runtime Adaptive Policy)

提出了一种**“能量感知且置信度门控” (Energy-Aware and Confidence-Gated)** 的推理策略，动态决定推理深度：

能量检查：在推理开始前，测量存储电容电压，确认可用能量是否足以支持至少 EX1 的推理。
初步推理 (EX1)：执行浅层推理，输出置信度 $O_1$ 。
决策逻辑：
- 高置信度：如果 $O_1$ 超出模糊区间（即置信度很高），直接输出结果，提前退出，节省能量。
- 低置信度/模糊区间：如果 $O_1$ 落在模糊区间 $(\gamma_1, \gamma_2)$ 内，系统需要进一步推理以提高精度。
二次能量检查：在决定是否进入 EX2 之前，再次测量剩余能量。这是为了防止在 EX1 消耗能量后，剩余能量不足以支撑 EX2 而导致掉电。
- 若剩余能量足够：执行 EX2，输出高精度结果。
- 若剩余能量不足：强制在 EX1 输出结果（作为回退机制），避免系统崩溃。

C. 硬件与电路设计 (Hardware & Circuits)

电源管理：使用 PMU (AEM10941) 管理太阳能输入和超级电容存储。
低功耗设计：
- MOSFET 电源门控：设计了一种基于 P-MOSFET 的辅助电路，通过 MCU 控制，仅在图像采集阶段给摄像头供电。相比传统的负载开关方案，该设计显著降低了待机漏电流和驱动功耗。
- 能量监测：利用 MCU 的 ADC 或硬件比较器实时监测电容电压，以触发上述软件策略。

3. 主要贡献 (Key Contributions)

首个能量感知多出口 TinyML 方案：在零能耗设备上首次实现了基于单模型、多出口的动态推理，证明了其在同等资源下优于单出口模型。
内存与精度的平衡：通过剪枝和量化，成功将多出口模型部署在内存受限的 MCU 上，仅增加了极小的内存开销（用于早期出口头），却实现了显著的能效提升。
创新的电路设计：设计了基于 MOSFET 的电源门控电路，相比文献 [2] 中的负载开关方案，在图像采集阶段降低了约 34% 的能耗。
鲁棒的执行策略：提出了“二次能量测量”机制，在利用输入难度自适应性的同时，严格保证了系统不会因能量估算错误而发生掉电。

4. 实验结果 (Results)

实验在基于 Arduino Nano 33 BLE Sense 和太阳能供电的原型系统上进行，任务为人脸/人体检测。

能耗降低：与现有的单出口能量感知 TinyML 方法（文献 [2]）相比，提出的多出口方法在保持相当精度的前提下，能耗降低了约 29.6%（在特定阈值设置下）。
任务完成量提升：在相同的能量收集条件下（如 2mA 电流），由于能耗降低，系统能够完成的推理流水线（Pipeline）数量显著增加。
电路效率：提出的 MOSFET 电源门控方案比传统负载开关方案在图像采集阶段节省了约 34% 的能量。
阈值敏感性：实验分析了模糊阈值 $(\gamma_1, \gamma_2)$ 对精度和能耗的影响。较宽的模糊区间（更多样本进入 EX2）提高了精度但增加了能耗；较窄的区间则反之。系统可根据应用场景灵活调整。
适应性：在变化的光照条件（模拟不同能量收集率）下，自适应启动时间规则（Adaptive start time rule）比固定启动时间规则能更有效地利用能量，减少任务丢失。

5. 意义与影响 (Significance)

推动 ZEDs 的智能化：该研究证明了在完全无电池、依赖环境取能的设备上运行复杂的感知任务（如目标检测）是可行的。
解决“精度 - 能耗 - 内存”三角矛盾：提出了一种无需存储多个模型即可实现动态精度调整的新范式，为资源极度受限的边缘设备提供了新的设计思路。
提升系统鲁棒性：通过软硬件协同设计（能量感知策略 + 低功耗电路），有效解决了间歇性供电导致的掉电问题，提高了设备的可靠性和寿命。
实际应用价值：该方法适用于环境监测、智能建筑、可穿戴设备等需要长期无人维护且依赖环境取能的场景，为实现真正的“零能耗”智能感知系统奠定了基础。

总结：本文通过结合多出口神经网络架构、动态能量管理策略以及定制的低功耗硬件电路，成功在零能耗设备上实现了一种高效、鲁棒且高精度的目标检测系统，显著提升了单位能量下的任务处理能力。