⚡ electrical engineering

TinyML for On-Device and Edge Analytics in Wireless Networks: A Survey of Deployments, Opportunities, and Concept-Drift Mitigation

本文调研了微型机器学习（tinyML）在无线网络中的部署机遇与框架，并提出了一种基于联邦学习的方法，该方法通过专门机制来缓解概念漂移，并支持在电池供电及无电池边缘设备上的模型更新。

原作者： Prasoon Raghuwanshi, Vimal Bhatia, Sridhar Iyer, Matti Latva-aho, Onel Luis Alcaraz López

发布于 2026-07-01

📖 1 分钟阅读☕ 轻松阅读

原作者： Prasoon Raghuwanshi, Vimal Bhatia, Sridhar Iyer, Matti Latva-aho, Onel Luis Alcaraz López

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下无线网络（如 Wi-Fi、5G 以及未来的 6G）的世界，就像一座巨大且繁忙的城市。目前，这座城市的大部分“思考”过程都发生在被称为**云端（the Cloud）**的巨型中央摩天大楼里。每当你的智能手表、汽车或传感器需要做出决策时，它们都要向摩天大楼发送一条消息，等待回复，然后才能行动。

这篇论文认为，是时候在设备本身（即“终端设备”和“边缘节点”）内部构建微型智能大脑了。这项技术被称为 TinyML。

以下是该论文内容的简单拆解，使用了日常类比：

1. 什么是 TinyML？（“口袋大小的厨师”）

把标准的机器学习模型（例如运行在云端的那些模型）想象成一个标准五星级餐厅的厨房。它有巨大的烤箱、巨大的冰箱和一支 50 人的厨师团队。它可以烹饪任何东西，但它占用了一整栋建筑，且运行成本极其昂贵。

TinyML 就像是一位带着便携式露营炉的顶级大厨。

问题： 你无法把巨大的厨房塞进一个微小的背包里（比如你的手机或传感器）。
解决方案： TinyML 将那个巨大的食谱进行了压缩。它利用了一些技巧，比如剪枝（pruning）（剔除不必要的食材）、量化（quantization）（用更小、更简单的单位来测量食材）以及蒸馏（distillation）（教导一个小型的学生厨师去模仿那位大师级大厨）。
结果： 设备现在可以在现场直接进行“烹饪”（做出决策），而无需打电话给摩天大楼。这节省了能源，保护了隐私（数据留在本地），并且即使在互联网中断时也能正常工作。

2. 它被应用在哪里？（“已经开业的店铺”）

论文回顾了这种“便携式厨师”已经在无线网络中的应用场景：

智能过滤器： 相机不再将拍摄的每一张照片都发送到云端，而是先由设备进行检查。如果只是一堵模糊的墙，设备就会将其删除；如果看到了人，才会发送照片。这节省了带宽。
传感器修复器： 传感器（如温度计）随着时间的推移往往会变得“脾气暴躁”，给出异常的读数。TinyML 就像是传感器的私人教练，不断修正其读数，使其保持准确，而无需人工进行重新校准。
雷达之眼： 自动驾驶汽车使用雷达。通常，原始雷达数据对于车载计算机来说处理起来过于沉重。TinyML 让汽车能够瞬间处理这些数据，从而在雨天也能识别行人或其它车辆。
安全守卫： TinyML 可以驻留在网络路由器上，扮演类似保安的角色，立即识别可疑的流量模式（入侵者），并在其到达主服务器之前将其拦截。

3. 有什么新东西？（“未开发的领域”）

论文指出，在许多尚未被充分探索的新领域，这些微型大脑也可以发挥作用：

无线功率传输： 想象一下为无人机或医疗植入物进行无线充电。TinyML 可以充当智能指挥家，实时调整功率束，以确保即使在无人机移动或遇到障碍物时，也能高效地完成充电。
面向目标的通信： 设备不再发送它看到的所有内容，而是通过 TinyML 来决定该说什么。如果传感器正在监测一台机器，只有当机器出现异常行为时，它才会发送消息，而不是持续发送“一切正常”的数据流。
水下通信： 光在水下的表现很奇特。TinyML 可以充当翻译官，通过预测光线如何弯曲和散射，来研究如何在浑浊的水中清晰地传输信息。

4. 核心挑战：“概念漂移”（“变化的天气”）

这是最棘手的部分。想象一下，你训练了一位能够识别夏季水果的便携式厨师。但随后季节变换到了冬季，水果的外观发生了变化，这位厨师现在感到困惑并开始犯错。在数据科学中，这被称为概念漂移（Concept Drift）。世界在变，但模型却停滞不前。

论文提出了两种解决办法：

A. 针对电池供电的设备（“学习小组”）：

联邦学习（Federated Learning）： 设备不再将所有数据发送到云端进行模型重训，而是从自身的本地数据中学习。然后，它仅发送“学到的教训”（数学更新）到一个中央枢纽。该枢纽整合来自数千台设备的教训，创建一个更聪明的“全局模型”，再将其发回。
“微型化”的转折： 由于这些设备内存非常有限，论文提出了特殊的技巧，使这种训练在微型芯片上成为可能，例如梯度缩放（Gradient Scaling）（调整数学运算以防止微小数值丢失）和稀疏更新（Sparse Updates）（只更新大脑中最重要的部分，而非全部）。

B. 针对无电池设备（“间歇性工作者”）：
有些设备依靠能量采集（如太阳能或振动）运行。它们可能会有 10 秒钟的电力，然后断电一小时。

问题： 如果在设备更新其“大脑”的过程中发生断电，更新过程可能会损坏，导致设备“死亡”。
解决方案： 论文建议使用容错启动加载程序（Fault-Tolerant Bootloader）。你可以把它想象成一个安全网。
- 检查点（Checkpointing）： 设备会频繁保存进度，就像游戏存档一样。如果断电，它可以从上次保存的地方重启，而不是从头开始。
- 感知间歇性的更新： 设备知道如何以细小、安全的块来进行代码更新，确保即使在电力闪烁时，新代码也不会变得混乱。

总结

这篇论文是无线网络未来的路线图。它主张我们不应仅仅依赖巨大的云端服务器。相反，我们应该赋予我们的设备以 TinyML —— 即能够独立思考的小巧、高效的大脑。

现状： TinyML 已经在传感器、雷达和安全领域发挥作用。
未来潜力： 它可能会彻底改变无线充电、水下通信和智能资源管理。
障碍： 世界在变（概念漂移），因此这些微型大脑需要持续学习。
解决方法： 我们有了新的方法让它们进行本地学习（联邦学习）并应对电力中断（容错启动加载程序），确保它们永远保持聪明且可靠。

技术摘要：无线网络中面向设备端与边缘分析的 TinyML

1. 问题陈述

微控制器单元（MCU）在无线网络和物联网（IoT）设备中的激增，使得向普遍智能转变成为实现实时、自适应和自主运行的必然要求。然而，在这些资源受限的终端设备和边缘节点上部署机器学习（ML）面临着重大挑战：

资源约束： 终端设备通常具有有限的内存（千字节级的 RAM）、处理能力和能量（电池供电或依靠能量采集的无电池设备）。
动态环境： 无线网络在动态条件下运行，数据分布随时间发生变化，导致概念漂移（concept drift）。这使得预训练模型在没有重新训练的情况下会失效。
能量与连接性： 与中心化云端进行持续的数据分析连接是高能耗的，并会引入延迟。此外，无电池设备面临着间歇性的电力可用性问题，这使得模型更新和状态保存变得复杂。
文献空白： 现有的综述主要集中在模型压缩、硬件平台或特定的应用领域（如医疗保健、计算机视觉）。目前缺乏关于专门针对无线网络问题（特别是结合无电池设备以及通过联邦学习（FL）缓解概念漂移）的 TinyML 部署可能性的全面分析。

2. 研究方法

本文采用系统性的文献综述方法来识别、分析和综合现有研究，并提出新的部署途径。

检索标准： 作者在数据库（IEEE Xplore, Elsevier, Springer 等）中进行了搜索，关键词包括“无线网络”、“TinyML”、“MCU”、“设备端推理”以及“无电池终端设备”。
纳入/排除标准： 本文纳入了在无线背景下将 TinyML 实现于基于 MCU 的设备上的实证研究。排除了仅在云端实现的方案。
范围： 本综述涵盖了 146 项候选研究，分为以下类别：
1. 最先进的综述论文 (18)。
2. 面向低功耗设备的 TinyML 框架 (42)。
3. 无线网络中已开发与未开发的部署可能性 (63)。
4. 概念漂移缓解技术 (12)。
分析框架： 本文按目标硬件（边缘节点、电池供电设备、无电池设备）对 TinyML 算法进行分类，并分析其对特定无线任务的适用性。同时，本文提出了包括联邦学习（FL）和针对间歇性计算的具体技术在内的模型更新技术架构。

3. 核心贡献

A. TinyML 算法与框架综述

本文根据目标硬件约束对现有的 TinyML 解决方案进行了分类：

低功耗边缘节点： 利用 OnceNAS 和 权重因子化（Weight Factorization） 等框架执行任务，如协作频谱感知、自动调制分类（AMC）和无线信道估计。PoPS 等强化学习（RL）框架被用于 IoT 设备调度。
电池供电设备： 重点介绍了用于异常检测和语义编码的算法，如 内存感知混合（Memory-aware Hybrid）、TinyNS 和 TyCNN。经典的机器学习方法（决策树、随机森林）因其在 MCU 上的计算效率而被提及。
无电池终端设备： 由于严苛的能量约束，本文建议使用单类分类（通过特定类别的模型），并将复杂的 RL 训练转移到边缘节点，仅将动作发送至设备。LBPNet（使用位移代替卷积）和 Genesis（最小化工具）等框架被认为具有可行性。

B. 已开发的部署可能性（现有文献）

本文回顾了无线网络中 TinyML 应用的记录：

语义数据传输： 使用 TinyDL（例如 EtinyNet）根据语义查询对图像进行过滤后再进行传输，从而减少带宽占用。
传感器线性化： 在设备端对非线性传感器响应（如空气/光污染）进行校正，以提高数据质量并减少重传。
雷达处理： 在汽车雷达的目标检测中使用压缩 CNN，以保留传统点云处理中丢失的信息。
射频指纹识别与定位： 实现基于边缘的定位和室内定位（使用双向测距），降低延迟并增强隐私。
信号处理： 实现基于 TinyDL 的预失真器用于 MIMO-OFDM 发射机，以及为能量匮乏的接收机提供无 CSI 的数据符号检测。
安全： 在设备上嵌入网络入侵检测系统（NIDS），以实现基于特征和基于异常的本地攻击检测。

C. 未开发的部署可能性

作者识别了几个尚未充分探索的领域，在这些领域中 TinyML 可以提供显著益处：

近场无线能量传输 (WPT)： 使用 TinyDL 来估计系统特性（负载电阻、耦合系数）以实现无传感器接收器，管理多发射机系统中的 TX 线圈激活，以及检测无人机系统（UAS）中的非预期负载（ULD）。
反向散射辅助无线传感器网络 (WSNs)： 使用 TinyRL 优化反射系数以提高频谱效率。
面向目标的通信 (GoC)： 将 TinyRL 应用于动态监控和控制系统中的设备调度，以最小化查询响应或执行中的误差。
局部唤醒策略： 使用 TinyRL 管理无电池设备的占空比，以最大限度地减少错过报警事件的情况。
水下可见光通信 (UVLC)： 采用 TinyDL 进行信道估计，以对抗噪声和失真。
认知无线电网络： 利用 TinyDL 进行协作频谱感知（CSS），以及利用 TinyRL 在设备到设备（D2D）网络中进行分布式资源分配。

D. 通过联邦学习缓解概念漂移

本文提出了一个**联邦学习（FL）**框架，在不收集中心化数据的情况下更新 TinyML 模型，从而解决概念漂移问题：

电池供电设备：
- 中心化 TinyFL： 中心实体分发全局模型；设备执行设备端训练并传回可训练参数。
- 反向传播改进： 为了克服训练期间的内存限制，本文详细说明了三种技术：
  1. 梯度缩放（Gradient Scaling）： 对梯度进行重缩放，以稳定量化（int8）模型的优化过程。
  2. 稀疏更新（Sparse Update）： 仅更新参数的一个子集（例如偏置或最终层）以减少内存占用。
  3. Tiny 训练引擎（Tiny Training Engine）： 一种基于编译的方法，生成静态反向图，剪枝冗余算子并重新排序执行顺序，以最小化峰值内存和延迟。
无电池设备：
- 空中聚合（Over-the-Air Aggregation）： 利用波形叠加在传输过程中聚合模型参数。
- 间歇性感知修改操作（Intermittent-Aware Modify Operation）： 一种机制，用于处理当新代码块大于替换代码块时的分阶段代码更新，防止代码碎片化。
- 更新感知检查点（Update-Aware Checkpointing）： 将 SRAM 划分为堆栈和更新缓冲区区域，以便在断电期间保存状态。
- 容错引导加载程序（Fault-Tolerant Bootloader）： 一种支持检查点和无重启操作的引导加载程序，与基准方法（如 FLoRa）相比，显著降低了模型更新期间的能耗。

4. 结果与发现

改进后训练的性能：
- 梯度缩放： 使 int8 量化模型的精度恢复到与 fp32 模型相当的水平（例如，MCUNet-5FPS 在 Flowers 数据集上的精度：int8 为 84.5%，int8+scaling 为 89.1%）。
- 稀疏更新： 与更新最后 $k$ 层相比，减少了约 3.6 倍的额外内存占用，同时保持了高精度（~72% vs. ~70%）。
- Tiny 训练引擎： 与完整反向传播相比，将训练延迟降低了约 23 倍，并将峰值内存降低了约 21 倍（例如，MobileNetV2-w0.35：延迟从 8501ms 降至 373ms，峰值内存从 2939kB 降至 141kB）。
无电池更新： 所提出的框架通过使用间歇性感知修改操作和容错引导加载程序，将由于断电导致的模型更新任务重启所需的能量从约 67.5mJ（FLoRa 基准）降低到约 2.5mJ。它还实现了有限的总更新时间（~1350ms），而基准方法在此时会失败。
部署可行性： 本文证明了 TinyML 可以在严格的内存（kB）和能量约束下，在无线任务中实现高精度（例如，室内存在检测准确率为 99.5%，RF 指纹定位准确率约为 88%）。

5. 意义与主张

本文将自身定位为一项及时的、必要的综述，旨在弥合快速发展的无线网络中 TinyML 这一跨学科领域的空白。其意义在于：

全面的范围： 与以往的综述不同，它明确解决了 TinyML 与无电池设备以及低功耗边缘节点的集成问题，这对于未来的 6G 和可持续物联网至关重要。
概念漂移解决方案： 它提供了一个具体的、利用 FL 和专门的更新机制（检查点、容错引导加载程序）在资源受限环境中处理概念漂移的技术路线图。
未开发潜力： 它识别并详细阐述了特定的、此前被忽视的应用领域（如 WPT 优化、GoC、UVLC），在这些领域中 TinyML 可以解决关键的无线通信问题。
实际落地： 通过详细说明设备端训练（梯度缩放、稀疏更新）和间歇性计算的“如何做”，本文超越了理论讨论，提供了在边缘部署自适应智能的可操作工程策略。

作者总结道，虽然 TinyML 正趋于普及，但要实现其在 6G 网络中的全部潜力，需要解决与模型集成、数据集可用性、能量剖析以及可信决策相关的协议层挑战。