Transmit Coefficients and Receive Combining Vector Design for OTA-FL with Imperfect CSI

想象一个这样的世界：你的智能手机、你的智能手表，以及你邻居的平板电脑，都想通过共同学习来变得更加聪明，但它们又不能分享彼此私密的照片或信息。这就是**联邦学习（Federated Learning, FL）**的核心——一种巧妙的方法，让许多设备可以在不向中央服务器发送任何个人数据的情况下，共同训练出一个共享的“大脑”。它们不需要邮寄作业，而只是将自己的“想法”（数学更新）来回传递。

现在，想象一下尝试在拥挤且嘈嘈杂杂的无线电波中大声喊出这些想法。如果每个人都同时大喊，他们的声音就会混杂在一起。这就是空中计算（Over-the-Air computation, OTA），一种将无线电波的混合视为一种特性而非缺陷的技术。通过同时发声，设备可以瞬间合并它们的想法，从而节省时间和电池。然而，这里有一个难点：无线电波是反复无常的。它们会撞击建筑物、逐渐消退，并受到环境的干扰。如果设备不知道无线电波的具体行为方式（这是一个被称为信道状态信息或 CSI 的概念），它们混合在一起的声音可能会变得模糊不清，从而毁掉整个学习过程。本文针对这些不完美的无线电波这一复杂现实进行了研究，以确保群体学习能够步入正轨。

伟大的无线电合唱团：修复噪音

在这项研究中，作者 Xiaoyan Ma 及其团队观察了一个特定的问题：当试图共同学习的设备没有完美的无线电波地图时，会发生什么？在现实世界中，了解信道的精确状态就像是在马拉松比赛中试图预测风向——风向总是在变化，你永远无法百分之百确定。以往的大多数研究都假设设备拥有完美、清晰的“风向图”，这在理论上很美好，但在实践中很少发生。

研究人员提出了一个宏大的问题：如果设备是在一个充满雾气的无线电信道中呐喊，我们如何确保它们组合在一起的声音依然足够清晰，足以教导全局模型？他们专注于最小化均方误差（Mean Squared Error, MSE），这本质上是一种衡量“信息被弄乱了多少”的高级方式。目标是让这种混乱在多次学习轮次中尽可能保持在较低水平，而不仅仅是针对单次呐喊。

两步舞曲：调节音量与耳朵

为了解决这个问题，团队设计了一个涉及设备（呐喊者）和中央服务器（倾听者）的两部分策略。

1. 呐喊者（传输系数）： 每个设备都需要决定喊多大声。如果喊得太大，会浪费电池；喊得太小，服务器又听不见。作者开发了一种方法，让每个设备根据其拥有的不完美无线电波图来计算完美的音量。他们意识到，如果地图是模糊的（不完美的 CSI），设备就应该更加谨慎，或许可以喊得稍微轻一点，以避免让噪音变得更糟。
2. 倾听者（接收合并向量）： 服务器拥有多个天线（就像拥有多只耳朵）。它需要弄清楚如何结合来自所有设备的混合信号，以重建原始信息。团队设计了一个特殊的数学“耳朵”，它知道如何过滤掉由模糊地图引起的静电噪音。

时空旅行问题与“虚拟队列”

故事在这里变得棘手了。团队提出的第一个解决方案非常聪明，但它需要时空旅行。为了计算今天的完美音量，设备需要知道未来每一轮学习的无线电状况。由于我们无法预知未来，这种“非因果”方法在理论上很棒，但在现实生活中却毫无用处。

为了解决这个问题，作者引入了一个使用 Lyapunov 优化 的巧妙技巧，他们通过虚拟队列的概念来解释这一点。想象每个设备都有一个关于电池消耗的“债务计表”。如果一个设备今天喊得太大声，计表就会上升。系统的任务是在长期内防止计表溢出。通过观察这个计表，设备可以根据它们在此时此刻所掌握的信息（因果 CSI），对现在该喊多大声做出明智的决策。这使得它们无需预见未来，就能进行长远规划。

研究发现

团队使用著名的图像数据集进行了测试，包括 Fashion-MNIST（识别衣物）、CIFAR-10（识别简单物体）和 CIFAR-100（识别更复杂的物体）。他们模拟了一个拥有 20 个设备和各种无线电噪声水平的世界。

他们的模拟实验表明，他们的新方法效果惊人。即使在无线电地图非常模糊（高信道估计误差）的情况下，他们的方法依然保持了极高的学习准确度。

• “完美”与“现实”的差距： 他们发现，即使在不完美的地图下，他们的方法表现也几乎与拥有完美地图时一样出色。准确度的下降微乎其微。
• 击败基础方案： 当他们将自己的方法与旧有的、较简单的策略（例如仅仅以固定的平均音量呐喊，或者试图通过加大音量来抵消噪音）进行比较时，他们的方案始终胜出。旧的方法经常会被噪音搞糊涂，导致生成的全局模型“语无伦次”，学习效果很差。
• 规模扩展： 他们还检查了增加更多设备（最多 40 个）时会发生什么。由于拥有了更多样化的数据，系统随着更多设备的加入而变得更好，并且他们的方法能够优雅地处理额外的噪音。

核心结论

本文并不声称已经解决了无线学习中的所有问题，但它提供了一种应对不完美无线电信号这一复杂现实的稳健且实用的方法。通过将长期能量消耗视为一个“债务计表”，并设计让设备根据当前已知信息进行智能呐喊与倾听，作者展示了我们可以构建既快速又具韧性的联邦学习系统。即使狂风大作、地图模糊，合唱团依然能唱出和谐的旋律。