⚡ electrical engineering

Discrete-Space Generative AI Pipeline for Semantic Transmission of Signals

本文介绍了名为"Discernment"的语义通信系统，该系统利用离散空间生成式 AI 模型，通过根据信道擦除模式动态切换自回归或扩散生成算法，在信道容量严重退化的情况下仍能保持语义完整性，展现出适用于物联网部署的高谱效与低复杂度优势。

原作者： Silvija Kokalj-Filipovic, Yagna Kaasaragadda

发布于 2026-02-17

📖 1 分钟阅读☕ 轻松阅读

原作者： Silvija Kokalj-Filipovic, Yagna Kaasaragadda

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文介绍了一种名为 Discernment（洞察） 的新型通信系统。为了让你轻松理解，我们可以把传统的通信方式比作“寄快递”，而 Discernment 则像是一种“会读心术的魔法信使”。

1. 传统通信 vs. 语义通信：寄快递 vs. 寄“感觉”

传统通信（寄快递）：
想象你要给朋友寄一张照片。传统的做法是把照片切成几百万个像素点（比特），打包成一个巨大的箱子，通过快递寄过去。如果快递路上丢了一个箱子（信号干扰），照片就会缺了一块，朋友收到的可能是一张破破烂烂的图。为了保险，快递员（通信协议）会拼命确保每一个像素都原封不动地送到，不管朋友其实只需要知道“这是一只猫”还是“这是一条狗”。
Discernment（寄“感觉”）：
Discernment 的做法完全不同。它不寄照片本身，而是寄**“这张照片的意思”。
想象你告诉朋友：“这是一只橘猫，在睡觉。”
朋友收到这句话后，不需要看到照片，他脑海里有一本“万能画册”（这就是论文里的 AI 模型）。他根据这句话，结合自己的经验，在脑海里“画”出了那只橘猫。
核心优势： 即使路上丢了一半的信件（比如只收到了“这是一只...在睡觉”），朋友依然能猜出大概是一只猫，而且画出来的猫依然很像。这就是语义通信**：传输的是“意义”，而不是死板的“数据”。

2. 核心技术：把信号变成“乐高积木”

为了让 AI 能“读心”，Discernment 做了一步很关键的转换：

VQVAE（翻译官）：
无线电波或声音是连续的、复杂的（像是一团乱麻的线）。Discernment 先用一个“翻译官”（VQVAE 模型）把这些复杂的信号，拆解成一个个标准的**“乐高积木”**（离散令牌/Token）。
- 比如，一段无线电波变成了 [积木 A, 积木 B, 积木 C, 积木 D...] 这样的序列。
- 这样，原本巨大的数据量就变小了，而且变成了 AI 容易处理的“积木”。

3. 智能应对：根据路况换“交通工具”

论文中最精彩的部分是，Discernment 知道快递路上可能会出问题（比如丢包、截断），它会根据丢包的样子，自动切换两种“补全”策略：

策略 A：自动补全（像写小说）—— 适用于“截断”

场景： 快递只送到了前一半，后面全丢了（比如只收到了 [积木 A, 积木 B]，后面没了）。
工具： 自回归模型（DoT）。
比喻： 这就像你只给了 AI 一个故事的开头，它擅长**“顺藤摸瓜”**。它会根据前两个积木，猜出第三个、第四个……就像写小说一样，一个接一个地往后写，直到把故事补全。
适用： 信号被截断，后面全没了的情况。

策略 B：随机修复（像玩填字游戏）—— 适用于“乱丢”

场景： 快递在路上被撕得乱七八糟，有的积木丢了，有的还在，顺序也乱了（比如收到了 [积木 A, 丢失, 积木 C, 丢失, 积木 E]）。
工具： 扩散模型（SEDD）。
比喻： 这就像玩**“填字游戏”或者“修图”。AI 看到一堆散落的积木和空缺的坑，它不是按顺序猜，而是同时**看着所有空缺，利用它脑子里的“万能画册”，一次性把缺失的积木填进去。
适用： 信号随机丢失、乱序的情况。

4. 为什么这很厉害？（实验结果）

研究人员用无线电波（像手机信号）和音频（像人说话）做了测试：

极度省流量： 即使只发送了 3% 的数据（比如 100 个积木只发了 3 个），接收端的 AI 依然能猜出 99% 以上的正确意思。
** graceful degradation（优雅降级）：** 传统方法如果丢包太多，信号就彻底废了（像照片全黑了）。但 Discernment 即使丢包很多，虽然画出来的猫可能稍微有点模糊，但依然能认出是猫，而且随着丢包增加，性能是慢慢下降的，不会突然崩盘。
适合物联网（IoT）： 因为这种“只发意思”的方法非常省数据，而且 AI 模型很轻量级，非常适合那些电池小、算力弱的设备（比如智能传感器），让它们能把信号传给云端的大脑去处理。

总结

Discernment 就像是一个聪明的信使。
它不再死板地搬运所有货物（数据），而是提取货物的灵魂（语义）。
如果路上堵车或丢货，它不会惊慌，而是利用它脑子里的**“超级百科全书”**（GenAI 模型），根据剩下的碎片，现场重新创作出原本货物的样子。

传统通信： 必须把整张画完好无损地寄到，否则就是垃圾。
Discernment： 只要寄来几个关键词，接收方就能在脑海里完美还原出整张画，哪怕路上丢了一半的关键词。

这项技术让未来的通信更聪明、更抗干扰，特别适合在信号不好或带宽有限的地方（比如物联网、偏远地区）使用。

论文技术总结：基于离散空间生成式 AI 的信号语义传输管道 (Discernment)

1. 研究背景与问题 (Problem)

语义通信 (Semantic Communication) 旨在传输消息的“含义”而非原始比特，这与传统通信追求低误码率传输任意比特不同。然而，现有的语义通信研究存在以下局限性：

领域受限：现有应用多局限于视觉、语音或文本，缺乏对广泛物理信号（如射频 RF 和音频）的通用语义传输研究。
计算复杂度高：现有的生成式 AI (GenAI) 模型通常计算量大、功耗高，难以在资源受限的物联网 (IoT) 设备上部署。
信道适应性差：缺乏针对特定物理信道损伤（如丢包、截断）的动态适应机制。

核心问题：如何构建一个计算高效、能够适应不同物理信道损伤（特别是擦除信道），并能有效传输射频和音频信号语义的通用框架？

2. 方法论 (Methodology)

论文提出了名为 Discernment 的语义通信系统。该系统利用离散空间 (Discrete Space) 的生成式 AI 模型，通过动态切换生成算法来应对信道损伤。

2.1 系统架构流程

Discernment 采用两阶段架构：

离散化编码 (Discretization)：
- 使用 VQ-VAE (Vector Quantized Variational Autoencoder) 将高维连续信号（RF 基带信号或音频频谱图）映射为离散的 Token 序列 ( $z_Q$ )。
- 编码器将输入信号映射到码本 (Codebook) 中的最近邻向量，输出为整数索引序列。
- 解码器根据接收到的 Token 索引重建原始信号。
生成式语义传输 (Generative Semantic Transmission)：
- 发送端仅传输部分 Token 子集（受信道容量限制）。
- 接收端利用训练好的 GenAI 模型，根据接收到的 Token 和任务目标，推断并补全缺失的 Token（即“擦除”部分）。
- 补全后的 Token 序列送入 VQ-VAE 解码器重建信号，并执行下游任务（如分类）。

2.2 核心模型与信道适配策略

系统根据信道损伤模式（擦除类型）动态选择两种生成模型之一：

自回归模型 (Decoder-only Transformer, DoT)：
- 适用场景：截断信道 (Truncation)，即接收端只收到序列的前缀（如延迟限制导致后续数据丢失）。
- 机制：基于已接收的 Token 序列，自回归地预测后续 Token。
- 架构：使用轻量级模型（如 NanoGPT, MONAI）。
离散扩散模型 (Score Entropy Discrete Diffusion, SEDD)：
- 适用场景：随机擦除/打孔信道 (Puncturing/Random Erasure)，即序列中随机位置的 Token 丢失。
- 机制：基于掩码去噪 (Mask-and-Replace)。将接收到的缺失 Token 替换为掩码符号，模型并行预测所有被掩码的 Token。
- 优势：相比自回归模型，SEDD 具有更低的延迟和更低的模型复杂度，且对随机丢失模式具有极强的鲁棒性。

2.3 数据集与任务

RF 信号：TorchSig 数据集，包含 6 种调制方式 (4ASK, 8PAM, 16PSK, 32QAM-X, 2FSK, OFDM256)。
音频信号：AudioMNIST 数据集，包含 0-9 的数字语音。
评估指标：分类准确率 (Classification Accuracy)、统计保真度 (Statistical Fidelity) 和 F1 分数。

3. 关键贡献 (Key Contributions)

首个跨域离散语义通信框架：首次将离散空间的生成式 AI 应用于射频 (RF) 和音频信号的语义传输，突破了以往仅限于文本或图像的局限。
动态信道适配机制：提出了根据信道擦除模式（截断 vs. 随机丢失）自动切换自回归 (DoT) 或扩散 (SEDD) 生成策略的机制，显著提升了系统在恶劣信道下的鲁棒性。
轻量化与高效性：
- 利用 VQ-VAE 将高维信号压缩为离散 Token，降低了生成模型的输入维度。
- 证明了 SEDD 在离散信号生成中比传统 Transformer 具有更低的计算复杂度和更好的并行生成能力。
- 模型轻量，适合 IoT 设备部署。
语义完整性保持：即使在信道容量严重退化（高擦除率）的情况下，系统仍能保持极高的任务相关语义（如调制识别或数字识别）的完整性。

4. 实验结果 (Results)

RF 信号 (Torchsig)：
- 在 DoT-Discernment 系统中，即使接收到的 Token 比例极低（如 $\epsilon=0.875$ ，即仅接收 12.5% 的数据），分类准确率仍能保持接近 100%。
- 随着接收上下文长度增加，F1 分数和保真度表现优异。
音频信号 (AudioMNIST)：
- 在 $\epsilon \le 0.5$ (接收 50% 数据) 时达到满分类准确率。
- 较大的码本大小 ( $N$ ) 反而能更早地恢复任务语义，尽管这增加了 Token 预测的不确定性（这是一个反直觉的发现，需进一步研究）。
SEDD 的卓越鲁棒性：
- 在随机擦除模式下，SEDD 表现惊人。当仅接收 11% 的 Token 时，准确率仅下降 0.02%；当仅接收 3% 的 Token ( $\epsilon=0.97$ ) 时，准确率仍高达 98.93%。
- 在 $\epsilon \le 0.8$ 的范围内，SEDD 的语义重建准确率与原始数据（100%）持平。
- 相比之下，纯生成任务（无上下文）中 SEDD 的准确率为 90%，而 DoT 为 99%+，但在语义重建任务中，SEDD 对信道损伤的容忍度远超 DoT。

5. 意义与展望 (Significance & Future Work)

IoT 部署潜力：Discernment 的低复杂度和高鲁棒性使其非常适合在带宽受限、信道质量不稳定的物联网场景中使用，允许边缘设备仅发送少量语义 Token，由云端或更强大的节点完成重建和任务处理。
范式转变：该研究推动了从“比特传输”向“意义传输”的范式转变，证明了生成式 AI 可以作为信道编码的一部分，直接对抗物理层损伤。
未来方向：
- 研究语义鲁棒性随潜在空间压缩率变化的规律。
- 探索计算复杂度与任务复杂度的缩放关系。
- 引入对比学习 (Contrastive Learning) 优化 VQ-VAE 的潜在空间，使语义相似的内容在空间中更聚集，进一步提升部分接收数据的补全效果。

总结：Discernment 通过结合离散潜在表示和自适应生成式 AI 模型，成功解决了在恶劣信道条件下传输物理信号语义的难题，为未来 6G 及物联网中的语义通信提供了强有力的技术验证。