🤖 machine learning

Complex-Valued Phase-Coherent Transformer

本文介绍了相位相干 Transformer（PCT），这是一种新颖架构，它用基于 L2 归一化复数相似度的平滑且与元素无关的门控机制取代标准 softmax 注意力以保留相位信息，从而在各类长程及复数任务中，相较于实数基线及现有复数基线实现了更优越的泛化能力与性能。

原作者： Leona Hioki

发布于 2026-05-12

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Leona Hioki

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在试图整理一座庞大的图书馆，其中每一本书都附带着一个秘密的“相位”或隐藏的节奏。在人工智能领域，这就像处理复值神经网络。这些网络之所以强大，是因为它们能够处理这种额外的“相位”信息（例如声波的时序或信号的方向），但它们在处理阅读文本或识别图像等通用任务时，一直难以发挥良好效果。

根据这篇论文，主要问题在于这些网络组织信息的标准方式就像一场竞争性的真人秀。

问题：“令牌竞争”真人秀

在标准 AI 模型（Transformer）中，当模型查看一个句子时，它会使用一种称为Softmax 注意力的机制。不妨将其想象为一场真人秀，句子中的所有单词（令牌）都是参赛者。它们都在争夺有限的“注意力总量”（就像一个奖金池）。模型迫使它们相互竞争，以确保总注意力加起来达到 100%。

问题所在： 在复值网络中，“相位”（即隐藏的节奏）至关重要。如果你迫使这些参赛者相互竞争，你实际上是在告诉它们：“如果你赢了，就必须让其他人输掉。”这种竞争会打乱微妙的相位关系。这就像试图让一群舞者保持完美同步，却强迫他们为了争夺聚光灯而互相争斗。论文认为，这种“令牌竞争”破坏了复值网络正常工作所需的关键信息。

解决方案：相位相干 Transformer (PCT)

作者提出了一种新模型，称为相位相干 Transformer (PCT)。与其说是真人秀，不如想象成一支协作的管弦乐队。

没有争斗： 在 PCT 中，单词之间不进行竞争。每个单词都可以独立地表达其内容。
平滑门控： 模型不使用激烈的竞争，而是使用“平滑门控”（一种称为 sigmoid 的数学函数）。不妨将其想象为每个单词的音量旋钮。如果一个单词相关，旋钮就调大；如果不相关，就调小。关键在于，调大一个旋钮并不会迫使另一个旋钮调小。
保持节奏： 由于单词之间没有争斗，隐藏的“相位”信息在网络层中流动时不会被打乱。这就像在接力赛中传递接力棒，跑步者不会因为忙于推搡旁边的人而掉落接力棒。

实验：对管弦乐队的测试

作者将这支新的“管弦乐队”与旧的“真人秀”模型在 9 项不同的挑战中进行了测试，范围从记忆长串数字到图像分类和解码无线电信号。

以下是他们的发现，使用了简单的类比：

“大海捞针”测试 (NIAH)： 想象一个拥有一百万本书的图书馆，你需要找到隐藏在中间的一特定句子。
- 旧复值模型： 完全失败（0% 成功率）。它们在噪音中迷失了方向。
- 旧实值模型： 完全失败。
- PCT： 每次都找到了那根针（100% 成功率）。这证明了，如果阻止复值网络相互争斗，它们确实可以比实值网络表现更好。
“复制记忆”测试： 想象要求模型记住一长串数字，并在稍后重复出来。
- 旧模型： 随着列表变长，它们忘记了所有内容。
- PCT： 完美记住了 5,000 个数字的列表。这表明，没有了“竞争”，网络能够保持信息的时间更长。
“深度”测试： 想象将网络堆叠得越来越深（增加更多层）。
- 旧复值模型： 通常，随着层数增加，信号会变得如此嘈杂，导致模型崩溃（就像耳语在经过 20 个人传递后消失一样）。
- PCT： 即使在 20 层深度也能完美工作。它没有崩溃。无论增加多少乐手，“管弦乐队”始终保持同步。
“无线电信号”测试： 他们在真实的无线电信号数据（复信号）上测试了该模型。
- 结果： PCT 表现非常出色，击败了旧的复值模型。有趣的是，另一种不同的“非竞争性”实值模型（称为 real_screen）在这项特定任务上略胜一筹，这表明虽然 PCT 是一个巨大的飞跃，但在特定的物理领域仍有调整空间。

魔法背后的“原因”

论文深入探讨了 PCT 为何有效，并确定了两条黄金法则：

无令牌竞争： 不要强迫数据点争夺注意力。
相位保持： 不要删除信号的“负”或“反相”部分。

他们通过故意打破这些规则进行了测试：

如果他们使用删除负信号的“门控”（如"ReLU"门控），模型就会崩溃并完全失败。
如果他们使用过于狂野且无界的门控，模型就会挣扎。
但如果他们保持门控平滑且非竞争性（如 PCT），模型就会蓬勃发展。

结论

这篇论文声称，复值 AI 迄今为止未能成为“通用”工具的原因在于，我们一直试图强迫它遵守为简单实值 AI 设计的规则（即“竞争”规则）。

通过切换到相位相干 Transformer，让信息在没有强制竞争的情况下流动，复值网络终于可以实现泛化。它们处理长记忆、深度推理和复杂信号的能力，可以与传统模型相媲美，有时甚至更胜一筹。作者得出结论，这种“非竞争性”方法是解锁复值 AI 真正潜力的关键。

技术摘要：相位相干 Transformer（PCT）

1. 问题陈述

复数神经网络（CvNNs）历史上一直局限于信号处理领域（例如 MRI、无线通信），在这些领域中相位信息是固有的。它们作为文本、视觉和推理等通用架构的采用受到限制。该论文指出了一个具体的架构瓶颈：现有的复数 Transformer 在很大程度上继承了来自实数架构的softmax 注意力机制。

作者认为，softmax 注意力依赖于行归一化的 token 竞争，即行内的注意力权重之和为一。这种结构与复数计算根本不兼容，因为复数计算要求在各层之间保留相位信息。softmax 强加的"token 竞争”引入了一种耦合，破坏了相位叠加，导致一种“复数惩罚”，即普通的复数 Transformer 表现不如其实数对应物，特别是在长程依赖任务上。

2. 方法论：相位相干 Transformer（PCT）

为了解决这一问题，论文提出了相位相干 Transformer（PCT），这是一种旨在跨层保留相位相干性的新注意力原语。

核心机制

PCT 用token 非竞争注意力机制取代了行归一化的 softmax：

基底：它利用原生的复数线性投影来生成查询（ $Q$ ）、键（ $K$ ）和值（ $V$ ）。
归一化：查询和键进行 L2 归一化（ $\bar{q}, \bar{k}$ ）。
评分：注意力分数源自归一化向量内积的实部： $s_{ij} = \text{Re}\langle \bar{q}_i, \bar{k}_j \rangle \cdot \sqrt{d}$ 。
门控：PCT 不使用 softmax，而是对分数应用实值的、元素独立的、平滑的门控。主要实例使用带有可学习偏置（初始化为 $-\log N$ ）的sigmoid函数：
$\alpha_{ij} = \sigma(s_{ij} + b)$
聚合：输出计算为复数值的加权和： $\text{out}_i = W_o \sum_{j} \alpha_{ij} v_j$ 。

关键在于没有行归一化。这允许 token 独立地关注，保留了复数值的相位叠加，避免了由 softmax 的竞争归一化引起的破坏性干扰。

理论框架：两级相位相干性

论文通过由门控函数 $f$ 的四个条件定义的“两级相位相干性”框架形式化了 PCT 的成功：

C1：门控输出为实数值。
C2：门控在操作范围内有界。
C3：门控是平滑的且具有非零梯度（保留反相分量）。
C4：门控是元素独立的（无行耦合）。

第 1 级（L1）相干性：由 C1 和 C4 满足，确保每层的相位关系得以保留（无 token 耦合）。
第 2 级（L2）相干性：由 L1、C2 和 C3 满足，确保相位噪声不会在深层堆栈中指数级累积。论文证明，违反 C3（例如使用 ReLU）会导致灾难性的级联失效，而违反 C2（例如无界门控）则导致部分退化。

3. 实验设置

作者在 9 个中等规模基准测试上进行了系统的6 单元比较，确保了参数公平性（ $\text{real\_dim} = \text{complex\_dim} \times 1.41$ ）。

6 个单元：

real_softmax：标准 Transformer 基线。
real_sigmoid：实值 sigmoid 注意力。
real_screen：实值筛选注意力（Nakanishi 2026）。
complex_softmax：普通复数 Transformer（幅值的 softmax）。
complex_screen：带有硬阈值门控的复数变体（部分违反 C3）。
PCT (complex_sigmoid)：所提出的架构。

基准测试：

合成/算法类：复制记忆（短/长程）、大海捞针（NIAH）、LRA-ListOps、FFT-MNIST、Phase-Memory、Multi-Pitch。
现实世界类：RadioML（调制分类）、MusicNet。
深度扩展：深度从 2 到 20 的测试。

4. 关键结果

泛化与性能

优于普通复数模型：PCT 在所有任务上始终优于 complex_softmax。在长程复制任务上，complex_softmax 崩溃至随机水平，而 PCT 实现了 1.000 的准确率。
优于实数基线：在参数公平条件下，PCT 在所有测试任务上均优于 real_softmax，包括长程检索和算法推理。
与最强实数基线的竞争力：PCT 在合成和算法任务上匹配或超过了 real_screen（最强的非 softmax 实数基线）。在物理复数域任务（RadioML）上，real_screen 略优于 PCT，但 PCT 仍显著优于 complex_softmax。

具体任务发现

NIAH（大海捞针）：PCT 在 NIAH（L=2048）上实现了 1.000 的准确率，这是一个复数 Q/K 不提供归纳优势（纯位置性）的任务。这反驳了复数网络在此类任务上天生较弱的观点；失败是由于注意力机制而非基底。
长程鲁棒性：PCT 在长程复制任务中对超参数变化（学习率和批量大小）具有独特的鲁棒性，在其它单元失效的广泛窗口内保持 1.000 的准确率。
深度扩展：PCT 在深度 2 到 20 的范围内没有深度相关的准确率崩溃。准确率保持稳定，解决了关于深层复数网络中相位噪声累积的长期担忧。

消融与隔离

门控违规：故意违反 PCT 条件的门控实验证实了理论框架：
- 违反 C3（反相删除）：如 ReLU 或钳位 ReLU 之类的门控会导致长程任务立即崩溃至随机水平，无论深度如何。
- 违反 C2（无界性）：如 Cubic（在操作范围内无界）之类的门控会导致显著的性能下降（例如，在复制任务上从 1.000 降至 0.200），但如果 C3 完好，则不会导致完全崩溃。
基底鲁棒性：复数基底是必要的，但没有单个组件（Q、K、V 或输出）是不可约简地负责的；只要保留复数性质，该架构对参数化选择具有鲁棒性。

5. 意义与主张

论文声称，引入token 非竞争注意力和多层相位保留使得复数神经网络能够超越其传统的信号处理领域进行泛化。

架构原则：主要贡献在于指出softmax 在结构上与保留相位的复数计算不兼容。softmax 固有的"token 竞争”是一种不必要的约束，会破坏相位相干性。
设计指南：论文建立了“接近 PCT"的分类法。满足 C1–C4 条件（或部分/绕过违规）的架构泛化良好，而严格违规（如 ReLU 或 Softmax）的架构则失败。
适度范围：作者明确指出，虽然 PCT 在测试基准上展示了强大的泛化能力，但他们并未声称存在深度的定量扩展定律（例如 Chinchilla 风格）。该主张是定性的：PCT 消除了之前在复数网络中观察到的深度崩溃失效模式。
未解问题：论文指出了一个异常现象，即 real_screen 在 RadioML 任务上优于 PCT，将其标记为关于物理复数域数据特定机制的未解问题，但这并不否定核心的反 softmax 主张。

总之，论文认为，对于复数 Transformer 而言，泛化的关键不仅仅是将实数组件移植到复数空间，而是重新设计注意力原语以尊重相位相干性的结构要求。