技术摘要：Music102——一种用于和弦进行伴奏的 D12 等变 Transformer

问题陈述

本文探讨了为流行音乐中给定的单轨旋律生成伴奏和弦进行的挑战。尽管生成式人工智能在视觉领域已取得显著进展，但音乐制作仍是机器智能的前沿领域。先前的尝试，如原型 Music101，利用标准 Transformer 架构从旋律预测和弦进行。然而，这些模型未能充分利用音乐固有的数学对称性，导致其性能不足以应用于现实世界。作者指出，标准深度学习架构缺乏关于音乐对称性的归纳偏置，具体而言是移调（音高移位）和反射（大调与小调之间的模式转换），这两者是音乐理论和群论的基础。

方法论

核心贡献是 Music102，这是一种基于 Transformer 的模型，旨在实现 $D_{12}$ 等变。这意味着当输入旋律经历移调或反射时，模型的输出会以可预测的方式变换，遵循二面体群 $D_{12}$ 的数学属性。

1. 数学基础

该模型建立在十二平均律理论之上，将一个八度划分为 12 个音级。

• 移调 ($T_i$)：音级圆上的旋转操作（同构于循环群 $C_{12}$）。
• 反射 ($R$)：交换大调和小调模式的镜像操作。
• 群作用：移调和反射的组合构成了二面体群 $D_{12}$。该模型确保如果输入旋律被群元素 $g$ 变换，预测的和弦进行也将被相同的 $g$ 变换。

2. 架构与等变层

Music102 修改了标准 Transformer 骨干网络（Music101 所用），以满足等变条件 $A D_{perm} = D_{perm} A$，其中 $D_{perm}$ 是 $D_{12}$ 在 12 维音高空间上的置换表示。关键的架构调整包括：

• 嵌入与预处理：旋律和和弦序列根据音级存在情况被向量化为 $\mathbb{R}^{12}$。预处理层利用预计算的、正交的基变换矩阵 ($U^{(a)}$)，将这些向量映射到 $D_{12}$ 的不可约表示中。
• 等变线性层：遵循舒尔引理，线性层被限制为仅在相同的不可约表示通道内操作，混合多重性而非混合不同的对称通道。
• 等变非线性：标准的逐元素激活函数（如 ReLU）在不可约基下不与置换交换。该模型实现了一种特定的非线性：$\sigma(h^{(a)}) \to U^{(a)}\sigma((U^{(a)})^\top h^{(a)})$，确保该操作保持等变性。
• 等变位置编码：标准正弦位置编码通过基变换矩阵进行投影以适应，确保编码在群作用下正确变换。
• 等变自注意力：注意力机制的设计使得注意力权重在群变换下保持不变，而值向量则等变地变换。
• 等变层归一化：归一化在置换基中执行（通过逆变换），以确保均值和方差的计算与群作用一致。

3. 训练与损失

该模型在 POP909 数据集（909 首中文流行歌曲）上进行训练。损失函数为加权二元交叉熵，在和弦变化的时间步分配更高的权重，以强调对和弦转换的预测。

关键结果

实验比较了 Music102 与非等变原型 Music101。尽管 Music102 的参数数量显著更少（约 76 万对约 685 万），但它在所有指标上均优于基线模型：

• 加权 BCE 损失：从 0.5807 (Music101) 降低至 0.5652 (Music102)。
• 余弦相似度：从 0.6638 提升至 0.6727。
• 精确准确率：从 0.1141 显著提升至 0.1783。

作者指出，非等变基线在尝试使用范数门控非线性（常见于其他等变模型如 Equiformer）时，由于输入数据的稀疏性而面临数值稳定性问题。Music102 中提出的基于置换的方法提供了一种稳定的替代方案。

意义与主张

本文声称提出了首个基于 Transformer 的 seq2seq 模型，该模型明确将词级对称性（音级置换）纳入音乐生成的输入和输出嵌入中。

• 理论整合：它成功地将群论（特别是 $D_{12}$）与深度学习架构架起桥梁，证明了标准 Transformer 组件（自注意力、层归一化、位置编码）可以适应离散的音乐领域。
• 效率：结果表明，通过等变性编码先验音乐知识可带来更好的数据和计算效率，以更少的参数实现更高的准确率。
• 未来潜力：作者认为，Music102 为未来的等变音乐生成和计算作曲工具建立了一个灵活且稳定的框架，超越了简单的模式匹配，转向尊重音乐数学结构的模型。

该工作并未声称解决生成完整古典交响乐的“圣杯”问题，但证明了对于和弦伴奏等特定任务，利用音乐对称性是迈向实用 AI 音乐应用的关键一步。