技術概要：和声進行伴奏のための D12 等変換トランスフォーマー Music102

問題定義

本論文は、ポップミュージックにおいて与えられた単一トラックのメロディに伴奏する和声進行を生成するという課題に取り組んでいる。生成 AI が視覚分野で著しく進展した一方で、音楽制作は機械知能にとって未開拓の領域のままとなっている。以前の試み、例えばプロトタイプ Music101 は、メロディから和声進行を予測するために標準的なトランスフォーマーアーキテクチャを利用していた。しかし、これらのモデルは音楽に内在する数学的対称性を十分に活用できず、実世界での応用には不十分な性能にとどまった。著者らは、標準的な深層学習アーキテクチャが、音楽理論および群論の基礎である転調（ピッチのシフト）と反転（長調と短調間のモード変更）という音楽的対称性に関する帰納的バイアスを欠いていると特定している。

手法

中核的な貢献は、$D_{12}$ 等変換となるように設計されたトランスフォーマーベースのモデル Music102 である。これは、入力メロディが転調または反転を受けた際、モデルの出力が予測可能に変換され、二面体群 $D_{12}$ の数学的性質に準拠することを意味する。

1. 数学的基盤

このモデルは、12 の音階クラスにオクターブが分割される平均律の理論に基づいている。

• 転調 ($T_i$): 音階クラス円上の回転操作（巡回群 $C_{12}$ に同型）。
• 反転 ($R$): 長調と短調のモードを入れ替える鏡像操作。
• 群作用: 転調と反転の組み合わせが二面体群 $D_{12}$ を形成する。このモデルは、入力メロディが群要素 $g$ によって変換された場合、予測される和声進行も同じ $g$ によって変換されることを保証する。

2. アーキテクチャと等変換層

Music102 は、等変換条件 $A D_{perm} = D_{perm} A$ を満たすために、Music101 で使用された標準的なトランスフォーマーバックボーンを修正する。ここで $D_{perm}$ は、12 次元のピッチ空間における $D_{12}$ の置換表現である。主要なアーキテクチャの適応点は以下の通りである：

• 埋め込みと前処理: メロディと和声のシーケンスは、音階クラスの存在に基づいて $\mathbb{R}^{12}$ へベクトル化される。前処理層は、これらのベクトルを、事前に計算された直交基底変換行列 ($U^{(a)}$) を用いて、$D_{12}$ の既約表現へマッピングする。
• 等変換線形層: シュアの補題に従い、線形層は同じ既約表現チャネル内でのみ動作するように制約され、異なる対称性チャネルを混合するのではなく、重複度を混合する。
• 等変換非線形性: 標準的な要素ごとの活性化関数（ReLU など）は、既約基底における置換と可換ではない。モデルは、操作が等変換性を保つように、特定の非線形性 $\sigma(h^{(a)}) \to U^{(a)}\sigma((U^{(a)})^\top h^{(a)})$ を実装する。
• 等変換位置符号化: 標準的な正弦波位置符号化は、基底変換行列を通じて投影することで適応され、群作用の下で符号化が正しく変換されるようにする。
• 等変換自己注意: 注意機構は、注意重みが群変換の下で不変でありながら、値ベクトルが等変換的に変換されるように設計されている。
• 等変換レイヤー正規化: 正規化は、平均と分散の計算が群作用と整合性を持つよう、置換基底（逆変換を介して）で行われる。

3. 学習と損失関数

このモデルは、POP909 データセット（909 曲の中国語ポップソング）で学習される。損失関数は重み付き二値交差エントロピーであり、和声が変わるタイムステップに高い重みが割り当てられ、和声遷移の予測を強調する。

主要な結果

実験では、非等変換のプロトタイプ Music101 と Music102 を比較した。Music102 はパラメータ数が大幅に少ない（約 76 万対約 685 万）にもかかわらず、すべての指標でベースラインを上回った：

• 重み付き BCE 損失: Music101 の 0.5807 から 0.5652 (Music102) に減少。
• コサイン類似度: 0.6638 から 0.6727 に改善。
• 完全一致精度: 0.1141 から 0.1783 に大幅に改善。

著者らは、非等変換のベースラインが、入力データのスパース性により、他の等変換モデル（Equiformer など）で一般的に使用されるノルムゲート型非線形性の使用において数値的安定性に苦しんだと指摘している。Music102 で提案された置換ベースのアプローチは、安定した代替手段を提供した。

意義と主張

本論文は、音楽生成の入力および出力埋め込みの両方に語彙レベルの対称性（音階クラスの置換）を明示的に組み込んだ、最初のトランスフォーマーベースの seq2seq モデルを提示すると主張している。

• 理論的統合: 群論（特に $D_{12}$）と深層学習アーキテクチャを成功裡に橋渡しし、標準的なトランスフォーマーコンポーネント（自己注意、レイヤー正規化、位置符号化）が離散的な音楽ドメインに適応可能であることを実証している。
• 効率性: 結果は、等変換性を通じて事前の音楽知識を符号化することが、より良いデータ効率と計算効率につながり、少ないパラメータで高い精度を達成することを示唆している。
• 将来の可能性: 著者らは、Music102 が、単純なパターンマッチングを超えて音楽の数学的構造を尊重するモデルへと進む、将来の等変換音楽生成および計算作曲ツールのための柔軟かつ安定したフレームワークを確立すると提唱している。

この研究は、完全なクラシック交響曲を生成するという「聖杯」を解決するものではないと主張しているが、和声伴奏のような特定のタスクにおいては、音楽的対称性を活用することが、実用的な AI 音楽応用への重要な一歩であることを実証している。