Attractive and Repulsive Pattern Control in Sequence Generation

技術要約：シーケンス生成における吸引的および反発的パターンの制御

問題提起
可変次マルコフ（VOM）モデルは、コンテキストの長さを適応させつつ、局所的な構文やスタイルを保持できるため、記号的なシーケンス生成において効果的である。しかし、長期的な継続において、これらのモデルはしばしば「トンネル」へと陥る。これは、高次のコンテキストの再帰、接尾辞の反復、あるいは局所的な周期性によって特徴付けられるアトラクターのような回廊である。このような自己再利用は、モデルの形式的なマルコフ次数を超えることがあり、多様性の崩壊を招く。メモリを削減したりノイズを加えたりすることでこれらの反復を打破できるが、それは同時に、生成器を有用なものにしている構造的な一貫性を損なうことにもなる。先行研究（BP-Regular）では、硬い正規制約（例：特定の長さより長いチャンクを禁止する）をオートマトンにコンパイルし、ブリーフ・プロパゲーション（BP）を用いて正確にサンプリングできることを示した。しかし、この手法はバイナリ（受理または拒否）であり、特定のパターンの確率をソフトに調整する能力を欠いていた。

手法
本論文では、**符号付きパターン制御（signed pattern control）**を導入する。これは、BP-Regularのインターフェースを拡張し、再帰に対するソフトで適応的、かつ対称的な制御をサポートするメカニズムである。

1. 符号付き再帰場（Signed Recurrence Field）: 候補シーケンス $x$ に対して、バイナリのオートマトンで受理または拒否する代わりに、非負の再帰活性化 $R(x)$ を計算する重み付き有限状態認識器を用いる。
2. 再重み付けサンプリング: サンプラーは、以下の再重み付けされた分布からサンプリングを行う：
   $$P_\beta(x) \propto P_0(x) \exp(\beta R(x))$$
   ここで、$P_0(x)$ は元のマルコフ分布であり、$\beta$ は結合スカラーである。
   • 負の結合 ($\beta < 0$): 認識されたパターンにペナルティを課し、厳密に禁止することなく過剰な反復を抑制する「恒常性（ホメオスタシス）」レジームを作り出す。
   • 正の結合 ($\beta > 0$): 認識されたパターンに報酬を与え、それらを制御されたアトラクターへと変える。
   • ゼロ結合 ($\beta = 0$): 未修正の生成器へと回帰する。
3. 適応的恒常性: 主要な実験では、ターゲットとなるパターンは固定されておらず、生成履歴から適応的にマイニングされる。システムは、複数の次数（$k \in \{2, 3, 4, 6, 8\}$）にわたって投影された $k$-gram（例：ピッチクラス）を追跡する。最近のウィンドウ内、あるいは生成の全期間を通じて過剰に活性化したパターンには、最近の頻度と生涯頻度の組み合わせに基づいた活性化強度が割り当てられる。
4. 正確なサンプリング: 重み付きオートマトンはBPファクターグラフに統合される。指数的な重み付け $\exp(\beta R)$ は常に正であるため、和積（sum-product）BPアルゴリズムは依然として正確な正規化質量と条件付き周辺分布を計算でき、これにより、ソフトな制約下でもサンプリングが数学的に正確であることを保証する。

主な貢献

• 統一された符号付き制御: 本論文は、硬い制約に使用される同一のオートマトン/BPインターフェースが、ソフトな符号付き制御のために再利用できることを示している。これにより、単一のメカニズムが、反発力（アンチ・コラップス）と吸引力（アトラクター・プローブ）の両方の機能を果たすことが可能になる。
• 恒常的なアンチ・コラップス: 過剰に活性化したパターンを動的に特定してペナルティを課すことで、基礎となる可変次モデルの構造を維持しながら、長期的な自己再利用を減少させる。
• アトラクター・プロービング: 正の分岐は、特定のパターンを意図的に吸引的または反発的に作り出し、測定するための制御された手法を提供する。
• 関心の分離: 本アプローチは、パターンの選択（何を制御するか）とサンプリングメカニズム（どのように制御するか）を分離しており、ターゲットとなるパターンをマイニングしたり、手動で作成したり、外部から供給したりすることを可能にする。

実験結果
このメカニズムは、再帰が聴覚的に意味を持ち、構造的に重要である領域である単音記号音楽を用いて評価された。実験は、6つの持続時間を持つソース（バッハとテレマン）と、5つのピッチのみのジャズ・ソロ（Weimar Jazz Database）を対象とした。

• 負の分岐（恒常性）:
  • 自己再利用の減少: ペナルティ・ブランチは、生成された8-gramの再利用率を大幅に減少させた（例：Bach coreデータにおいて4096イベント時に0.140から0.064へ低下）。
  • 多様性の向上: 生成された8-gramの実効数が増加し（例：3269から3728へ）、最長の反復接尾辞が減少した。
  • サポートの維持: 低次のサポート（2-gramおよび3-gram）は高い水準を維持し、訓練によってサポートされたコンテキストのカバー率はわずかな低下（1〜3パーセントポイント）にとどまった。
  • コスト: このメカニズムは、静的なモデル損失の増加と計算オーバーヘッド（適応型認識器の再構築により、イベントあたり約4倍遅くなる）をもたらしたが、正確なサンプリングは維持された。
• 正の分岐（アトラクター・プローブ）:
  • 固定モチーフ・プローブは、特定のパターンを意図的に吸引的または反発的にできることを実証した。
  • 相転移スイープは、正の $\beta$ を増大させると、ターゲットの活性化が急激に増加し、それに伴って多様性が低下することを示し、臨界結合点の測定を可能にした。
  • 「依存と離脱」のシナリオは、生成されたコンテキストが報酬信号が取り除かれた後もアトラクター特性を保持するという、ヒステリシスの存在を裏付けた。

意義と主張
本論文は、記号的なシーケンス生成器の再帰の景観を制御し、探査するための一般的なツールを提供すると主張している。

• 安定化のために: 負の分岐は、局所的なスタイルを犠牲にしたり、完全な再学習を必要としたりすることなく、高次モデルにおける「トンネル現象」を防ぐ方法を提供する。これは恒常的なレギュレーターとして機能する。
• 探索のために: 正の分岐は、生成器を実験的な計器へと変容させ、研究者がアトラクターを作成し、相転移を研究し、回復ダイナミクスをテストすることを可能にする。
• 範囲: 著者らは、自らの主張を、テストされた可変次/BPの設定および単音シーケンスに明示的に限定している。彼らは一般的な音楽的価値や作曲の質を解決すると主張しているのではなく、むしろ再帰圧力を精密に、かつ測定可能な形で制御するメカニズムを提供している。本研究は、符号付きエネルギー制御を通じて、新奇性と典型性のバランスを取ることにより、より広範な計算論的創造性の基準へと接続している。