技術要約：再帰的に学習される拡散モデル

問題提起

本論文は、生成モデル（特に拡散モデル）において、自身の合成出力を用いて再帰的に学習を行う際に発生する**モデル崩壊（model collapse）**の現象を取り扱う。既存の文献では、有限回の反復における誤差の蓄積は定量化されているが、このような再帰の漸近的挙動に関する2つの根本的な問い、すなわち（1）再帰はどのような特定の分布に収束するのか、および（2）その収束速度はどの程度か、という問いは未解決のままであった。

著者らは、モデル崩壊は単にスコア推定の不完全さや有限サンプル効果のみによって引き起こされるのではないと主張している。むしろ、数値的な安定性を確保するために逆拡散プロセスを $t_0 > 0$ で停止させる必要性である**打ち切り（truncation）**こそが、完全なスコア推定と正確なサンプリングが行われる理想的な設定においても、真のデータ分布 $p_{\text{data}}$ から漸進的に逸脱していく主要な要因であると特定している。

手法とフレームワーク

再帰的設定

著者らは、各世代 $i$ において、訓練分布 $q_i$ が新鮮なデータ $p_{\text{data}}$（割合 $\alpha$）と、前世代のモデルによる合成サンプル $\hat{p}_i$（割合 $1-\alpha$）の混合物として定義される再帰的学習手順を定義する：
$$q_i := \alpha p_{\text{data}} + (1-\alpha)\hat{p}_i$$
スコアネットワークは $q_i$ 上で学習され、結果として得られる拡散モデルが次の分布 $\hat{p}_{i+1}$ を生成する。

誤差の源泉と理想化

分析では、以下の3つの誤差源を区別している：

1. 打ち切り（Truncation）: 逆方向のSDE（確率微分方程式）が $[t_0, T]$ の範囲でのみ積分されること。
2. スコア推定誤差: 有限のデータおよび関数近似に起因するもの。
3. 離散化誤差: SDEの数値解法に起因するもの。

本論文ではまず、打ち切りのみが存在する理想的な誤差のないレジームを分析する。このレジームにおいて、世代 $i$ から $i+1$ への遷移は、オルンシュタイン＝ウーレンベック（OU）サンプリング演算子 $U_{t_0}$ を含む不動点問題としてモデル化される：
$$\mu \mapsto U_{t_0}(\alpha p_{\text{data}} + (1-\alpha)\mu)$$

スペクトル解析

極限分布を特徴付けるために、著者らはエルミート・スペクトル分解を用いている。標準ガウス測度 $\gamma = \mathcal{N}(0, I_d)$ に対する密度比に対して、OU演算子がどのように作用するかを分析する。OU演算子はエルミート多項式の基底 $\{H_n\}$ において対角的に作用し、次数 $|n|$ のモードを因子 $e^{-|n|t/2}$ によって減衰させる。

主な貢献と結果

1. 崩壊分布の明示的な特徴付け

誤差のないレジームにおいて、著者らは再帰が唯一の極限分布 $p^\star_\infty$ へと幾何級数的に収束することを証明している。この分布は、真のデータを段階的にガウス平滑化したものの無限混合として以下のように明示的に特徴付けられる：
$$p^\star_\infty = \alpha \sum_{k=0}^{\infty} (1-\alpha)^k U_{(k+1)t_0}(p_{\text{data}})$$
収束速度は定数 $\kappa = \sqrt{1-\alpha} e^{-t_0/2}$ を持つ幾何級数的であり、$\alpha < 1$ かつ $t_0 > 0$ であるとき、極限分布は $p_{\text{data}}$ とは異なるものになる。これは、打ち切り自体が非自明な崩壊を引き起こすことを裏付けている。

2. スペクトル構造：ローパスフィルタ

スペクトル分解を通じて、本論文は再帰的学習がデータ分布に対するローパスフィルタとして機能することを実証している。

• 崩壊分布 $p^\star_\infty$ は、$p_{\text{data}}$ のエルミート係数を減衰させることで得られる。
• 減衰因子 $m_n(\alpha, t_0)$ は、モードの次数 $|n|$ に対して単調減少する。
• 示唆: 高次モード（微細な非ガウス構造、テイル、振動などをエンコードするもの）は、低次モード（平均、共分散など）よりも大幅に抑制される。これは、モデル崩壊において観察される多様性の喪失やテイルの劣化に対する理論的な説明となる。

3. アニールド・トランケーション・スケジュール（焼きなまし打ち切り計画）

著者らは、世代を追うごとに打ち切り時刻 $t_0^{(N)}$ が減少していくアニールド・トランケーション・スケジュールを提案している。

• 定理: 時列 $t_0^{(N)}$ がゼロに収束する場合（$t_0^{(N)} \to 0$）、再帰的な累積効果は漸近的に排除され、分布は $p_{\text{data}}$ を回復する。
• 時列が正の極限に収束する場合、崩壊は持続するが、バイアスは軽減される。
• $t_0^{(N)} = t_0 / (1+N)^\beta$ の形式のスケジュールは、KLダイバージェンスをゼロへと駆動することが示されており、$\beta$ が大きいほど収束は速くなる。

4. 不完全な学習に対する頑健性

分析は、スコア推定誤差および離散化誤差を含むように拡張されている。

• 学習された分布 $\hat{p}_N$ は、理想的な極限 $p^\star_\infty$ の周囲の半径 $\delta/(1-\kappa)$ のワッサースタイン2次ボール内に留まる（ここで $\delta$ は1ステップの誤差を抑える）。
• モード依存の誤差伝播: 高周波モードにおける誤差は、低周波モードにおける誤差よりも速く収縮する。有効な誤差ボールは楕円体であり、高次モードに対して急速に縮小する。これは、微細な詳細は失われる可能性があるものの、粗い構造は安定していることを示唆している。

実験的検証

理論的知見は以下の手法で検証されている：

1. 合成2Dガウス混合分布: $\alpha \to 1, \alpha \to 0, t_0 \to 0$ の各ケースにおける $p^\star_\infty$ の閉形式の極限を確認。
2. CIFAR-10:
   • 収束: 実験的なFID指標は、理論的な収縮率 $\kappa$ と一致する安定したフロアへと幾何級数的に収束することを示す。
   • スペクトル特性: 高周波エネルギー（フーリエパワーにより測定）は、世代数および $\alpha$ の減少に伴って単調に減少しており、ローパスフィルタの仮説を裏付けている。
   • 打ち切り: $t_0$ を大きくすると崩壊が増幅される（FIDが高くなる）一方で、アニールド・スケジュールはデータ分布の回復に成功している。

重要性と主張

本論文は、拡散モデルにおけるモデル崩壊の最初の漸近的特徴付けを提供し、打ち切りが学習の不完全性とは異なる根本的な駆動要因であることを特定したと主張している。

• 理論的洞察: 完璧な学習が行われたとしても、逆拡散における標準的な早期停止の慣習が、必然的に高周波のデータ特徴の喪失を伴う崩壊レジームを招くことを確立した。
• 緩和戦略: 単に新鮮なデータの割合（$\alpha$）を増やすだけでは、打ち切り時刻が固定されている限り崩壊を防ぐには不十分である。代わりに、漸近的な累積を排除するための必須の補完的介入として、アニールド・トランケーション・スケジュールが提示されている。
• 頑健性: 結果は、崩壊レジームが安定したアトラクターであることを示唆している。実用的な誤差が存在する場合でも、システムは理論的な極限に近い分布に収束するため、スペクトルの特徴付けは現実世界の訓練シナリオにおいても関連性を持つ。

著者らは、本分析は分散保存型（variance-preserving）のOU拡散および関連するエルミート基底に特化したものであることを注記しており、これらのスペクトルメカニズムを他の拡散パラメータ化へ拡張することは今後の課題であるとしている。