技術要約：ジェフリー・ガイダンスを用いた拡散モデルのより一般的な制御に向けて

1. 問題提起

拡散モデルは、生成タスクにおいて高い柔軟性を提供し、基盤となるニューラルネットワークを再学習させることなく、サンプリング時にガイダンス機構を通じて出力の制御を可能にする。標準的なガイダンス手法（例：分類器ガイダンス）は、特定のクラスに対する条件付きサンプリングを効果的に扱うことができるが、ターゲット分布が暗黙的であるか、あるいはヒューリスティックによってのみ定義されるような、より複雑な目的関数を扱う場合にはしばしば失敗する。

公平性、コンセプト制御、構成的な生成といったタスクにおける現在の手法は、サンプリングのダイナミクスに対するヒューリスティックな修正に依存していることが多い。これらの手法は元の分布を傾斜させるものの、明示的に定義されたターゲット分布を欠いているため、実際の目的を特徴付けたり解釈したりすることが困難である。したがって、モデルの条件付き構造を維持しつつ、指定されたターゲット分布へと周辺分布を更新できる、原理に基づいたフレームワークが必要とされている。これにより、標準的な条件付けでは表現できない複雑な統計的性質（属性の独立性や埋め込み分布のマッチングなど）の制御が可能になる。

2. 手法：ジェフリー・ガイダンス（Jeffrey Guidance）

本論文では、拡散モデルを更新するためにジェフリーの条件付け規則（Jeffrey's rule of conditioning）を活用するフレームワークであるジェフリー・ガイダンスを提案する。ベイズに基づくアプローチが特定のイベントに対して条件付けを行う（標準的な条件付け）のに対し、ジェフリーの規則は、特定の周辺分布を一致させることのような、複雑な述語に対して条件付けを行うことを可能にする。

理論的基礎

$x$ を画像空間、$y$ を属性/特徴量とする結合モデル $p(x, y)$ が与えられたとき、目標は、条件付き構造 $p(x|y)$ を保持したまま、周辺分布 $p(y)$ をターゲット分布 $p^\star(y)$ へと更新することである。ジェフリーの規則の下では、更新された結合分布は次のように定義される：
$$p^\star(x, y) = p(x|y)p^\star(y)$$
この更新は、周辺分布の制約を満たしながら、元の結合分布への摂動を最小化する（情報投影）。

本論文では、$x$ に関する周辺分布の再重み付け定式化を導出する：
$$p^\star(x) = p(x) \int p(y|x)\rho(y) dy$$
ここで、$\rho(y) = p^\star(y)/p(y)$ は密度比である。特徴量が画像から決定論的に導出される場合（$y = u(x)$）、これは以下のように簡略化される：
$$p^\star(x) = p(x)\rho(u(x))$$

拡散モデルへの実装

これをスコアベースの拡散モデルに適用するために、著者らは誘導されたスコア関数を導出する。標準的なスコア $\nabla_{x_t} \log p_t(x_t)$ に、密度比に基づく補正項を加算する：
$$\nabla_{x_t} \log \tilde{p}^\star_t(x_t) = \nabla_{x_t} \log p_t(x_t) + \nabla_{x_t} \log \int p(y|\hat{x}_0(x_t, t))\rho(y) dy$$
ここで、$\hat{x}_0(x_t, t)$ は、Tweedieの公式を用いて得られるクリーンなサンプルの推定値である。

決定論的な特徴量マッピング（例：埋め込み空間）の場合、ガイダンスは以下のように簡略化される：
$$\nabla_{x_t} \log \tilde{p}^\star_t(x_t) = \nabla_{x_t} \log p_t(x_t) + \nabla_{x_t} \log \rho(u(\hat{x}_0(x_t, t)))$$

このフレームワークは、補正項のスケールを制御し、サンプル品質とターゲット分布への忠実度のトレードオフを調整するためのハイパーパラメータ $\lambda$ を導入する。密度比 $\rho$ は、ターゲット分布からのサンプルとモデルの現在の分布を区別するように訓練されたバイナリ分類器を用いて推定される。

3. 主な貢献

本論文の主な貢献は以下の3点である：

1. ジェフリー・ガイダンス・フレームワーク： 標準的な分類器ガイダンスを一般化する、プラグアンドプレイ型の新しいガイダンス手法。ジェフリーの規則を用いることで、生成された出力分布を任意のターゲット分布に一致させることができ、標準的なガイダンスでは到達できなかった目的の制御を可能にする。
2. 埋め込み分布のマッチング： 埋め込み空間（具体的にはInception埋め込み）において、モデルの出力分布をターゲット分布に一致させる能力を示す概念実証。この適用により、再学習を必要とせずにFréchet Inception Distance (FID) を大幅に減少させる。
3. 公平性のための属性分布制御： 公平性の目的を達成するために、画像の属性分布を制御するデモンストレーション。この手法は、ジェンダー・パリティ（分布の一致）を強制し、「男性（Male）」と「若い（Young）」といった属性をデコリレーション（無相関化）することに成功した。これらは、標準的な分類器ガイダンスでは直接対処できないタスクである。

4. 実験結果

著者らは、CIFAR-10、FFHQ、およびCelebA-HQデータセットを用いてジェフリー・ガイダンスを評価した。

埋め込みガイダンス（FIDの減少）

• 設定： 本手法は、学習データのInception埋め込み分布をターゲットとした。
• 結果： CIFAR-10において、FIDは訓練セットで $\approx 5.88$ から $\approx 2.55$ へ、テストセットで $\approx 9.76$ から $\approx 6.71$ へ改善した。FFHQでは、FIDが $\approx 20.13$ から $\approx 12.91$ へ低下した。
• 観察： 著者らは、FIDが劇的に減少した一方で、生成画像の視覚的な変化は最小限であったことを指摘しており、これは純粋な知覚指標としてのFIDの限界を示唆している。最良の結果は、最終的なデノイジングステップ（$\delta=10$）にのみガイダンスを適用した場合に得られた。

公平性の適用

• ジェンダー・パリティ（分布のマッチング）： CelebA-HQにおいて、本手法は「男性」属性の割合を $\approx 0.296$ から $\approx 0.522$（目標値0.5）へと調整し、公平性格差（FD）を $0.288$から$0.032$ へと減少させた。これは、FIDの低下を最小限に抑えつつ（21.61 対 ベースライン 22.30）達成された。
• 属性のデコリレーション： 本手法は、「男性」と「若い」という属性をデコリレーションすることに成功し、ピアソンの相関係数を $-0.541$から$\lambda=3.0$においてほぼゼロ（$0.005$）へと減少させた。これは、主要な結合モード（若い女性のサンプル）を減少させることで達成され、周辺分布は比較的安定して維持された。FIDの増加は約1ポイント程度であった。
• 比較： 標準的なガイダンスを組み合わせたアンセストラル・サンプリングと比較して、ジェフリー・ガイダンスは、サンプルを単一のクラスへ完全に押し込むのではなく、サンプリング・軌跡に沿ってクラスの方向を連続的にバランスさせることで、同様の公平性指標をより低いFIDコストで達成した。

5. 重要性と主張

本論文は、ジェフリー・ガイダンスを拡散モデル制御の原理的な拡張として位置づけている。その重要性は以下の点にある：

• 一般化： 標準的な分類器ガイダンスをジェフリー条件付けの特殊なケースとして再定義し、これらのアプローチをより広範な理論的枠組みの下に統合している。
• 表現力： ヒューリスティックまたは暗黙的な手法を通じてのみ達成可能であった、複雑な目的（属性の独立性など）のための明示的なターゲット分布の指定を可能にする。
• 実用性： 拡散モデルの再学習を必要とせず、サンプリング中の補正項の追加と軽量な密度比推定器の訓練のみで実行できる。

著者らは、本研究を「概念実証」として控えめなトーンで提示している。現在の実装は、初期の分類器ガイダンスと同様に、密度比を推定するために分類器に依存していることを認めており、将来の研究が分類器フリーのバリアントへと進化することを期待している。また、この手法が、公平性や記憶の緩和といった有益なアプリケーションのために新たな表現力を提供する一方で、悪意のあるアクターが悪質な出力を生成する力を与えてしまうリスクも孕んでいることを指摘している。