技術要約：欠損データ・フローマッチング (MDFM)

問題提起

フローマッチングは、安定した回帰目的関数を介して、ベース分布からデータ分布へと輸送するための、時間依存のベクトル場を学習する強力な生成モデリング手法である。しかし、標準的なフローマッチングは、訓練のエンドポイント（終端）が完全に観測されていることを前提としている。実世界のアプリケーション（医療記録、センサーデータ、調査など）では、データが不完全であることが頻繁にある。

既存の解決策は通常、点インピュテーション（点補完）（条件付き平均のような単一の推定値で欠損値を埋める手法）を採用している。点インピュテーションは予測タスクにおいては効果的であるが、生成学習にとっては有害である。なぜなら、フローマッチングは訓練エンドポイントの分布を再現するように学習するため、欠損値の範囲を単一の点に置き換えてしまうと、条件付き分布が崩壊してしまうからである。これにより、生成される分布は条件付き分散がゼロとなり、データの真の広がりや依存関係を捉えることができなくなる。

手法：欠損データ・フローマッチング (MDFM)

著者らは、欠損している座標を単一の値に固定しようとするのではなく、潜在変数として扱うフレームワークである欠損データ・フローマッチング (MDFM) を提案する。

コアメカニズム

欠損部分を一つの値に決定する代わりに、MDFMは不完全なサンプルの一部である $X_{-\Lambda}$ を、観測された部分 $X_\Lambda$ に基づく条件付き分布から抽出される乱数として扱う。

1. 潜在変数としての扱い: 不完全な観測 $O = (\Lambda, X_\Lambda)$ に対して、欠損座標 $X_{-\Lambda}$ は補完分布からサンプリングされる。
2. 平均化された損失: フローマッチングの損失は、これらのサンプリングされた補完に対して平均化される。目的関数は、観測パターン、観測データ、および欠損部分の補完に関する期待値となる。
3. オラクル vs 学習済み:
   • オラクル目的関数: 真の条件付き分布 $p^*(x_{-\Lambda} | x_\Lambda)$ へのアクセスを想定している。
   • 学習済み目的関数: 独立した補助データセット上での自己教師ありマスキングを通じて訓練された、学習済みの補完モデル $q_\phi(x_{-\Lambda} | x_\Lambda, \Lambda)$ を使用する。

理論的基礎

本論文は、欠損が完全にランダム (MCAR) である条件下において、補完が真の条件付き分布から抽出されている場合、MDFMの目的関数は完全なデータを用いたフローマッチングの目的関数と完全に一致することを立証している。

• 厳密性: 欠損データを扱うスコアマッチングが、計算困難な積分を近似する必要があるのに対し、MDFMの補正は厳密な等価関係である。エンドポイントが補完されることで、回帰ターゲット ($X_1 - X_0$) は明示的になる。
• 困難さの転移: 欠損データの困難さは消失するのではなく、条件付き補完分布の推定へと完全に転移する。もし補完モデルが完璧であれば、フローマッチングモデルは真のデータ分布を正確に学習する。

主な貢献

1. 厳密な補正と等価性

著者らは、MCAR条件下では、真の補完を用いて不完全なデータで訓練することが、完全なデータで訓練する場合と同じ母集団の目的関数と勾配をもたらすことを証明した。これは、パラメータ空間内の任意の微分可能な点において成立する。この結果は、Missing At Random (MAR) にも拡張できるが、Missing Not At Random (MNAR) の場合は追加の構造的仮定なしには成立しない。

2. 有限標本分散分析

本論文は、推定量の有限標本分散分解を提供し、直感に反する設計上の洞察を導き出している：

• 分散の転移、加算ではない: 欠損は本質的に総推定量の分散を増加させるのではなく、分散を観測レベルから補完レベルへと転移させる。補完を平均化することで、この転移された分散は除去される。
• 一つの補完の最適性: 固定された評価予算（総損失評価数）の下では、1つの例に対して1つの補完を使用することが最適である。1つの例に対して複数の補完を生成することは、より多くの不完全な例を収集することよりも効率が悪い。
• バイアス境界: 学習された補完モデルの場合、母集団の目的関数におけるバイアスは、学習されたモデルと真の補完法則との間の期待条件付きワッサースタイン1距離によって抑えられる。このバイアスは、フローマッチングの訓練サンプル数を増やしても削減できない不可避なものであり、より優れた補完モデルを必要とする。

3. 実証的検証

合成データおよび実世界の表形式データ（UCIデータセット）を用いた実験により、理論的予測が検証された：

• 確率的 vs 決定論的: 決定論的な補完（例：条件付き平均）は生成分布を崩壊させ、分布誤差を3倍に増大させる。確率的な補完（再サンプリング）は、条件付き分散性を保持し、完全データでの性能と一致する。
• 分布指標: 実データにおいて、MDFMは強力なインピュテーション・パイプラインと比較して競争力がある。具体的には、MICEがスライス・ワッサースタイン距離、エネルギー距離、およびMMDにおいて最高の平均ランクを達成したが、MDFMは不完全なデータで訓練された手法の中で、共分散保持において最高の平均ランクを達成した。
• 補完の質: MDFMはインピュテーション誤差（RMSE）において競争力がある一方で、その主な強みは、結合分布の二次モーメント構造を捉えることにある。

重要性と主張

本論文は、MDFMを、欠損データの取り扱いと生成モデリングの間の溝を埋める、理論的に裏付けられた解決策として位置づけている。

• 厳密性: 主要な意義は、補正が近似ではなく厳密なものであるという証明にあり、これにより欠損データの負担を、補完モデルの質のみに集約させている。
• 設計ガイダンス: 有限標本分析は、具体的かつ非直感的なガイドラインを提供している。具体的には、固定された計算予算の下では、1つの例に対して複数の補完を生成するよりも、より多くのデータ例を収集することを優先すべきであるということである。
• 生成の完全性: 本研究は、生成モデルの完全性（特に条件付き分散を再現する能力）を維持するためには、決定論的な点インピュテーションを避け、確率的な補完を利用しなければならないことを示している。

著者らは、本手法が（識別可能なパターンを必要とする）補完モデルを効果的に訓練できるという仮定に依存していること、および現在の理論的保証は、直接的な生成ベクトル場の質ではなく、損失推定に焦点を当てていることを認め、限界についても言及している。MNARシナリオへの拡張は、追加の構造的仮定を必要とする未解決の課題である。