技術要約：凸距離演算子輸送 (Convex Distance Operator Transport: CDOT)

問題提起

最適輸送（Optimal Transport: OT）は、質量の輸送コストを定量化することで確率測量を比較するための基礎的な枠組みを提供する。しかし、ワッサースタイン距離に基づく古典的なOTは、データ分布が同一の空間内に存在することを要求するため、異種ドメイン間への適用において制限が生じる。グロモフ・ワッサースタイン（Gromov–Wasserstein: GW）および融合グロモフ・ワッサースタイン（Fused Gromov–Wasserstein: FGW）の枠組みは、共通のコスト関数を必要とせずに、固有のメトリック・メジャー（mm）空間を通じて構造的情報を整合させることで、この問題を解決している。

これらの汎用性にもかかわらず、（F）GWの定式化には根本的な限界が存在する。それは非凸性である。これは、GWのコストが結合（coupling）のテンソル積（$\pi \otimes \pi$）を含むため、ペアごとの距離比較が非凸な最適化ランドスケープを生み出すことに起因する。その結果、標準的な最適化アルゴリズムは通常、局所的な停留点にしか収束せず、得られる解はグローバルな最適性の保証を欠く可能性がある。さらに、既存の凸緩和手法は、属性付きmm空間における擬距離（pseudometric）の性質を保持できないことが多く、あるいは問題の幾何学的構造を変化させてしまう追加の平滑化パラメータ（エントロピー正則化など）を必要とする。

手法：凸距離演算子輸送 (CDOT)

著者らは、特徴量の対応関係と固有の幾何学的構造の両方を保持しながら、異種mm空間を整列させるための、初の凸最適輸送フレームワークである**凸距離演算子輸送（CDOT）**を提案する。

コアとなる定式化

CDOTは、各空間の幾何学的構造と輸送計画を、$L^2$空間上で作用する線形演算子へと持ち上げる（lift）。ペアごとの距離を直接比較する代わりに、CDOTは集約された距離構造を演算子の合成を通じて整列させる。

属性付きのコンパクトなmm空間 $\mathcal{X} = (X, d_X, P_X, f_X)$ と $\mathcal{Y} = (Y, d_Y, P_Y, f_Y)$、および輸送計画 $\pi \in \Pi(P_X, P_Y)$ が与えられたとき、CDOTの目的関数 $L_\alpha(\pi)$ は以下の2つの成分のバランスを取る：

1. 特徴量整列（Feature Alignment）: $F(\pi) = \mathbb{E}_\pi[\|f_X(X) - f_Y(Y)\|_2^2]$。これは要素間の特徴量の類似性を促進する。
2. 構造的正則化（Structural Regularization）: $R(\pi) = \|D_{P_X} T_\pi - T_\pi D_{P_Y}\|_{HS}^2$。これは構造的な不一致を罰する。

ここで：

• $D_{P_X}$ および $D_{P_Y}$ は、ペアごとの距離行列の連続的なアナロジーを表す、$L^2(X, P_X)$ および $L^2(Y, P_Y)$ 上の積分演算子として定義される距離演算子である。
• $T_\pi$ は、結合 $\pi$ に関連する条件付き期待値演算子であり、$L^2(Y, P_Y)$ 上の関数を $L^2(X, P_X)$ 上の関数へと写像する。
• $\|\cdot\|_{HS}$ はヒルベルト・シュミット（Hilbert–Schmidt）ノルムを表す。

CDOT問題は次のように定式化される：
$$\inf_{\pi \in \Pi(P_X, P_Y)} \left[ (1-\alpha)F(\pi) + \frac{\alpha}{2}R(\pi) \right]$$

理論的基礎

• 凸性: 著者らは、CDOTの目的関数が凸であることを証明している。これは、構造項 $R(\pi)$ が条件付き期待値演算子 $T_\pi$（これは $\pi$ に対してアフィンである）に線形に依存し、かつ二乗ヒルベルト・シュミットノルムが凸であることにより達成される。これは、$\pi$ に対する二次的な依存性が非凸性を生むGWとは対照的である。
• 擬距離性: 得られるCDOTの不一致（discrepancy）は、最小目的関数の平方根として定義され、属性付きコンパクトmm空間上の有効な擬距離であることが証明されている。
• 分散ギャップ（Dispersion Gap）: 本論文では、CDOTとGWの関係を形式的に解明するために「分散ギャップ」分析を導入している。GWの目的関数は、CDOTの目的関数と、結合の空間的不確実性を定量化する分散ペナルティ $V(\pi)$ に分解できることが示されている。GWの非凸性は、決定論的（集中型）な結合を好むこの分散項に起因する。CDOTは、このペナルティを分離して排除することで、凸性を実現している。

最適化

有限サンプル領域において、CDOT問題は輸送多面体上の凸二次計画問題へと簡約される。著者らは、射影フリー（projection-free）な性質からフランク・ウルフ（Frank–Wolfe: FW）アルゴリズムを用いてこれを解く。また、二次構造を利用して勾配を効率的に更新する「レイジー勾配（lazy gradient）」変種を提案しており、これにより、行列演算に対する計算オーバーヘッドを、全体的な複雑さが線形最小化オラクル（$O(n^3)$）に支配されているものの、一回の反復あたりの計算時間を三次から二次へと削減している。

主な貢献

1. 初の凸幾何学認識型OTフレームワーク: CDOTは、スライシングベースの手法のように不一致のみを推定するのではなく、最適な輸送計画を明示的に復元しながら、異種mm空間を整列させるための初の凸定式化を提供する。
2. 理論的保証:
   • 存在性と凸性: エントロピー正則化を必要とせずに、最適結合の存在と目的関数の凸性を証明した。
   • 擬距離の性質: CDOTの不一致が有効な擬距離であることを確立した。
   • リスク一貫性: 最適化誤差と統計的誤差に分解された非漸近的リスク境界を導出し、グローバルに収束するFrank–Wolksアルゴリズムの下で、推定量がリスク一貫的であることを証明した。
3. 幾何学的洞察: 「分散ギャップ」分析により、GWにおける非凸性の源泉を形式的に説明し、CDOTがいかにして分散項をフィルタリングして凸なランドスケープを実現するかを示した。
4. 実証的性能: 合成点群、脳コネクトーム（OASIS-3）、およびグラフ分類ベンチマーク（TUDataset）において、既存の手法（FGW, Entropic FGW, IsoRank, Spectral Matching, COPT）に対して優れた性能を示した。

実験結果

• 合成データ: 2Dクラスター化された点群において、CDOTは様々なサンプルサイズにおいて一貫して最も低い平均二乗誤差（MSE）を達成し、安定した収束を示した。対照的に、Entropic FGW (EFGW) は正則化パラメータ $\epsilon$ に対して高い感度を示し、$\epsilon$ が小さい場合にはCDOTの精度に及ばなかったり、局所最適解に陥ったりすることが多かった。
• 脳コネクトーム (OASIS-3): 構造的脳ネットワークにおいて、拡散距離（diffusion distance：堅牢なグローバルメトリック）を用いた場合、CDOTはFGWを大幅に上回り、61.36%のマッチング精度を達成した（FGWは18.53%）。著者らは、これを、ペアごとのコントラストが拡散によって平滑化された場合でも、CDOTが集約された幾何学的プロファイルを整列させる能力を持っているためであるとし、一方で非凸なGWの目的関数は、そのような平坦なランドスケープにおいて識別力を失うとしている。測地線距離（geodesic distance）の下ではFGWの方がわずかに良好な性能を示しており、厳格なペアごとの整列と堅牢なグローバル整列のトレードオフを浮き彫りにしている。
• グラフ分類: TUDatasetベンチマークにおいて、CDOTは（FGW, GW, COPTなどの）ベースライン手法に対し、特に特徴量情報が豊富なデータセット（例：MUTAG, ENZYMES）において一貫して高い分類精度を示した。特筆すべきは、ノード特徴のないIMDB-BINARYデータセットにおいてもCDOTが最高の性能を維持したことであり、これはCDOTの演算子ベースの幾何学が、標準的なGWのアプローチよりもトポロジー的な差異をより効果的に捉えていることを示唆している。

意義と主張

本論文は、CDOTが、構造化データに対する既存の非凸OT手法に代わる、堅牢で信頼できる選択肢を提供すると主張している。凸な最適化ランドスケープを保証することで、CDOTは、解を不安定にする可能性のあるハイパーパラメータ調整（エントロピー正則化など）を必要とせずに、グローバルな最適解への収束を保証する。このフレームワークは、脳ネットワーク解析やグラフ分類のように、固有の幾何学的構造を保持する必要がある異種ドメインを扱うアプリケーションにおいて特に重要である。

著者らは、以下の2つの制限についても謙虚に述べている：

1. CDOTは、厳密な一対一のマッチングではなく、演算子レベルの整列を設計しているため、不一致がゼロであっても、必ずしも測度保存的な等長写像（isometry）を意味するわけではない。
2. 凸ではあるものの、現在の実装はOTサブ問題に支配されるFrank–Woller反復に依存しており、非常に大規模な設定よりも中規模の問題に適している。

著者らが示唆する今後の方向性には、CDOTの不一致に基づく統計的推論フレームワーク（同型性のための仮説検定など）の開発や、最適なグラウンドメトリックを共同学習するために、CDOTの目的関数をディープニューラルネットワークの微分可能な層として統合することなどが含まれる。