技術要約：アモルタイズド・ミーンシフト相互作用粒子（Amortized Mean-Shift Interacting Particles）

1. 問題設定

ベイズ逆問題における主要な成果物は、単なる事後分布サンプルの集合そのものではなく、一連の観測値に基づく積分（事後期待値、裾確率、リスク）の評価である。標準的な手法では、$M$ 個の独立した事後サンプルを用いたモンテカルロ（MC）平均化を用いる。この推定量の分散は $O(1/\sqrt{M})$ でしか減衰しないため、各サンプルの評価に高価な順モデル（例：偏微分方程式）を伴う場合、膨大な数のサンプルが必要となる。

「ミーンシフト相互作用粒子（mean-shift interacting particles）」（Belhadji et al., 2026a, b）は、独立したサンプルを、最大平均偏差（MMD）を事後分布に対して最小化する少数の重み付きノード（求積則）に置き換えることで、より優れた代替案を提供するが、以下の2つの決定的な限界を抱えている：

1. 観測ごとの最適化: 最適なノードを見つけるには、新しい観測ごとにゼロから非凸最適化問題を解く必要がある。
2. スコア／密度への依存性: この手法の最も正確なバージョンは、各ステップで事後スコア（$\nabla \log p(x|y)$）または密度を評価する必要があるが、シミュレータベースの設定ではこれらが利用できないことが多く、あるいは高価な随伴ソルブ（adjoint solves）を必要とする。

目標は、設計された求積ノードによる積分精度を、観測ごとの最適化コストや事後スコアを必要とせずに達成することである。

2. 手法：アモルタイズド・ミーンシフト相互作用粒子

著者らは、アモルタイズド・ミーンシフト相互作用粒子、すなわち、単一のフォワードパスで重み付き求積則を出力する学習された集合等変写像を提案している。

コアメカニズム

本手法は、観測値 $y^\star$ と、「シード」となる $M$ 個の独立したサンプル集合 $\{z^0_j\} \sim p(x|y^\star)$ を入力として受け取る。ネットワークはノードを直接学習するのではなく、最終的なノードが $z_j = z^0_j + \Delta z_j$ となるようなノードごとの変位 $\Delta z_j$ を学習する。

• アーキテクチャ: 集合等変ネットワーク（粒子間の自己注意および観測要約へのクロス注意を利用）がシード集合を処理する。これは、特徴量ごとの変調（FiLM）を介して要求されるノード数 $M$ に条件付けられており、単一の学習済みマップが任意の解像度に対応できる。
• 閉形式の重み: ネットワークは重みを出力しない。代わりに、ノードが変位された後、単位和の制約の下で、参照事後分布に対するMMDを最小化するように、重みが閉形式で解かれる。この重みの計算は単一の線形システム（$K^{-1}(\mu + \kappa \mathbf{1})$）であり、微分可能であるため、エンドツーエンドの学習が可能である。

学習目的

ネットワークは、放出された求積則と参照事後分布 $\rho(\cdot|y^\star)$ の間の期待二乗MMDを最小化するように学習される：
$$\mathcal{L}(\theta) = \mathbb{E}_{y^\star} \mathbb{E}_{z^0 \sim \rho} \left[ \text{MMD}^2_k \left( \sum \hat{w}_j \delta_{\hat{z}_j}, \rho(\cdot|y^\star) \right) \right]$$
極めて重要な点は、学習において事後分布のサンプルのみが必要であることである。これには、事後密度の評価やスコアの計算は不要である。参照には、閉形式の分布、学習済みの条件付きフロー、物理ベースの事後分布、または経験的なナダラヤ・ワトソン型条件付き測度が使用できる。

高次元への対応

高次元のアンビエント空間では、等方性カーネルは「カーネルの壁（kernel wall）」に直面する。これは、粒子間の距離が集中し、グラム行列が幾何学的コントラストを失う現象である。本手法はこの問題に対し、以下の方法で対処する：

1. 事後分布ホワイトニング・カーネル: 事後精度（またはサンプル共分散）に基づくマハラノビス・カーネルを使用して、幾何学を正規化する。
2. 情報に基づいた部分空間: 問題を低次元の「尤度情報に基づく（likelihood-informed）」部分空間に投影する。著者らは、この部分空間が（共分散を用いた）結合サンプルからスコアフリーで推定可能であり、線形ガウス設定においてスコアベースの手法と同じ方向を回収できることを示している。

オプションの精緻化

スコアが利用可能で、かつ参照が良好に条件付けられている場合、単一パスの放出を元のミーンシフト反復の数ステップの「ウォームスタート」として使用でき、これにより誤差をさらに低減できる。ただし、著者らは、反復によって過剰に収縮してしまう可能性があるため、この精緻化は鋭い（低ランクの）参照に対しては脆弱であると指摘している。

3. 主な貢献

1. スコアフリーなMCフロア以下の求積: 本手法は、事後密度やスコアを一度も評価することなく、独立したサンプルよりも低い最悪ケース誤差を持つ、重み付きノード集合を生成する。
2. アモルタイゼーション（償却）: 学習済みの単一ネットワークが、任意の観測および任意のノード予算 $M$ に対して、単一のフォワードパスで求積則を放出する。これにより、観測ごとの最適化の必要性を排除する。
3. パレート改善: 本構成は、MC推定器に対する競合ではなく、そのパレート改善である。
   • 再重み付け: いかなる予算においても、等重み（モンテカルロ・フロア）よりも確実に劣らない（Proposition 2）。
   • ノードの移動: ランダムなシードが逃した高質量領域へノードを移動させることで、積分誤差をさらに低減させる（Section 4.4）。
4. 汎用性: 本手法は、事後分布のタイプ（ガウス、混合ガウス、学習済みフロー、物理ベース）や次元（地下水場における1,024個の係数など）を横断して汎用できる。これは事後分布ホワイトニング・カーネルと併用することで実現される。

4. 結果

本論文は、いくつかのベンチマークを通じて手法の妥当性を検証している：

• 閉形式およびサンプリングによる玩具問題: ガウス分布、ガウス混合分布、および曲がった「バナナ型」分布において、単一パスのウォームスタートは、すべてのノード予算において一貫して独立サンプルのフロアを下回る。特に、ランダムサンプルが構造（分離されたモードや曲がったリッジなど）を見逃す場合に、「移動（move）」レバーが大きな利点をもたらす。
• 限定角トモグラフィ: 線形ガウス逆問題において、本手法は正確な事後分布をフロア以下で積分する。各ピクセルの不確実性マップは、情報に基づいた部分空間内において真の事後分布に対して較正されている。
• 学習済み条件付きフロー: 観測に応じて形状が変化する学習済み事後分布において、アモルタイズド・マップは変化する幾何学を追跡し、フロアを打ち破る。
• 物理ベース（地下水）: 高次元（1,024係数）のダルシー流逆問題において、本手法は情報に基づいた部分空間内でナダラヤ・ワトソン型条件付き事後分布を正常に積分し、アンビエント・カーネルが崩壊する場面でもMCフロアを上回る性能を示す。
• サンプラーとの比較: チューニングされたシュタイン変分勾配降下法（SVGD）と比較して、本手法の求積則（再重み付けのみの場合でも）は、より大きな予算においてより低い積分誤差を達成する。これは、SVGDが固定点に停滞するのに対し、求積則は不一致（discrepancy）を下降し続けるためである。

5. 意義と主張

本論文は、アモルタイズド・ミーンシフト相互作用粒子が、逆問題におけるベイズ積分を計算する方法における根本的な転換を意味すると主張している。

• サンプラーのライバルではない: 本手法はサンプラーの忠実度（fidelity）と競合するものではない。むしろ、それらのサンプルによって供給される「推定器」自体を改善するものである。これは、独立したサンプル集合を、設計された（再重み付けによって確実に優れ、移動によって経験的に優れた）求積則へと変換する。
• パレート改善: 本構成は、以前の（スコア評価や最適化が困難であった）手法とは異なり、計算コスト（ノード数）に対してモンテカルロ推定器のパレート改善を提供する。
• 適用範囲の制限: 著者らは、以下の点について謙虚な姿勢を示している：
  • 保証は、ユーザーが提供する事後分布 $\rho$ に対するものであり、真の分布 $\pi$ に対するものではない。$\rho$ の忠実度は、ユーザーのモデリングに依存する。
  • 「移動（move）」による利点は経験的なものであり、すべての予算に対して理論的に保証されているわけではない。
  • オプションのスコアベースの精緻化は、鋭い低ランクの参照に対しては脆弱である。
  • 本手法は事後分布を積分するものであり、真の分布を積分するのではない。もし事後分布モデルが不適切であれば、求積則はその不適切なモデルを忠実に積分することになる。

要約すれば、本論文は、高価な事後サンプルを、非常に効率的かつ再利用可能な求積則へと変換するための、学習されたスコアフリーのメカニズムを提示しており、広範な逆問題の設定において標準的なモンテカルロ積分を凌駕する性能を実現している。