Structured Tensor Approximation from Lateral Slice Sampling via Basis and Manifold Priors

技術要約：基底および多様体事前分布を用いた横方向スライス・サンプリングからの構造化テンソル近似

問題定式化
本論文は、限られた数の観測された横方向スライスから、第三次基底真値テンソル $\mathcal{H} \in \mathbb{R}^{m \times n \times m}$ を再構成する問題に取り組んでいる。ランダムなエントリーまたはファイバー・サンプリングを仮定する標準的なテンソル補完問題とは異なり、本研究は、部分集合 $\mathcal{C} \in \mathbb{R}^{m \times d \times m}$ （ここで $d \ll n$）のみが利用可能な構造化横方向スライス・サンプリングに焦点を当てている。このシナリオは、量子化学における応用、具体的には、計算コストの制約により、軌道上の全点ではなく特定の点でのみ評価が制限される反応経路に沿ったヘッセ行列の再構成によって動機付けられている。

著者らは、このようなテンソルが2つの相補的な構造を持つと仮定している：

1. グローバル構造： 前方スライスは物理的な軌道（例：反応座標）に沿って滑らかに進化し、構造化された基底関数（例：ルジャンドル多項式や離散コサイン変換）で表現できる。
2. ローカル構造： 隣接するスライスは強い類似性を示しており、これは潜在的な低次元多様体構造を示唆している。

手法：BMTAフレームワーク
提案されている**基底および多様体事前分布テンソル近似（BMTA）**アルゴリズムは、これら2つの構造的事前分布を低ランクTucker再構成フレームワークに統合するものである。本手法は以下の3つの段階で進行する：

1. 準基底係数の推定：
   アルゴリズムは、テンソルが第2モードに沿って低次元の基底表現 $\mathcal{H} \approx \mathcal{Q} \times_2 \mathcal{S}$ （$\mathcal{S}$ は既知の基底行列）を持つと仮定することで、係数テンソル $\mathcal{Q}$ を最初に推定する。このステップはテンソル回帰問題として定式化され、ムーア・ペンローズ擬似逆行列を用いて $\hat{\mathcal{Q}} = \text{fold}_2(\Psi^\dagger \mathcal{C}_{(2)}) \times_2 \mathcal{S}^\dagger$ という閉形式の解を与える。

2. 多様体誘導型補間：
   局所的な幾何学的関係を捉えるために、アルゴリズムは補間行列 $\hat{\Lambda}_\Omega$ を構築する。これは、軌道上の点（反応座標）間のペアワイズ距離を計算し、ガウス（RBF）カーネルを適用することで、サンプリングされた近傍に基づき未サンプリングのスライスの重みを推定することによって達成される。これにより、テンソルの進化を滑らかな多様体としてモデル化する。

3. 低ランクTucker最適化：
   最終段階では、複合目的関数を最小化するように、Tucker因子（コアテンソル $\mathcal{G}$ および因子行列 $\mathcal{X}_1, \mathcal{X}_2$）を共同で最適化する。この関数は、準構造化事前分布（$\hat{\mathcal{Q}} \times_2 \mathcal{S}$）への適合度と、多様体誘導型補間推定値（$\mathcal{C} \times_2 \hat{\Lambda}_\Omega$）のバランスをとる：
   $$\min_{\hat{\mathcal{G}}, \hat{\mathcal{X}}_1, \hat{\mathcal{X}}_2} \alpha \|\hat{\mathcal{Q}} \times_2 \mathcal{S} - \mathcal{H}_{\text{recon}}\|_F^2 + (1-\alpha) \|\mathcal{C} \times_2 \hat{\Lambda}_\Omega - \mathcal{H}_{\text{recon}}\|_F^2$$
   ここで、$\mathcal{H}_{\text{recon}} = \hat{\mathcal{G}} \times_1 \hat{\mathcal{X}}_1 \times_2 \hat{\mathcal{X}}_2 \times_3 \hat{\mathcal{X}}_1$ である。最適化は交互勾配降下法によって行われる。

理論的解析
本論文は、最適化の収束、サンプリング複雑性、およびモデル不一致の相互作用を特徴付ける非漸近的な再構成誤差界（定理1）を提供している。主な理論的知見は以下の通りである：

• 誤差分解： 再構成誤差は、収縮する最適化項（反復とともに幾何級数的に減少する）と、モデル不一致（基底誤差および補間誤差）によって誘発される既約な近似誤差へと分解される。
• サンプリング複雑性： 解析により、サンプリング演算子が部分観測による歪みを制御するために部分空間埋め込み特性を満たすよう、サンプリングされたスライスの数 $d$ が基底部分空間の固有次元（$n, l$）に比例してスケールする必要があることが確立されている。
• 収束性： 特定の初期化条件（吸引圏内）および適切なステップサイズの下で、アルゴリズムは真値の近傍へ線形に収束する。

実験結果
著者らは、合成データおよび実世界のデータセットを用いてBMTAを検証した：

• 合成データ： 多項式成分と補間成分の重ね合わせによって生成されたテンソルを用いた実験において、BMTAは低〜中程度のサンプリング領域において、一貫してベースライン（Tucker分解、TensorCUR、および単一の事前分布のみを用いたアブレーション版）を上回る性能を示した。BMTAはノイズとモデル不一致に対して堅牢性を示している。
• 無線マップ再構成： 合成時空間無線マップタスクにおいて、BMTAは観測スライス数が限られている場合に、他の手法よりも低い再構成誤差を達成し、他の手法が平滑化したり歪曲させたりする空間パターンを効果的に保持した。
• 量子化学： 化学反応系（例：CF3CH3, TSoxo）からの実世界のヘッセ行列に適用した結果、わずか5枚のスライス（$d=5$）しか観測されていない状況において、BMTAはPolynomial-only、Interpolation-only、Tucker、およびTensorCURと比較して最も低い再構成誤差を達成した。

意義および主張
本論文は、特に構造化横方向スライス・サンプリングによって制約されるシナリオにおいて、BMTAが既存のテンソル近似手法に対して大幅な改善をもたらすと主張している。その主要な貢献は、相補的なグローバル（基底）およびローカル（多様体）の事前分布を統合したことであり、これにより、標準的な低ランク手法が部分空間を信頼性高く推定するには観測数が少なすぎる場合でも、正確な再構成が可能となる。本研究は、高次元のテンソルデータを深刻なサンプリング制約下で回復するためには、ドメイン固有のサイド情報（反応座標や既知の基底関数など）を活用することが極めて重要であることを確立している。理論的境界は、サンプリング密度、モデルの正確性、および最適化の収束の間のトレードオフを明確にしている。