Structured Tensor Approximation from Lateral Slice Sampling via Basis and Manifold Priors

技术摘要：通过基函数与流形先验进行侧向切片采样的结构化张量近似

问题定义
本文解决了从有限数量的观测侧向切片中重建三阶真值张量 $\mathcal{H} \in \mathbb{R}^{m \times n \times m}$ 的问题。与假设随机条目或纤维采样的标准张量补全问题不同，这项工作专注于结构化侧向切片采样，即仅有部分切片 $\mathcal{C} \in \mathbb{R}^{m \times d \times m}$（其中 $d \ll n$）是可用的。该场景受量子化学领域的启发，特别是用于重建沿反应路径的 Hessian 矩阵，在这些应用中，计算成本限制了只能对轨迹上的特定点进行评估，而非随机观测。

作者认为，此类张量具有两种互补的结构：

1. 全局结构： 前向切片沿物理轨迹（例如反应坐标）平滑演化，并可以通过结构化基函数（例如 Legendre 多项式或离散余弦变换）进行表示。
2. 局部结构： 相邻切片表现出强烈的相似性，这表明存在一个潜在的低维流形结构。

方法论：BMTA 框架
所提出的基函数与流形先验张量近似 (BMTA) 算法将这两种结构先验集成到一个低秩 Tucker 重建框架中。该方法分为三个阶段进行：

1. 拟基系数估计：
   算法首先通过假设张量在第二模态上具有低维基表示 $\mathcal{H} \approx \mathcal{Q} \times_2 \mathcal{S}$（其中 $\mathcal{S}$ 是已知基矩阵），来估计系数张量 $\mathcal{Q}$。这一步被表述为一个张量回归问题，其闭式解通过 Moore–Penrose 伪逆获得：$\hat{\mathcal{Q}} = \text{fold}_2(\Psi^\dagger \mathcal{C}_{(2)}) \times_2 \mathcal{S}^\dagger$。

2. 流形引导插值：
   为了捕捉局部几何关系，算法构建了一个插值矩阵 $\hat{\Lambda}_\Omega$。这是通过计算轨迹点（反应坐标）之间的成对距离，并应用高斯（RBF）核来估计基于已采样邻居的未采样切片的权重。这模拟了张量演化为一个平滑流形的过程。

3. 低秩 Tucker 优化：
   最后阶段通过联合优化 Tucker 因子（核心张量 $\mathcal{G}$ 和因子矩阵 $\mathcal{X}_1, \mathcal{X}_2$），以最小化复合目标函数。该函数平衡了对拟结构先验（$\hat{\mathcal{Q}} \times_2 \mathcal{S}$）的拟合与对流形引导插值估计（$\mathcal{C} \times_2 \hat{\Lambda}_\Omega$）的拟合：
   $$\min_{\hat{\mathcal{G}}, \hat{\mathcal{X}}_1, \hat{\mathcal{X}}_2} \alpha \|\hat{\mathcal{Q}} \times_2 \mathcal{S} - \mathcal{H}_{\text{recon}}\|_F^2 + (1-\alpha) \|\mathcal{C} \times_2 \hat{\Lambda}_\Omega - \mathcal{H}_{\text{recon}}\|_F^2$$
   其中 $\mathcal{H}_{\text{recon}} = \hat{\mathcal{G}} \times_1 \hat{\mathcal{X}}_1 \times_2 \hat{\mathcal{X}}_2 \times_3 \hat{\mathcal{X}}_1$。优化过程通过交替梯度下降完成。

理论分析
论文提供了一个非渐近重建误差界限（定理 1），该界限刻画了优化收敛性、采样复杂度与模型失配之间的相互作用。主要理论发现包括：

• 误差分解： 重建误差被分解为一个收缩优化项（随迭代次数呈几何级数衰减）和一个由模型失配（基函数误差和插值误差）引起的不可约近似误差。
• 采样复杂度： 分析表明，采样切片数 $d$ 必须随基子空间（$n, l$）的本征维度进行缩放，以确保采样算子满足子空间嵌入性质，从而控制由部分观测引入的失真。
• 收敛性： 在特定的初始化条件（位于吸引盆内）和适当的步长下，算法线性收敛至真值的邻域。

实验结果
作者在合成数据集和真实世界数据集上验证了 BMTA：

• 合成数据： 在由多项式与插值成分叠加生成的张量实验中，BMTA 在低到中度采样机制下，一致优于基准方法（Tucker 分解、TensorCUR 以及仅使用单一先验的消融变体）。BMTA 对噪声和模型失配表现出鲁棒性。
• 无线电图重建： 在合成的时空无线电图任务中，当观测切片数量有限时，BMTA 比竞争方法实现了更低的重建误差，有效地保留了其他方法容易平滑或扭曲的空间模式。
• 量子化学： 应用于来自化学反应系统（如 CF3CH3, TSoxo）的真实 Hessian 矩阵，当仅观测 5 个切片（$d=5$）时，BMTA 的重建误差比仅多项式、仅插值、Tucker 和 TensorCUR 等方法都要低。

意义与主张
论文声称，BMTA 特别是在受到结构化侧向切片采样约束的场景下，相比现有的张量近似方法提供了显著改进。其主要贡献在于集成了互补的全局（基函数）与局部（流形）先验，这使得即使在采样数量不足以可靠估计子空间的低秩方法时，也能实现精确重建。该工作确立了利用领域特定侧向信息（如反应坐标或已知基函数）对于在严苛采样约束下恢复高维张量数据的重要性。其理论界限进一步阐明了采样密度、模型准确度与优化收敛性之间的权衡关系。