技术摘要：基于最大熵似然合成的精度有界估计传感器设计

1. 问题陈述

在大规模时空系统中，当估计精度要求已知，但底层传感器模型（前向模型）不确定、不可用或过于复杂时，设计传感架构极具挑战性。经典的传感器设计遵循顺序工作流：从传感器物理特性推导测量似然，然后优化布局以最小化预测误差。当无法指定准确的前向模型，或必须在缺乏详细组件表征的情况下保证系统级精度时，这种方法就会失效。

此外，在涉及模型不确定性、异构传感器或机器学习增强估计的场景中，测量似然往往定义不清。标准的鲁棒化技术（例如极小化极大滤波器、协方差膨胀）假设存在参数化似然族，并试图在其中寻找保护性设置。本文解决的是逆问题：给定先验分布（来自动力学预测步骤）和期望的后验分布（编码精度预算），合成能够强制执行该预算同时注入最少必要信息的测量似然。

核心挑战在于确定传感器必须提供的“信息结构”，以便在不依赖物理传感器数据或噪声模型的情况下，弥合先验 $\pi^-_k$ 与目标后验 $\pi^\star_k$ 之间的差距。

2. 方法论

所提出的框架反转了标准的贝叶斯更新过程。它不是从似然推导后验，而是通过求解约束优化问题来合成似然。

A. 最大熵公式

该问题被表述为寻找一个后验分布 $\pi^+_k$，使其在精度预算 $\epsilon_k$ 内接近期望目标 $\pi^\star_k$，同时相对于先验 $\pi^-_k$ 尽可能保守。这是通过最小化后验与先验之间的 Kullback-Leibler (KL) 散度来实现的，同时受分布精度约束：

$$\begin{aligned} \min_{\pi \ll \pi^-_k} \quad & D_{KL}(\pi \parallel \pi^-_k) \\ \text{s.t.} \quad & D(\pi, \pi^\star_k) \leq \epsilon_k \end{aligned}$$

此处，$D$ 是代表精度度量的差异泛函。解 $\pi^{opt}_k$ 是一个最大熵后验。隐含的似然函数 $L_k$ 随后作为 Radon-Nikodym 导数被恢复：
$$L^{opt}_k(x) \propto \frac{d\pi^{opt}_k}{d\pi^-_k}(x)$$

B. 差异度量

该框架对差异 $D$ 的具体选择具有无关性。本文针对几种度量实例化了优化问题，每种度量都诱导了不同的优化结构：

1. Wasserstein 距离 ($W_p$)： 衡量传输概率质量的成本。即使对于非重叠支撑集，它也是良定义的。由此产生的问题是对后验权重和传输计划矩阵的联合凸优化，可通过带有拉格朗日乘子二分法的 Sinkhorn 算法求解。
2. 最大均值差异 (MMD)： 使用核均值嵌入来比较分布。约束变为粒子权重中的凸二次规划。
3. $f$-散度（例如 $\chi^2$、KL）： 要求后验相对于目标是绝对连续的。对于粒子滤波器，这需要共享支撑集或核平滑插值。
4. 矩约束： 约束特定特征（例如均值、协方差）。这导致计算高效的二阶锥规划或线性规划，但不能保证完整的分布保真度。
5. 混合度量： 支持多个同时约束。

C. 粒子级实现

该框架在离散粒子集上运行。连续优化被离散化为一个重新加权先验粒子 $\{x_{k,i}, w^-_{k,i}\}$ 的问题，以满足相对于目标粒子 $\{z_{k,j}, v_{k,j}\}$ 的精度约束。最优权重 $w^{opt}_{k,i}$ 通过求解约束优化找到，似然值则作为比率 $w^{opt}_{k,i} / w^-_{k,i}$ 被恢复。

D. 双层传感器设计架构

合成的似然作为估计目标与物理硬件之间的桥梁：

• 第 1 层（信息设计）： 求解最大熵问题，确定满足精度预算所需的理想似然形状 $L^\star_k$。
• 第 2 层（传感器配置）： 拟合参数化传感器模型（例如代表传感器位置和带宽的高斯核混合模型）以逼近理想似然。该层最小化物理传感器能力与合成信息需求之间的“可实现性差距”。

E. 参数化蒸馏

为了使非参数化似然可用于递归滤波器或通信，本文提出了一种“蒸馏”程序。使用对数域中的尺度不变加权最小二乘法，将理想似然样本拟合到参数化族（例如高斯混合模型或指数族）。

3. 主要贡献

1. 差异无关框架： 一种通过 KL 最小化合成似然的通用方法，受任意分布精度约束限制，提供了从误差容限到传感架构的直接路径，无需测量数据。
2. 度量实例化： 详细推导了 Wasserstein 距离、MMD、$f$-散度和矩约束的粒子级优化问题，包括结构分析和复杂度扩展。
3. 闭式解： 推导了对称情况（二阶矩约束）下的指数倾斜解，恢复了类卡尔曼更新结构。
4. 双层架构： 一种将精度有界估计与物理传感器配置（布局、精度和混合权重）联系起来的系统方法，区分了信息设计与物理可实现性。
5. 实证验证： 数值实验表明，度量选择显著影响注入信息的空间分布，特别是在多模态场景中。

4. 结果

A. 单模态与多模态场景

本文在两个场景下比较了四种度量（Wasserstein、MMD、矩、$\chi^2$）：

• 场景 A（高斯到高斯）： 对于单模态分布，所有度量产生相似的后验形状，主要差异在于方差。合成的似然几乎相同，表明简单问题的度量依赖性有限。
• 场景 B（多模态到多模态）： 对于复杂的多模态分布，度量产生定性不同的结果：
  • Wasserstein： 几何地将质量传输到目标模式，实现高分布精度，但需要最高的信息注入（KL 成本）。
  • MMD： 通过核平滑产生宽后验，覆盖目标支撑集，但不解析精细的双峰结构。
  • 矩约束： 匹配均值和协方差，但几乎不偏离先验，导致保守更新且几何拟合差。
  • $\chi^2$-散度： 惩罚点对点密度比，产生具有独特形状的紧密后验。

B. 传感器可实现性

将双层流程应用于 Wasserstein 度量的实验表明：

• 在单模态情况下，单个传感器 ($R=1$) 可以近乎完美地实现理想似然。
• 在多模态情况下，单个传感器无法捕捉结构。然而，增加传感器数量 ($R \geq 2$) 会迅速减少拟合误差和可实现性差距，使物理传感器配置能够匹配理想似然形状。

5. 意义与主张

本文声称提供了一种用于传感器设计的无数据构建方法。似然不是从观测中估计出来的，而是从精度规范和先验中合成出来的。这建立了系统级精度预算与物理传感器配置之间的直接联系，无需详细的前向模型或校准数据。

其意义在于：

• 反转设计流程： 从“传感器物理 $\to$ 似然 $\to$ 精度”转变为“精度预算 $\to$ 似然 $\to$ 传感器配置”。
• 处理不确定性： 在测量模型未知或不可靠时，为估计提供严格的方法。
• 度量敏感性： 证明精度度量的选择不仅仅是数学细节，而是从根本上决定了传感器必须注入信息的位置和数量，特别是在复杂的多模态环境中。
• 实际可行性： 表明通过提出的蒸馏和拟合程序，理想的非参数化信息需求可以有效地由实用的参数化传感器族（例如高斯混合模型）进行近似。

作者指出，该框架在理论上与维度无关，但承认高维问题在实际扩展方面存在挑战（粒子数量和传感器参数化），建议未来在近似方法方面开展工作。该方法被呈现为静态传感器网络（离线配置）和动态可重构传感平台的设计工具。