Embedded Model Form Uncertainty Quantification with Measurement Noise for Bayesian Model Calibration

论文技术总结：基于测量噪声的嵌入模型偏差量化用于贝叶斯模型校准

1. 研究背景与问题 (Problem)

在物理系统的计算机模拟中，参数校准对于确保预测准确性至关重要。然而，模型校准面临两大主要不确定性来源：

1. 数据噪声 (Aleatoric Uncertainty)：传感器测量中的随机误差。
2. 模型偏差/不足 (Epistemic Uncertainty / Model Inadequacy)：由于物理假设简化、忽略复杂机制或模型结构错误导致的系统性偏差。

核心挑战：

• 传统贝叶斯方法的局限性：当模型存在不足时，传统的贝叶斯校准往往会导致后验分布坍缩为狄拉克 $\delta$ 函数（即参数估计过于自信），无法反映真实系统的变异性，导致预测不可靠。
• 现有偏差修正方法的缺陷：
  • 外部修正 (External Correction)：如 Kennedy & O'Hagan (2001) 提出的高斯过程修正项，虽然能拟合观测数据，但修正项缺乏物理意义，且无法将不确定性传播到未观测的感兴趣量 (Quantities of Interest, QoIs)。
  • 内部修正 (Internal Correction / PUI)：如 Sargsyan 等人提出的参数嵌入方法（Parameter Uncertainty Inflation, PUI），将模型不足作为随机变量嵌入到模型参数中。虽然能传播不确定性，但现有方法（如基于多项式混沌展开 PCE 的方法）在处理测量噪声时存在缺陷：
    • 对预设噪声模型的误设（Misspecification）非常敏感。
    • 难以处理无法通过参数调整解释的异常值（Outliers）或偏移（Offsets）。
    • 现有的似然函数（如 ABC 和独立正态分布）在结合噪声时往往导致过拟合或方差估计偏差。

2. 方法论 (Methodology)

本文提出了一种可解释性更强的嵌入模型偏差框架，并改进了似然函数以正确处理测量噪声。

2.1 嵌入模型偏差框架 (Embedded Model Form Uncertainty)

• 核心思想：将模型不足 $\delta$ 显式地添加到待推断的确定性参数 $\theta_m$ 中，形成随机参数 $\tilde{\theta} = \theta_m + \delta(\theta_b)$。
  • $\theta_m$：参数的确定性部分（均值）。
  • $\theta_b$：控制偏差幅度的随机参数（方差）。
  • 假设 $\delta \sim \mathcal{N}(0, \text{diag}(\theta_b))$。
• 优势：
  • 可解释性：相比 Sargsyan 等人的多项式混沌展开（PCE）系数，这种显式的加性偏差更容易识别不确定性的来源。
  • 不确定性传播：由于不确定性直接嵌入在参数中，校准后的参数分布可以直接传播到任何使用该参数的 QoI（如热通量），而无需额外的修正项。
  • 计算效率：利用 PCE 近似前向模型的随机响应，避免了传统分层贝叶斯方法中嵌套采样的计算开销。

2.2 改进的似然函数 (Likelihood Formulations)
为了处理测量噪声并解决现有方法的缺陷，论文提出了四种似然函数，并重点分析了噪声的影响：

1. 带噪声的 ABC 似然 (ABC with Noise)：
   • 基于 Sargsyan 的方法，但显式引入了测量噪声 $\sigma_N$。
   • 通过统计矩（均值和方差）匹配观测数据。
   • 关键修正：引入了系数 $\gamma = \sqrt{\pi/2}$ 来校正半正态分布的期望值，避免低估预测方差。
2. 独立正态似然 (Independent Normal, IN)：
   • 假设残差服从独立正态分布，直接利用预测均值和方差构建高斯似然。
3. 全局矩匹配似然 (Global Moment-matching, GMM)：
   • 新提出。不针对每个数据点单独匹配，而是将所有残差视为来自一个高斯混合模型的样本。
   • 利用 Cochran 定理，将样本均值和方差的分布建模为高斯分布和卡方分布，从而构建似然函数。
   • 优势：对异常值具有鲁棒性，通过整体数据分布进行正则化。
4. 相对全局矩匹配似然 (Relative Global Moment-matching, RGMM)：
   • 新提出。GMM 的改进版，对残差进行归一化处理（除以预测标准差）。
   • 优势：特别适用于异方差噪声（Heteroscedastic noise）或预测方差变化剧烈的情况，防止高方差区域主导似然函数。

2.3 不确定性传播

• 不同于仅使用最大后验估计（MAP）点估计，本文主张全后验分布传播。
• 将推断出的联合后验分布 $\pi(\theta_m, \theta_b | y)$ 直接推演到前向模型 $f$ 或 QoI 函数 $g$ 中，生成 QoI 的完整概率分布，从而评估预测的可信度。

3. 关键贡献 (Key Contributions)

1. 可解释的嵌入框架：提出了一种比传统 PCE 系数更直观的参数嵌入方法，明确分离了参数均值和模型偏差方差，便于识别不确定性来源。
2. 测量噪声的显式处理：深入分析了测量噪声误设对嵌入方法的影响，修正了 ABC 似然中的系数 $\gamma$，并提出了 GMM 和 RGMM 两种新似然函数以缓解噪声敏感性和异常值影响。
3. 鲁棒性分析：系统评估了不同似然函数在噪声误设、数据偏移（Offset）和异常值（Outliers）情况下的表现。
4. QoI 不确定性传播：展示了如何将嵌入的不确定性传播到非观测的 QoI（如累积热通量），证明了该方法能提供比传统方法更可靠的预测置信区间。

4. 实验结果 (Results)

论文通过两个案例进行了验证：

案例一：一维线性模型 (Simple Linear Example)

• 设置：$y = \theta x + \epsilon$，测试不同噪声水平、偏移量和异常值。
• 发现：
  • ABC 方法：对噪声误设极其敏感。当预设噪声 $\sigma_N$ 大于真实噪声时，ABC 倾向于过度拟合，导致参数估计偏差大且方差估计不准确。
  • GMM/RGMM/IN：对噪声误设表现出更强的鲁棒性。
  • 异常值：ABC 受异常值影响最大；RGMM 和 IN 在低方差区域的异常值影响较大，但 GMM/RGMM 通过整体数据匹配减轻了单一异常点的影响。
  • 偏移量：当数据存在无法解释的偏移时，所有嵌入方法都会调整参数以覆盖数据，但 RGMM 和 IN 在偏移较大时表现略差于 GMM。

案例二：瞬态热传导模拟 (Transient Thermal Simulation)

• 设置：模拟钢筋混凝土结构的瞬态热传导。
  • 生成模型：包含钢筋（双相材料，高导热）。
  • 前向模型：简化为各向同性混凝土（单相材料，低导热），存在模型不足。
  • 目标：利用温度传感器数据校准热扩散率 $\alpha$，并预测通过中线的累积热通量 $Q_{obj}$。
• 发现：
  • 参数校准：所有方法均能校准出比真实混凝土扩散率更高的 $\alpha$ 值，以补偿钢筋带来的额外热传导（即模型不足被参数化）。
  • QoI 预测：
    • 无偏差模型：预测结果过于自信（方差接近零），且预测值偏离真实值 >10 kJ，无法覆盖真实值。
    • 嵌入模型：所有嵌入方法生成的预测分布均能覆盖真实累积热通量（约 91338 J）。
    • 分布形态：ABC 产生的 QoI 分布较宽但均值集中；GMM、RGMM 和 IN 产生的分布更集中，但均值和方差略有不同。
  • 结论：嵌入方法成功量化了由于模型简化（忽略钢筋）带来的不确定性，并可靠地将其传播到了热通量预测中。

5. 意义与结论 (Significance & Conclusion)

• 理论意义：本文解决了贝叶斯模型校准中“模型不足”与“测量噪声”耦合处理的难题，特别是指出了传统 ABC 方法在噪声误设下的脆弱性，并提供了更稳健的替代方案（GMM/RGMM）。
• 工程应用价值：
  • 为数字孪生（Digital Twins）提供了更可靠的预测工具。通过嵌入模型偏差，工程师可以量化由于模型简化带来的风险，而不仅仅是参数不确定性。
  • 实现了从观测数据到非观测 QoI 的全不确定性传播，使得基于模型的决策（如结构寿命评估）更加可信。
• 未来展望：
  • 该方法目前假设偏差项相互独立，未来需研究参数间偏差的相关性结构。
  • 需要进一步在真实传感器数据上验证，并探索与分层贝叶斯方法的深度结合。

总结：该论文提出了一套完整的、可解释的贝叶斯校准框架，通过显式嵌入模型偏差并改进似然函数，有效解决了模型不足和测量噪声共存时的不确定性量化难题，显著提升了复杂物理系统预测的可靠性。