📊 statistics

Multi-objective Bayesian optimization for Likelihood-Free inference in sequential sampling models of decision making

本文提出了用于似然无关推断的多目标贝叶斯优化（MOBOLFI），这是一种利用多源数据和多目标贝叶斯优化来高效近似似然、检测冲突信息，并改进决策过程中序列采样模型参数估计的新型方法。

原作者： David Chen, Xinwei Li, Eui-Jin Kim, Prateek Bansal, David Nott

发布于 2026-06-23

📖 1 分钟阅读☕ 轻松阅读

原作者： David Chen, Xinwei Li, Eui-Jin Kim, Prateek Bansal, David Nott

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名正在试图破解谜题的侦探，但你无法直接看到罪犯的面孔。你只有一个“模拟器”——一台可以根据关于谁是罪犯的不同理论来生成虚假犯罪现场的机器。你的目标是找出哪种理论（或一组参数）生成的虚假犯罪现场与你在现场发现的真实场景最为相似。

这正是**似然无关推断（Likelihood-Free Inference, LFI）**的核心挑战。在心理学或工程学等许多科学领域，计算“似然度”（即一个理论的概率有多大）所需的数学运算过于复杂，无法直接求解。因此，科学家们依赖于运行数千次模拟来推测答案。

旧方法：“蒙眼厨师”

以前，研究人员使用一种叫做 BOLFI（用于似然无关推断的贝叶斯优化）的方法。把这想象成一位试图完善汤品配方的厨师，但他被蒙上了眼睛。

厨师品尝一勺汤（运行一次模拟）。
他将汤的味道与“完美的”汤进行比较。
他猜测自己离目标还有多远（“差异度”）。
他稍微调整一下配方，然后再次尝试。

这种旧方法的问题在于当你拥有多个数据源时。想象一下你正在试图完善一份汤的配方，但你有两位评委：一位评判味道，另一位评判口感。

如果你将他们的评分合并为一个单一的数字（例如，“味道得分 + 口感得分”），你可能会得到误导性的结果。也许这汤味道极佳，但口感太黏稠。如果你只是简单地相加得分，你可能会忽略掉口感很差这一事实。
更糟糕的是，如果“完美的味道”需要很多盐，而“完美的口感”需要不放盐，那么将它们合并成一个分数就会让厨师感到困惑。厨师可能会陷入一个既无法满足味道、也无法满足口感的中庸状态，或者因为权重分配不当而完全忽略了其中一位评委。

新方法：MOBOLFI（“双轨侦探”）

作者提出了一种名为 MOBOLFI（用于似然无关推断的多目标贝叶斯优化）的新方法。

MOBOLFI 不再强迫两位评委（味道和口感）达成一致并合并为一个单一的分数，而是将它们视为两条独立的轨道。

多目标方法： 该算法运行一种“智能搜索”，寻找那些能同时兼顾味道和口感的配方，而无需将它们强行合并为一个数字。它会找到一个“帕累托前沿”（Pareto frontier）——在这个前沿上，你无法在不降低口感的前提下提高味道，反之亦然。
优势： 这让侦探能够看清冲突究竟在哪里。如果“味道”评委想要咸味的汤，而“口感”评委想要顺滑的汤，MOBOLFI 可以向你展示数据源之间是如何产生分歧的。它不会只给你一个模糊的平均值；它会清晰地展示出每一项数据都在告诉你什么。

现实案例：网约车司机研究

为了证明其有效性，作者将其应用于一项关于新加坡网约车司机是否决定租赁电动汽车（EV）的真实研究。

数据源： 他们从司机那里获得了两种类型的数据：
1. 选择数据： 他们选择了电动汽车还是燃油车？（“选择”评委）。
2. 反应时间数据： 他们做出这个决定花了多长时间？（“速度”评委）。
问题： 在心理学模型（称为序列采样模型）中，这两个数据点经常讲述不同的故事。一名司机可能很快就做出了选择（快速反应），但这可能是因为被迫做出的决定；或者他们可能在长时间思考后才做决定。
结果： 使用旧方法（BOLFI），模型可能会忽略这些细微差别，将速度和选择融合在一起，从而导致不够准确的图景。使用 MOBOLFI，研究人员可以观察到，“选择”数据主要驱动了关于偏好（他们喜欢什么）的决策，而“反应时间”数据则驱动了关于谨慎程度（他们思考得有多深入）的决策。

为什么这很重要

该论文声称新方法取得了三大胜利：

效率： 它能用比以前更少的计算机模拟次数找到最佳答案，从而节省时间和成本。
无信息丢失： 它避免了合并数据源时可能隐藏重要冲突的“融合”问题。
冲突检测： 它充当了“测谎仪”。如果你的数据源在互相矛盾（例如，选择显示“是”，但速度显示“我很困惑”），MOBOLFI 能立即察觉这种分歧，而旧方法可能只会将其平滑处理，从而给出一个错误的确定感。

简而言之，当你在处理具有多个潜在冲突证据的复杂模型时，MOBOLFI 是一种更聪明的方法，它确保你不会因为试图将一切强行塞入一个单一的数字而丢掉了问题的核心。

技术摘要：用于序列采样模型中无似然推断的多目标贝叶斯优化

1. 问题陈述

在许多科学领域，特别是心理学和消费者行为建模中，统计模型是由生成过程（模拟器）定义的，这些过程产生合成数据。虽然这种方式有利于整合领域知识，但这些模型通常具有难以处理的似然函数，使得传统的贝级推断无法实现。无似然推断（LFI），或称为基于模拟的推断（SBI），通过仅依赖模型模拟来解决这一问题。

当处理多源数据（例如序列采样模型中的选择结果和反应时间）时，存在一个特定的挑战。现有的高效 LFI 方法（如用于无似然推断的贝叶斯优化，即 BOLFI）通常需要将来自多个数据源的差异性组合成单个标量指标。这种组合往往是武断的；如果处理得不够谨慎，可能会导致：

信息丢失： 不同数据源的相对重要性可能会被掩盖。
保守的确定性量化： 生成的后验分布可能会过于弥散。
无法检测冲突： 如果数据源提供相互冲突的信息（例如由于模型误设定），单个组合后的差异度可能会无法同时探索所有数据源的高似然区域。

目前的结构化密度估计方法（例如合成似然法）通常需要过多的模拟次数，这使得它们不适用于计算成本高昂的模拟器。

2. 方法论：MOBOLFI

作者提出了多目标贝叶斯优化用于无似然推断（MOBOLFI）。该方法通过将每个数据源的差异视为多目标优化框架中的独立目标，扩展了单源 BOLFI 的方法。

核心机制

多维差异： 代替单一的差异 $\Delta$ ，MOBOLFI 定义了一个差异向量 $\mathbf{D}(\theta) = (D_1(\theta), \dots, D_K(\theta))^\top$ ，其中每个 $D_k$ 代表第 $k$ 个数据源的模拟数据与观测数据之间的预期差异。
代理模型： 使用多元高斯过程（GP）作为向量值差异函数 $\mathbf{D}(\theta)$ 的代理模型。该模型不仅捕捉每个差异中的不确定性，还捕捉不同数据源之间差异的依赖结构（协方差）。
多目标贝叶斯优化（MOBO）： 该算法采用 MOBO 来顺序选择模拟参数 $\theta$ 。具体而言，它使用了**带噪声的期望超体积改进（NEHVI）**采集函数。该函数引导搜索趋向于“帕累托前沿”（Pareto frontier）——即在这些参数值下，所有数据源的差异度能同时达到最小化（或者说，在不恶化其他源的情况下，无法进一步改善单个源的差异度）。
似然近似： 一旦训练好 GP 代理模型，它便会对差异分布进行近似。联合数据和单个数据源的似然函数通过利用源自 GP 预测的多元正态分布的累积分布函数（CDF）进行近似。
- 联合似然近似为 $p(\mathbf{S}_{obs}|\theta) \propto \Phi(\mathbf{t}; \boldsymbol{\mu}_n(\theta), \boldsymbol{\Sigma}_n(\theta) + \boldsymbol{\Sigma})$ 。
- 单个数据源的边缘和条件似然（例如 $p(T_{obs}|\theta)$ ）通过分解多元概率进行推导，从而允许对数据子集进行单独的推断。

实现细节

容差选择： 容差向量 $\mathbf{t}$ 根据训练差异的 $q$ -分位数进行设置（例如 $q=0.05$ ）。
缩放： 为了确保数值稳定性并进行有效探索，差异度会被缩放（例如使用平均绝对偏差），使其在输入 MOBO 算法之前处于相似的数量级。
后验采样： 近似似然被用于马尔可夫链蒙特卡洛（MCMC）算法（具体为微分进化 MCMC），以便在无需进一步进行昂贵模拟的情况下，从近似后验分布中进行采样。

3. 主要贡献

本文概述了三个主要贡献：

高效探索不相交的高似然区域： MOBOLFI 可以在单次运行中探索多个数据源的高似然区域，即使这些区域是不相交的（这种情况在模型误设定时很常见）。这对于依赖单一组合指标的方法来说很难，因为后者容易陷入单一指标的局部最优解。
避免信息丢失： 通过避免需要将差异合并为单个标量，MOBOL_FI 保留了每个数据源独特的的信息内容。这防止了在使用武断权重合并差异时常见的“高度保守”的确定性量化现象。
诊断能力： 该方法能够近似单个数据源的似然函数。这使得研究人员能够：
- 检查数据源之间是否存在冲突信息（模型检查）。
- 确定特定参数估计中特定数据源的相对重要性。

4. 实验结果

作者通过三个示例验证了 MOBOLFI：

A. 玩具示例（布朗运动）

设置： 一个包含两个数据源（正态观测和离散化布朗运动）以估计 10 维参数的合成模型。
发现：
- 与使用加权差异和的 BOLFI 相比，MOBOLFI 生成的后验分布具有更低的方差，且更接近真实的后验分布。
- MOBOLFI 成功地恢复了单个数据源的真实后验（仅基于其中一个源进行条件化），且在联合运行后无需额外的计算成本。
- 在误设定场景下（即两个数据源由不同的真实参数生成），MOBOLFI 识别出了冲突的信息，而 BOLFI 生成的后验模态位于两个冲突真相之间，未能捕捉到两个独立的高似然区域。

B. 合成 MLBA（多属性线性弹道累积器）

设置： 一种用于决策制定的序列采样模型（SSM），拟合到合成的选择和反应时间（RT）数据。MLBA 的闭式似然函数作为“金标准”。
发现：
- MOBOLFI 的后验分布明显比 BOLFI 更接近闭式金标准。
- MOBOLFI 表明，**反应时间（RT）数据对于估计后端参数（决策阈值/难度）至关重要，而选择（CH）**数据对于前端参数（偏好）更具信息量。
- 在误设定场景中，MOBOLFI 有效地探索了参数空间，识别出靠近冲突真实参数的局部最优解，而 BOLFI 则未能同时在两个源的高似然区域内进行充分探索。

C. 现实世界数据（网约车司机）

设置： 一项关于新加坡网约车司机对电动汽车（EV）偏好的实证研究，使用了选择和 RT 数据。
发现：
- MOBOLFI 的近似结果比 BOLFI 的更接近闭式似然估计。
- 分析显示，虽然选择数据驱动了偏好参数的估计，但 RT 数据对于估计决策阈值是必不可少的。
- 联合数据比单一的边缘数据源提供了更高效的估计。

D. 托儿所示例（附录）

设置： 基于来自多个中心的汇总统计量对细菌传播率进行推断。
发现： 即使在单源背景下（当数据汇总被划分时），MOBOLFI 的表现也与 BOLFI 相当，展示了其鲁棒性。

5. 重要性与主张

本文声称 MOBOLFI 为具有多个数据源的复杂、计算昂贵模型提供了一个稳健的贝叶斯推断框架。其重要性在于：

处理误设定： 它提供了一种检测和分析数据源之间冲突的机制，这对于像 SSM 这样复杂的模型进行值得信赖的分析至关重要。
模拟效率： 与需要大量数据进行密度估计的方法相比，它能以更少的模拟次数实现准确的近似，使其适用于昂贵的模拟器。
可解释性： 通过分离似然贡献，它提供了更深入的见解，即哪些数据源驱动了特定参数的估计，而这一特性在单差异方法中会丢失。

作者指出，虽然 MOBOLFI 是受 SSM 启发，但它适用于任何具有多源数据的 LFI 问题。他们承认目前仍存在挑战，例如对汇总统计量选择的敏感性以及对 BO 算法初始化的依赖，并建议将其作为未来的研究方向。