📊 statistics

Neural Networks for Parameter Estimation of the Discretely Observed Hawkes Process

本文提出了一种计算高效的无似然方法，该方法利用在模拟数据上训练的全连接神经网络来估计离散观测霍克斯过程（Hawkes processes）的参数，在实现与现有近似似然估计量相当的准确度的同时，显著降低了计算时间并实现了快速的不确定性量化。

原作者： Jason J. Lambe, Feng Chen, Tom Stindl, Tsz-Kit Jeffrey Kwan

发布于 2026-06-23

📖 1 分钟阅读☕ 轻松阅读

原作者： Jason J. Lambe, Feng Chen, Tom Stindl, Tsz-Kit Jeffrey Kwan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是使用简单语言和日常类比对该论文进行的解释。

核心问题：“盲目计数”

想象一下，你正试图了解一家非常繁忙的咖啡店。你想确切知道每一个顾客是在何时走进门的，以及有多少新顾客是因为之前的热度而来的（自我激发效应）。这就是“霍克斯过程”（Hawkes Process）所建模的内容：即一个事件会触发更多事件，就像地震引发余震，或者一条热门推文引发更多的转发一样。

通常情况下，要理解这家咖啡店的规则，你需要一段记录了每一次到达时间的完美视频录像。但在现实世界中，你通常只有一个每日日志本。你知道在 9:00 到 10:00 之间来了 15 个人，在 10:00 到 11:00 之间来了 20 个人。但你并不知道他们具体是在什么时候到达的，只知道那一小时内的总数。

在统计学中，这被称为离散观测或“区间删失”。问题在于，当你只有这些计数时，通过数学手段来推导底层规则（参数）的过程会变得极其复杂。这就像是在玩一个 1000 片的拼图，但你手里只有包装盒上的图案，而所有的拼图碎片都混在一个袋子里。

旧有的解决方案：要么慢，要么有偏差

科学家们以前也尝试过解决这个问题，但遇到了瓶颈：

“猜想与校验”法： 有人尝试先猜测缺失的时间，然后再不断修正这个猜测。这种方法很快，但往往会导致错误的答案（存在偏差）。
“超级计算机”法： 另一些人开发了一种极其精确的方法，但它消耗的计算能力巨大，就像为了烧开一个鸡蛋而动用了核反应堆。虽然有效，但对于实时应用来说太慢了。

新的解决方案：“AI 教练”

本文作者提出了一个聪明的变通方法。他们不再试图在每次获得新数据时都去解那个不可能的数学方程，而是训练了一个神经网络（NN）——一种人工智能——来充当一名经验丰富的教练。

以下是他们如何训练这位教练的：

模拟世界： 他们创建了一个咖啡店（霍克斯过程）的计算机模拟系统，进行了数千次模拟。在每次模拟中，他们都知道“真实的规则”。
制作日志本： 对于每一次模拟，他们假装自己只有一个每日日志本（计数），从而隐藏了准确的到达时间。
“快速估算”技巧： 为了帮助 AI 学习，他们使用了一个简单的快速技巧来对缺失的时间进行粗略估计。你可以把它想象成教练看着日志本说：“如果一小时内来了 15 个人，那我们就假设他们是均匀间隔到达的。”这并不完美，但它是一个很好的起点。
训练： 他们将“粗略估计”和“日志本计数”一起输入给 AI，并要求它预测最初设定的“真实规则”。AI 学习到了这种模式：“当日志本看起来像 X 且我的粗略估计是 Y 时，真实的规则就是 Z。”

统计摘要的魔力

这篇论文的核心创新在于他们喂给 AI 的数据。他们并没有把整个日志本交给 AI（因为日志本可能非常庞大），而是给了它一个统计摘要（Summary Statistic）。

想象一下，你正在尝试预测天气。你不需要知道每一秒钟的温度，你只需要知道平均温度、最高温度和最低温度。

作者创建了一个数据的“摘要”，它捕捉了关于过程规则的最重要线索。
因为这个摘要既小又简单，所以 AI 可以非常快地学习它。
一旦训练完成，AI 就可以查看一个新的日志本，计算出这个简单的摘要，然后瞬间给出答案。

为什么这是一个游戏规则的改变者

该论文声称取得了三大胜利：

速度： 这个 AI 是“摊销”的（Amortized）。这意味着繁重的计算工作（训练）只发生一次。在那之后，做出预测只需不到一秒钟。这就像买了一张地图后，就可以在任何城市中即时导航，而不是每次出门都要重新画一张地图。
准确性： 尽管 AI 是基于“粗略估计”进行训练的，但它的表现与前面提到的“超级计算机”法（PMMH）一样出色。
不确定性： AI 不仅仅给出一个答案，它还会给出一个范围。它可以说：“我有 95% 的把握确定规则在 X 和 Y 之间。”这对于了解结果的可信度至关重要。

现实世界测试

作者在两个现实场景中测试了这种方法：

东京的麻疹病例： 他们分析了每周的麻疹病例计数。
澳大利亚的沙门氏菌： 他们分析了每周的沙门氏菌病例计数，并考虑了季节性变化（例如流感在冬季的高峰）。

在这两种情况下，AI 方法产生的结果与现有的最精确方法非常相似，但速度却快得多。

总结

这篇论文介绍了一种利用人工智能来解决原本需要巨大计算能力的复杂数学问题的方法。通过在模拟数据上进行训练并使用一种巧妙的信息“摘要”，他们创造了一个工具，该工具快速、准确，并且能够处理那些我们只知道总量、不知道精确发生时间的现实世界数据。

技术摘要：用于离散观测霍克斯过程参数估计的神经网络

问题陈述
霍克斯过程（Hawkes process）是一种自激点过程，广泛应用于地震学、金融学和流行病学等领域。虽然对于连续观测数据，通过极大似然法（ML）或期望最大化算法（EM）进行参数估计已趋于成熟，但当过程仅被离散观测（区间截断）时，这些方法会变得难以实现。在这种设定下，仅已知各不相交时间间隔内的总事件计数，导致似然函数在解析上是不可行的。

现有处理该问题的方法在准确性和计算效率之间面临权衡。近似方法（如 Shlomovich 等人，2022b；以及 Schneider 和 Weber，2023）试图重建潜在事件时间，但表现出显著偏差。相反，高精度方法（如 Chen 等人，2025 的伪边际 Metropolis–Hastings 算法，PMMH）在计算上极其昂贵，尤其是在处理非马尔可夫过程或大规模数据集时。因此，需要一种既能提供与 PMMH 相当的精度，又能显著降低计算成本的估计器。

方法论
作者提出了一种利用全连接前馈神经网络（NN）从计数数据的统计量中估计霍克斯过程参数的无似然方法。该方法由三个核心部分组成：

统计量构建：
作者并非将原始计数序列直接输入网络，而是基于“朴素”插补估计构建了一个低维统计量。
- 单次插补估计： 对于马尔可夫（指数核）情况，通过在观测区间内均匀分布事件来构建一个潜在样本路径。随后，从该插补路径中计算霍克斯过程参数的极大似然估计（MLE）。这作为一个具有高度信息量的最小维度统计量。
- 负二项自回归（NBAR）： 对于非马尔可夫（非指数）核，插补估计通过 NBAR 参数进行补充。通过对观测到的计数拟合 NBR 模型，以捕捉依赖结构和过度离散性，从而提供有关后代密度的额外信息。
- 适应性： 该统计量旨在处理不等长的截断区间和随时间变化的背景率，通过归一化速率并使用分段近似处理背景体积来实现。
神经网络架构与训练：
- 输入/输出： 神经网络接收统计量作为输入，并输出包含每个参数的后验中位数（点估计）以及上下 $\tau$ -分位数的向量。这实现了同步的点估计与贝叶斯不确定性量化。
- 损失函数： 网络使用分位数损失函数（pinball loss）进行训练，以瞄准后验分布 $p(\theta | s)$ 的特定分位数。
- 摊销推断（Amortised Inference）： 神经网络是在大型模拟数据集（从先验中生成的参数-观测对）上进行一次性训练。训练完成后，网络通过单次前向传播即可对新数据进行推断，使得无论样本路径长度如何，推断成本都微乎其微。
先验分布：
作者对正参数使用了“反向 Softplus 正态”（ISN）先验，对分支比 $\eta$ 使用了 Logit-normal 先验。这些选择具有实用性，旨在使先验在小参数值附近以及单位区间内拥有足够的质量，从而在不显著影响泛化能力的情况下提高神经网络在处理小参数值时的性能。

关键结果
模拟实验表明，所提议的神经网络估计器在准确度（均方误差）和覆盖概率方面表现出与最先进的 PMMH 估计器相当的性能。

准确度： 对于指数核，神经网络估计值的经验偏差极小，在各种聚合水平（ $\Delta$ ）下均与 PMMH 结果紧密匹配。
效率： 与 PMMH 相比，神经网络方法实现了计算时间的剧烈缩减。PMMH 需要迭代采样且计算成本高昂，而神经网络在初始训练阶段完成后，可提供近乎瞬时的推断。
对比其他方法： 该神经网络估计器在准确性和稳定性方面均优于谱方法（Whittle 估计器）和有偏重构方法（MCEM）。
实际应用： 该方法被应用于东京的每周麻疹数据和新南威尔士州的沙门氏菌数据。结果复现了以往研究（Cheysson 和 Lang，2022；Chen 等人，2025）的发现，并成功模拟了具有季节性波动的时变背景率。

意义与主张
论文声称，所提方法成功弥合了高精度似然法（如 PMMH）与实际应用所需的计算效率之间的差距。

摊销推断： 一个主要贡献是展示了“摊销推断”，即计算成本完全转移到了训练阶段。这使得分析长样本路径或实时数据无需重新训练或额外的模型拟合。
对数据约束的鲁棒性： 该方法能够处理不等长的区间和随时间变化的背景率，克服了现有谱方法和近似似然法的局限性。
不确定性量化： 不同于许多缺乏标准误差估计的近似方法，该神经网络通过分位数估计直接提供边际置信区间。
简洁性： 其统计量依赖于简单的插补和自回归，与复杂的潜在路径重构方案相比，所需的专家知识极少。

作者得出结论，虽然 PMMH 算法仍是准确性的金标准，但对于离散观测的霍克斯过程，神经网络估计器提供了一种高度可扩展、快速且准确的替代方案，特别是在对速度和可扩展性要求极高的场景下。