技术摘要：用于标记泊松点过程狄利克雷过程混合的拉普拉斯变分推断

问题陈述

本文解决了在连续域上对复制的**标记泊松点过程（MPPP）**进行聚类的挑战。在许多应用（如生物学、宇宙学、体育分析）中，数据由多个主体组成，每个主体生成一组具有相关属性（标记）的有限事件集合。推断的目标是识别共享相似事件强度结构和标记分布的潜在主体群组。

现有方法面临显著局限性：

1. 离散化：许多方法需要对连续域进行网格化或对过程进行稀疏化，这会引入近似误差和计算不稳定性，尤其是在高维或几何形状不规则的情况下。
2. 模型僵化：先前的聚类方法通常依赖于参数族，或者无法联合推断聚类数量和连续强度曲面。
3. 推断复杂性：标准的对数链接模型（对数高斯 Cox 过程）存在不可处理的似然积分问题，而替代链接（如平方链接）则引入了非共轭性和优化病理（符号歧义和节点线）。

作者旨在开发一种贝叶斯非参数模型，该模型能够联合推断潜在聚类分配、聚类数量以及连续标记特定强度曲面，且无需对域进行离散化，同时提供一种可扩展且理论可靠的推断算法。

方法论

1. 模型构建：DPM-MPPP

作者提出了标记泊松点过程的狄利克雷过程混合模型（DPM-MPPP）。

• 数据结构：对于每个主体 $i$，观测值包括域 $B$ 中的点 $Y_i$ 和二元标记 $m_i \in \{0, 1\}$。偏移量 $T_i$（例如时间、面积）用于解释不同的暴露水平。
• 聚类机制：主体通过具有浓度参数 $\alpha$ 和基础测度 $G_0$ 的狄利克雷过程（DP）被分配到聚类 $z_i$。DP 允许对聚类数量进行非参数推断。
• 强度建模：在聚类 $k$ 内，标记 $m$ 的强度建模为：
  $$\lambda_{km}(y) = h(W_{km}(y)) = (B(y)^\top \theta_{km})^2$$
  其中 $B(y)$ 是非负基函数向量（例如 B 样条），$\theta_{km}$ 是系数，$h(x)=x^2$ 是平方链接函数。
• 关键特征：该模型使用偏移量 $T_i$ 将总体事件量与空间和标记特定结构分离开来。这确保了聚类是由空间偏好和标记组成驱动的，而不是由总事件计数驱动的。
• 标记依赖性：该模型诱导了一个空间变化的标记概率曲面 $p_k(y) = \lambda_{k1}(y) / (\lambda_{k0}(y) + \lambda_{k1}(y))$，捕捉事件发生与标记之间的依赖性。

2. 推断算法：约束拉普拉斯变分贝叶斯

为了执行后验推断，作者开发了一种**变分贝叶斯（VB）**算法。

• 挑战：平方链接函数产生了可处理的似然积分（避免了对网格离散化的需求），但导致基系数 $\theta_{km}$ 的后验分布非共轭。标准的坐标上升法无法提供闭式更新。
• 解决方案：作者针对非共轭块 $\theta_{km}$ 引入了约束拉普拉斯近似。
  • 符号歧义与节点线：平方链接在 $\theta \to -\theta$ 下是不变的，从而产生符号歧义。此外，如果 $\theta^\top B(y)$ 穿过零点，则会形成“节点线”，导致强度消失，进而引起优化不稳定和局部模式。
  • 约束优化：为了解决这一问题，模式查找问题被限制在严格正腔室 $D_\delta = \{ \theta : \|\theta\|_2 \le R, \inf_{y \in B} B(y)^\top \theta \ge \delta \}$ 内。
  • 算法步骤：
    1. 通过闭式坐标上升更新共轭块（stick-breaking 权重、聚类分配、方差参数）。
    2. 通过在 $D_\delta$ 内使用约束优化（例如 L-BFGS-B）寻找变分目标函数的模式，来更新非共轭系数 $\theta_{km}$。
    3. 使用在约束模式处评估的逆 Hessian 矩阵近似 $\theta_{km}$ 的后验协方差。

3. 理论保证

本文为约束拉普拉斯近似提供了严格的理论支持：

• 一致性：正腔室上目标函数的总体最大化器是唯一的，并且严格位于可行集 $D_\delta$ 内部，远离零边界。
• 分离：符号变化的系数（导致节点线）被证明具有严格低于正（或负）腔室模式的经验目标值。
• 指数主导：符号变化配置的指数权重在渐近意义上相对于正腔室是可忽略的。因此，将优化限制在正腔室内并不会丢弃渐近相关的概率质量。

主要贡献

1. 新颖模型：引入了 DPM-MPPP，这是首个用于聚类复制标记泊松点过程的变分贝叶斯方法，能够联合推断聚类结构、聚类数量和连续标记特定强度曲面。
2. 无网格推断：利用平方链接函数获得可处理的连续域似然项，无需网格化、稀疏化或有限元近似。
3. 算法创新：开发了一种约束拉普拉斯近似，解决了平方链接模型中固有的符号歧义和节点线病理问题，实现了稳定、无网格且高效的高维推断。
4. 理论严谨性：建立了理论保证，证明约束优化针对的是正确的全局模式，且符号变化区域在渐近意义上是可忽略的。

实验结果

作者通过合成实验和实际应用评估了该方法：

• 合成实验：

  • 在多样化的场景下进行了测试，包括标记交换的聚类、大量聚类（多达 9 个）、不规则强度曲面以及变化的样本量（从稀疏到密集）。
  • 性能：所提出的方法准确恢复了聚类特定的强度曲面、主体分配和聚类数量。与基于特征的基线方法（在分箱或核平滑数据上的 K-means 和高斯混合模型）相比，它表现出更优越的聚类纯度，特别是在特征摘要变得嘈杂的减少样本量情形下。
  • 鲁棒性：即使在事件计数显著减少的情况下，该方法仍保持稳定，仅表现出轻微的过度聚类（将小组分裂），而不是混合不同的聚类。

• 实际应用（NBA 投篮图表）：

  • 应用于 2024–2025 赛季 566 名 NBA 球员的 219,527 次投篮尝试，对投篮位置和命中/未命中结果进行建模。
  • 发现：该模型识别出 16 个活跃聚类，代表不同的球员原型。它成功解决了广泛角色内的细粒度异质性（例如，根据空间投篮选择和位置特定的成功概率区分不同类型的得分手或大个子球员）。
  • 可解释性：拟合的曲面提供了关于球员策略的可解释见解，将空间偏好与投篮效率分离开来。

意义与主张

本文声称，所提出的框架为连续域上标记点过程的聚类提供了一种原则性、可扩展且理论坚实的基础。通过将平方链接的计算优势与约束拉普拉斯近似相结合，该方法克服了现有方法在可处理性和模型灵活性之间的权衡。作者强调，他们的方法：

• 避免了与基于网格的方法相关的“维数灾难”。
• 提供了一个统一的框架，用于建模事件强度和标记分布，而无需丢弃数据的连续性质。
• 在传统基于特征的聚类失败的稀疏数据情形下提供稳健的性能。

该工作被呈现为空间点过程贝叶斯非参数推断的重要进展，可立即应用于需要分析具有复杂标记结构的复制事件数据的领域。