技术摘要：具有潜在分组结构的多元关系网络自回归模型

1. 问题陈述

本文解决了对高维张量值时间序列进行建模并量化多元关系网络影响的挑战。在许多现实场景中（例如社交媒体评论、国际贸易、金融市场），实体通过多个不同的网络层（例如社交连接、空间邻近性、产品相似性）进行交互。现有文献主要集中在：

• 单网络自回归： 在单一网络结构内对时间序列进行建模。
• 向量自回归 (VAR)： 将张量数据堆叠为向量，这破坏了内在的多维结构，并导致参数量爆炸（$O(\prod N_l^2)$），使得估计变得困难且解释性不透明。
• 张量因子模型： 虽然在降维方面非常有效，但这些模型通常缺乏关于特定网络效应的直接解释性，并且没有显式地建模跨多个网络维度的异质分组结构。

此外，节点异质性普遍存在；同一网络内的实体往往表现出不同的行为模式。虽然潜在分组结构已被用于面板数据和单网络时间序列，但将其扩展到多元关系张量时间序列在理论上面临重大挑战，因为不同网络维度之间的分组结构存在复杂的相互作用。

2. 方法论：GTNAR 模型

作者提出了分组张量值网络自回归 (GTNAR) 模型。

2.1 模型公式化

令 $Y_t \in \mathbb{R}^{N_1 \times \dots \times N_q}$ 为在时间 $t$ 观测到的张量值时间序列，由 $q$ 个不同的网络索引，其邻接矩阵分别为 $A^{(1)}, \dots, A^{(q)}$。该模型假设每个网络 $l$ 拥有一个包含 $G_l$ 个组的潜在分组结构。

模型的定义为：
$$Y_{i_1 \dots i_q, t} = \sum_{l=1}^q \lambda^{(l)}_{g^{(l)}_{i_l}} \sum_{k=1}^{N_l} \frac{a^{(l)}_{i_l k}}{n_{l i_l}} Y_{i_1 \dots i_{l-1} k i_{l+1} \dots i_q, t-1} + \alpha_{g^{(1)}_{i_1} \dots g^{(q)}_{i_q}} Y_{i_1 \dots i_q, t-1} + \sum_{l=1}^q x^{(l)\top}_{i_l t} \zeta^{(l)}_{g^{(l)}_{i_l}} + \varepsilon_{i_1 \dots i_q, t}$$
其中：

• 网络主效应： 项 $\lambda^{(l)}_{g^{(l)}_{i_l}}$ 代表第 $l$ 个网络的自回归系数。至关重要的是，该系数取决于节点 $i_l$ 在网络 $l$ 中的分组归属 $g^{(l)}_{i_l}$，从而允许网络内的异质性。
• 自我动量： 项 $\alpha_{g^{(1)}_{i_1} \dots g^{(q)}_{i_q}}$ 捕捉了自我驱动效应，该效应取决于所有 $q$ 个网络中的联合分组归属。
• 协变量效应： 外生协变量 $x^{(l)}$ 的系数 $\zeta^{(l)}$ 同样随分组归属而变化。
• 张量表示： 该模型可以使用涉及行归一化邻接矩阵 $W^{(l)}$ 和分组参数对角矩阵的张量代数进行紧凑表示。

2.2 估计算法

作者开发了一种迭代算法，用于同时估计模型参数 ($\xi$) 和潜在分组归属 ($G$)：

1. 参数更新： 在给定固定分组归属的情况下，模型简化为一个线性回归问题。通过最小二乘法（最小化平方误差和）来估计参数。
2. 归属更新： 在给定固定参数的情况下，分组归属针对每个网络维度进行顺序更新。对于每个节点，算法将其分配到在给定其他维度节点当前归属条件下，使局部平方误差最小的组中。
3. 初始化： 为了缓解目标函数的非凸性，采用了多种初始化策略，并选择损失最小的解。

2.3 分组数量选择

提出了一种信息准则 (QIC) 来为每个网络选择组数 ($G_1, \dots, G_q$)：
$$\text{QIC}(G) = \log\{Q(\hat{\xi}(G), \hat{G}(G))\} + \lambda(G)$$
其中 $\lambda(G)$ 是惩罚项。作者提供了在该准则下能一致选择真实组数的理论条件。

3. 核心贡献

1. 新颖的模型框架： 引入了 GTNAR 模型，该模型将多元关系网络结构与张量值时间序列的潜在分组异质性相结合。这使得在考虑节点异质性的同时，能够直接量化网络效应。
2. 同步估计： 开发了一种迭代算法，用于跨多个网络维度共同估计模型参数和潜在分组归属，这比单网络分组估计任务更为复杂。
3. 理论保证：
   • 一致性： 证明了即使在组数过指定（即 $G_l \ge G_{l,0}$）的情况下，分组参数和分组归属也可以被一致估计。
   • 强一致性： 确立了估计的分组归属以概率趋近于 1 收敛于真实的归属（忽略标签置换）。
   • 渐近正态性： 推导了参数估计器的渐近正态性，从而实现有效的统计推断（如置信区间）。
   • 分组数量选择： 证明了所提出的 QIC 能一致地选择真实的组数。
4. 模型扩展： 该框架被扩展以处理交互式网络效应（跨层乘性效应）和特定组的误差方差（加权最小二乘法）。

4. 结果

4.1 模拟研究

作者在随机块模型 (SBM) 和幂律网络结构下进行了 $q=2$ 个网络的广泛模拟。

• 估计准确性： 当组数被正确指定或过指定时，均方根误差 (RMSE) 随着样本量 ($N$) 和时间长度 ($T$) 的增加而减小，并趋向于“神谕”估计器（已知真实归属的估计器）的表现。
• 推断： 随着样本量增长，95% 置信区间的覆盖概率 (CP) 趋于标称水平 (0.95)。
• 欠指定： 当组数被欠指定时，估计偏差保持在高水平，且归属聚类准确性显著下降，这证实了正确指定或过指定组数的必要性。
• 分组选择： QIC 在大多数模拟重复实验中成功识别了真实的组数。

4.2 真实数据应用 (Yelp 数据集)

该模型应用于涵盖北美五个城市的 Yelp 评论数据集（2010–2018）。响应变量是用户 $i$ 在时间 $t$ 对特定区域 $j$ 评论数量的对数转换值。

• 网络： 社交网络（用户好友关系）和空间网络（区域邻近性）。
• 发现：
  • 异质性： 在每个城市中都识别出了用户和区域的截然不同的分组结构。
  • 空间效应： 空间网络效应始终为正，表明相邻区域的评论倾向于相互影响。该效应的大小因区域分组而异（例如，在中央商务区较高）。
  • 社交效应： 社交网络效应因用户组的不同而显著变化。对于某些组（如长期用户），效应为负；而对于其他组（如高连接度用户），效应为正。
  • 自我动量： 观察到了正向的自我动量效应，表明评论活动具有持续性。

5. 重要性与声明

本文声称 GTNAR 模型通过为高维张量时间序列中的多元网络效应提供严谨的统计框架，填补了文献中的关键空白。

• 可解释性： 与掩盖网络结构的堆叠方法不同，GTNAR 提供了清晰的解释，说明特定的网络层和分组归属如何驱动时间动态。
• 效率： 通过利用分组结构和网络权重矩阵，GTNAR 将参数空间从 $O(\prod N_l^2)$ 大幅降低至 $O(\sum G_l p_l + \prod G_l)$，使大规模网络下的估计变得可行。
• 鲁棒性： 理论结果表明，该方法对于组数的过指定具有鲁棒性，而这在实际中是一个常见的担忧（即真实的聚类数量未知）。
• 适用性： 作者强调了该模型在经济学、金融学和社会科学等多样化领域的应用价值，并引用了供应链联系、国际贸易和情境推荐系统等例子，尽管主要的实证验证是通过 Yelp 数据集提供的。

作者对未来的方向保持了谦逊的态度，提出了向高维协变量、乘性网络效应、隐藏因子结构以及分类响应变量扩展的可能性，同时也指出获得极小极大收敛速率仍是一个开放的理论问题。