Beyond Equidistant Assumptions: An Autoregressive Ordered Stereotype Model for Ordinal Time Series

技术摘要：超越等距假设：一种用于序数时间序列的自回归有序刻度模型

问题陈述
序数时间序列数据（其观测值取自一个有限的有序类别集合）在医疗保健、环境科学和体育等领域经常出现。虽然存在各种建模方法——包括马尔可夫模型、回归模型和离散 ARMA 变体——但许多方法都依赖于限制性的假设。具体而言，标准的序数回归模型通常假设相邻类别之间的距离是等距的，或者协变量效应在所有输出阈值上是比例一致的（如比例优势模型）。作者认为这些假设往往是不切实际的，特别是在那些对状态间“距离”的解释具有实际意义的应用场景中（例如，“清醒”到“安静睡眠”的转变可能代表了与中间睡眠阶段之间的转变不同的变化幅度）。现有的灵活替代方案（如部分比例优势模型）通常会面临参数数量大幅增加的惩罚。本文旨在解决如何建立一个既能捕捉序列依赖性，又无需施加等距类别间隔假设的简约且灵活的框架。

方法论
本文提出了自回归有序刻度模型（AR-OSM），这是对 Anderson (1984) 最初为横截面数据引入的有序刻度模型（OSM）的扩展。

• 模型构建： AR-OSM 通过将响应变量的滞后值（$Y_{t-1}, \dots, Y_{t-p}$）作为回归系统中的协变量，将其纳入模型。对于具有 $q$ 个类别的序数时间序列 $Y_t$，类别 $k$ 相对于基准类别（1）的对数几率建模为：
  $$\log \left( \frac{P(Y_t = k | \mathcal{F}_{t-1})}{P(Y_t = 1 | \mathcal{F}_{t-1})} \right) = \alpha_k + \phi_k \sum_{j=1}^p \beta_j Y_{t-j} + \gamma^T X_t$$
  其中 $\mathcal{F}_{t-1}$ 代表过程的历史信息。
• 核心特征（刻度参数）： 该模型利用一组单调的“刻度”参数 $\{\phi_1, \dots, \phi_q\}$（约束条件为 $0 = \phi_1 \le \dots \le \phi_q = 1$）。与假设固定等距间距的标准模型不同，这些参数允许数据来确定类别之间的相对间距。回归系数 $\beta_j$ 在所有类别中是通用的，但通过类别特定的刻度 $\phi_k$ 进行缩放。
• 估计： 参数估计通过极大似然估计（MLE）进行。为了在优化过程中处理刻度参数的单调性约束，作者采用了重参数化策略（Fernández et al., 2016），即利用 logit 变换和指数增量，将受约束问题转化为无约束问题。
• 模型选择与依赖性： 本文利用序数 Cohen's $\kappa$ 及其部分版本来衡量序列依赖性，并据此选择合适的自回归阶数 $p$。该指标改编自 Weiß (2020)，以适应数据的序数性质，作为连续时间序列中 ACF 和 PACF 的类似物。

主要贡献

1. 向时间序列的扩展： 主要贡献是将 OSM 正式化为序数时间序列模型，创建了 AR-OSM 框架。
2. 放宽等距限制： 模型显式地避免了等距类别的假设。相反，它从数据中推断出状态之间的潜在间距，为那些类别转换幅度各异的过程提供了更真实的表示。
3. 简约性与灵活性之间的权衡： AR-OSM 在限制性的比例优势模型和更为复杂、参数繁多的替代方案之间提供了一种折衷方案。它通过刻度参数捕捉类别特定效应，而无需为每个协变量-类别交互配备单独的系数向量。
4. 协变量的集成： 与某些针对序数序列的纯马尔可夫方法不同，AR-OSM 保留了回归模型的结构，允许在自回归项之外包含外部协变量（如心率、体温）。

结果

• 模拟研究：
  • 估计量性能： 不同样本量（$T=100, 500, 1000$）下的模拟表明，估计量是有效的，其方差随样本量增加而减小。虽然在小样本量（$T=100$）下观察到刻度参数（$\phi$）存在轻微偏差，但这种偏差随样本量增大而消失。
  • 序列依赖性： 研究调查了自回归系数（$\beta$）和刻度参数（$\phi$）如何影响序列依赖性。结果表明，$\beta$ 的符号决定了依赖性的方向（正向或负向），而其量级控制了强度。$\beta$ 与序列依赖性（通过序数 Cohen's $\kappa$ 衡量）之间的关系被发现是非线性的。
• 实际应用（婴儿睡眠数据）：
  • 模型应用于一组每 30 秒记录一次的新生儿睡眠状态（清醒、安静睡眠、不确定睡眠、活跃睡眠）数据集。
  • 模型选择： 对部分序数 Cohen's $\kappa$ 的分析表明，自回归阶数为 1（$p=1$）。似然比检验（LRT）证实，AR-OSM（模型 3）比比例优势相邻类别 logit 模型（模型 5）以及包含心率作为协变量的模型（模型 4）提供了显著更好的拟合效果。
  • 间距解释： 估计的刻度参数显示，“清醒”与“安静睡眠”之间的潜在距离明显大于中间睡眠阶段之间的距离。这一发现与标准模型的等距假设相矛盾，并支持了生物学上的合理性，即从清醒状态转变为睡眠状态是一个比在不同睡眠阶段之间移动更显著的转变。
  • 预测： 在 10 步提前预测实验中，AR-OSM 的表现优于比例优势模型，在每一步中预测真实状态的概率更高。

意义与主张
本文声称，对于类别间距假设不切实际的序数时间序列，AR-OSM 提供了一个灵活且简约的框架。通过允许数据确定状态的相对间距，该模型提供了对底层过程更准确的表示，这一点在睡眠数据的应用中得到了证实。作者断言，该模型在尊重数据序数结构的同时，成功捕捉了序列依赖性。

论文也谦逊地指出，虽然目前的公式假设所有协变量共享同一组刻度参数，但未来的工作可以探索“部分有序刻度模型”，使刻度参数随协变量而变化。此外，作者承认了在该框架下处理时变参数的计算挑战，但也指出将自回归部分模型作为 AR-OSM 的扩展是一个充满前景的研究方向。这项工作被视为一种方法论上的进步，填补了限制性比例模型与过度复杂替代方案之间的空白。