技术摘要：用于无监督检索的时间偏好优化 (TPOUR)

1. 问题陈述

目前的无监督稠密检索器（如 Contriever）通过对比学习从无标签文档中学习语义相似性，表现十分出色。然而，这些模型存在**时间失配（temporal misalignment）**的问题。当文档集合跨越多个时期时，这些模型往往会检索出语义相关但在时间上不正确的文档。例如，针对“2019 年谁是总统？”或“谁是现任总统？”这类隐式查询，如果模型仅依赖语义相似性，可能会检索到 2025 年或 2015 年的文档。

现有的解决方案通常依赖于带有显式时间戳或标记了查询-文档对的监督训练。由于高质量标注数据的稀缺，以及在大型无标签语料库中获取显式时间标注的难度，这种方法在大规模应用时往往并不切实际。此外，纯无监督方法通常忽略时间信号，仅针对语义相关性进行优化。

2. 方法论

作者提出了 TPOUR（Temporal Preference Optimization for Unsupervised Retriever，用于无监督检索的时间偏好优化），这是一个在不需要显式文档级时间戳或标记查询对的情况下，将时间偏好集成到无监督检索中的框架。TPOUR 的核心是一种被称为**时间检索偏好优化（TRPO）**的新型训练方法。

2.1. 时间检索偏好优化 (TRPO)

TRPO 在时间维度上重新诠释了偏好学习。它不依赖于人类标注的偏好（如大语言模型中的直接偏好优化 DPO），而是从不同时期收集的文档语料库中构建偏好对。

• 输入： 一个查询 $Q_i$，一个时间对齐的文档 $D^t_i$（来自目标时间段），以及一个时间失配的文档 $D^{t'}_i$（来自不同时期）。
• 机制： 模型被训练为最大化查询与对齐文档之间的相似度，同时最小化与失配文档的相似度。
• 损失函数： 总训练目标结合了标准对比损失 ($L_{CE}$) 与 TRPO 损失 ($L_{TRPO}$)：
  $$L_{total} = \lambda L_{CE} + (1 - \lambda) L_{TRPO}$$
  其中 $L_{TRPO}$ 基于 Bradley-Terry 模型定义，通过对齐当前模型与参考模型（通过动量维持）之间的得分差距，促使模型更偏好对齐的文档而非失配的文档。
• 数据来源： 该方法利用了在时间上截然不同的文档集合（例如 2018 年和 2021 年的 Wikipedia 转储数据）。至关重要的是，训练数据包含极少量的显式时间标记（少于 2.5% 的文档包含目标年份），这迫使模型从内容本身的语义偏移中学习时间偏好。

2.2. 通过插值实现连续时间表示

为了解决离散时间段的局限性，并实现无需重新训练即可进行中间时间检索，TPOUR 采用了时间向量插值（time vector interpolation）。

• 时间向量： 定义为在特定时间段微调后的模型权重 ($\theta_t$) 与基础预训练模型 ($\theta_{base}$) 之间的差异：$\tau_t = \theta_t - \theta_{base}$。
• 插值： 为了创建一个针对中间时间 $t_{mid}$ 的检索器，模型在相邻周期（$t_{start}$ 和 $t_{end}$）的时间向量之间进行插值，插值系数为 $\alpha \in [0, 1]$：
  $$\theta_{tmid} = \theta_{base} + (1 - \alpha)\tau_{tstart} + \alpha\tau_{tend}$$
  这使得检索器能够通过简单地插值训练自 2018 年和 2021 年数据的模型权重，从而泛化到中间时间段（例如 2019 年或 2020 年）。

2.3. 时间戳推断与外推

• 推断： TPOUR 可以使用一种“混合 TPOUR（mixture-of-TPOUR）”方法来推断文档时间戳，即通过将多个特定时间的检索器生成的嵌入进行拼接，并传递给一个线性分类器。
• 外推： 作者展示了可以通过结合不同过去时期的向量来近似一个“面向未来”的时间向量，从而将时间向量外推到未来时期，从而在未针对特定数据进行训练的情况下提高对近期数据的检索性能。

3. 核心贡献

1. 识别时间失配问题： 论文证明了现有的缺乏时间意识的检索器无法在混合时间戳的集合中区分语义相似但时间失配的文档。
2. TPOUR 框架： 引入了一种基于偏好的训练方法 (TRPO)，使无监督检索器能够从不同时间收集的无标签语料库中学习时间相关性，而无需显式的时间戳监督。
3. 连续泛化能力： 验证了时间向量插值允许 TPOUR 训练的检索器在无需额外训练的情况下，泛化到中间及未来的时间段，有效地实现了连续的时间对齐能力。
4. 通用检索中的时间敏感性： 证据表明，时间意识不仅提高了时间性问答任务的表现，也提升了通用检索基准（BEIR）的表现，其最优性能与数据集的发布年份相关。

4. 实验结果

作者在 SituatedQA（年度时间问答）、RealTimeQA（月度时间问答）和 BEIR 基准测试上对 TPOUR 进行了评估。

• 在时间性问答上的表现： TPOUR 显著优于无监督基线（如 Contriever）和有监督基线（如 DPR）。
  • 在 SituatedQA（2018 年，隐式查询）上，TPOUR 达到了 44.11 的 nDCG@5，大幅超过了 Contriever 的 29.89。
  • TPOUR 在所有年份（2018–2021）和月份中均保持了强劲的表现，即使对于带有隐式时间信息的查询也是如此。
• 与大型模型的比较： 尽管 TPOUR（基于 Contriever）的规模大约仅为 Qwen-Embedding-8B 模型的 72.7 倍小，但它在显式和隐式查询任务上都超越了 Qwen-Embedding-8B 的变体（包括带有查询重写和时间感知指令的模型）。
  • 与 Qwen-Embedding-8B 相比，TPOUR 在显式查询上将平均 nDCG@5 提升了 +4.04 (+12.15%)，在隐式查询上提升了 +4.98 (+15.21%)。
• 插值的有效性： 插值模型取得了与直接在中间年份微调的模型相当或更好的性能。例如，在 2018 年和 2021 年模型之间进行插值，在 SituatedQA 上比起始年份检索器平均提升了 +13.4 nDCG@5。
• 时间戳预测： 混合 TPOUR 预测器在预测文档年份方面的准确率达到了 76.56%，优于基于 Contriever 的基线预测器（50.18%）和更大的 Nomic-Embed v2 MoE 模型（53.03%）。
• BEIR 基准测试： 分析显示，BEIR 数据集的最佳插值权重 ($\alpha$) 与其创建年份相关（例如，较旧的数据集如 MS MARCO 在 $\alpha=0.0$ 时表现最好，而较新的数据集如 TREC-COVID 在 $\alpha=1.0$ 时表现最好），这表明时间建模有助于通用检索任务。

5. 意义与主张

论文声称，TPOUR 通过利用无监督偏好优化，为解决时间失配问题提供了一个可扩展的解决方案。其重要性在于：

• 消除对标注数据的需求： 它仅使用来自不同时期的无标签文档语料库即可实现时间意识，这使得在无法获得标注时间数据的规模化部署场景下具有可行性。
• 连续适应性： 通过时间向量插值，系统可以适应任何时间点（过去、现在或未来），而无需重新训练，解决了传统检索器静态化的局限。
• 高效性： TPOUR 证明了在处理时间检索任务时，一个相对较小的模型（1.1 亿参数）在配备了正确的时间偏好训练后，可以超越庞大的嵌入模型（80 亿参数）。

作者总结道，时间建模不仅仅是时间性问答的一个利基需求，更是增强通用领域检索质量的基础组成部分，这表明未来的检索系统应当本质上考虑到查询和文档的时间上下文。