技术摘要：P-MOSS

问题陈述

利用 NUMA（非一致内存访问）和 Chiplet 架构的现代多核服务器展现出了显著的硬件异构性。这种复杂性创造了一个巨大的设计空间，其中主内存索引（例如 B+ 树）的性能可能会根据两个因素产生高达一个数量级的差异：

1. 数据分区（Data Partitioning）： 索引分区在 NUMA 节点（内存控制器）上的分布位置。
2. 核心调度（Core Scheduling）： 将逻辑核心分配给执行特定索引分区查询的任务。

这种组合被称为空间调度（spatial scheduling）。传统方法通常依赖于静态启发式算法（如轮询、交错）或操作系统默认设置，这些方法无法适应现代硬件（Intel、AMD、NVIDIA、ARM）的多样化拓扑结构以及变化的负载模式（读密集型、写密集型、扫描型）。现有研究要么侧重于时间调度（何时运行查询），要么解决关系表的数据放置问题，往往忽略了主内存索引中核心与数据亲和性这一关键的空间维度。此外，由于调度问题的组合特性，基于启发式的解决方案难以在不同的 CPU 厂商和架构之间实现泛化。

方法论：P-MOSS

本文介绍了 P-MOSS（性能监控单元驱动的空间查询调度器），这是一个利用大型语言模型（LLM）原理来优化空间调度的学习框架。

核心范式：下一标记预测 (Next Token Prediction, NTP)

P-MOSS 将空间调度问题重新定义为一个下一标记预测任务。它不是预测句子中的下一个单词，而是预测一系列调度决策中的下一个 Core ID（核心 ID）。

• 序列（Sequence）： 该序列代表了索引的调度策略，其中每个“标记”（token）对应于将一个索引切片（基于键范围的逻辑分区）分配给特定的 CPU 核心。
• 上下文（Context）： 与自然语言标记不同，Core ID 缺乏内在的句法规律。P-MOSS 通过从硬件性能统计数据中提取上下文来丰富这些“标记”，从而解决这一问题。

架构与训练流水线

P-MOSS 使用了**决策 Transformer（Decision Transformer, DT）架构，通过离线强化学习（Offline RL）**进行训练。该系统分为三个阶段运行：

1. 预训练（生成式预训练）：

   • 数据源： 从多样化的硬件（Intel、AMD、NVIDIA、IBM）、多种 NUMA 配置（1NPS、4NPS、Chiplet）以及多种负载（YCSB 变体）中构建离线数据集。
   • 过程： 系统在查询执行期间探测硬件性能监控单元（PMU），以生成“硬件快照”。这些快照捕获低层级统计数据（指令计数、缓存缺失、内存流量），无需软件层面的簿记。
   • 标记化（Tokenization）： 硬件快照、当前调度策略和性能指标被标记化为 状态（State）、动作（Action）、待实现回报（Return-to-Go, RTG） 和 元数据（Meta） 标记。
   • 目标： DT 学习跨不同环境的高效调度通用模式。

2. 推理（在线执行）：

   • 训练好的“基础”模型为目标硬件和负载预测调度策略。
   • P-MOSS 以随机策略或前一策略作为引导，实时监控 PMU 统计数据，并将这些数据输入 DT 以推断索引切片到核心的最优映射。
   • 系统通过将索引切片迁移到相应的 NUMA 节点并将查询执行绑定到特定核心来强制执行这些决策。

3. 后训练（微调）：

   • 随着系统在目标硬件上运行，它会收集针对该环境的“微调数据集”。
   • 基础模型会被增量更新（离线进行），从而创建一个“助手”模型，使其能够适应特定服务器和负载的独特特征。

关键技术组件

• 硬件剖析（PMU）： P-MOSS 完全依赖于通过 PMU 收集的低层级硬件统计数据（如 LLC 缺失、内存控制器流量）。这避免了软件层面簿记带来的开销和不准确性。
• 标记化策略：
  • 状态标记（State Token）： 通过视图（View）、位置（Position）和机器（Machine）标记表示当前硬件状态（已占用的核心、缓存/内存统计数据）。
  • 动作标记（Action Token）： 预测的 Core ID。
  • RTG 标记： 期望的未来回报（目标吞吐量）减去当前回报，引导模型走向高性能结果。
  • 元标记（Meta Token）： 系统级上下文（插槽数、NUMA 拓扑、CPU 厂商）。
• 离线强化学习（Offline RL）： 通过将学习过程与查询执行的关键路径解耦，P-MOSS 确保数据库管理系统（DBMS）在学习阶段不会遭受性能下降。

核心贡献

1. P-MOSS 框架： 首个针对现代 NUMA 和 Chiplet 服务器上的主内存索引进行学习型空间查询调度的框架，优先考虑数据放置和核心调度。
2. PMU 驱动的优化： 一种新型的 DBMS 内核优化方法，仅依赖于低层级硬件统计数据（PMU），无需软件层面的簿记，确保了对不同硬件厂商的适应性。
3. NTP 公式化： 将查询调度公式化为下一标记预测任务，使得能够使用离线强化学习和决策 Transformer 来学习调度策略，而无需与 DBMS 进行在线交互。
4. 实证验证： 在广泛的 CPU（Intel、AMD、ARM、IBM）、NUMA 架构（1-4 插槽、2-8 节点）和负载上进行了广泛评估。

实验结果

评估是在包含 30M 到 1B 条记录的主内存 B+ 树上进行的，涵盖五种不同的服务器配置（AMD Milan、Intel Skylake X、Intel Sandy Bridge、NVIDIA Grace Hopper、IBM Power）。

• 吞吐量提升： 与传统调度策略相比，P-MOSS 实现高达 6 倍 的查询吞吐量提升。
• 基准测试对比：
  • 与 OS 默认策略（OS:D, OS:I）和 NUMA 感知策略（SE:N, SN:N）相比，P-MOSS 显示出平均 1.92× 至 3.66× 的加速。
  • 与其他学习型或基于启发式的“无共享”（Shared Nothing）策略（Grouped, Mixed, Spread, Random）相比，P-MOSS 始终表现更优，根据特定硬件和负载的不同，其提升幅度在 1.27% 到 3.95% 之间。
• 泛化能力： P-MOSS 展示了强大的泛化能力，在未见过的硬件（IBM Power）和未见过的数据分布（OSM 数据集）上，无需从头开始重新训练即可表现良好，充分利用了其预训练的基础模型。
• 开销： 通过 PMU 收集硬件统计数据的开销极小（约 0.73% 的性能下降），且使用 SIMD 指令处理这些统计数据使剖析阶段的系统性能提升了 60.37%。

意义与主张

论文声称 P-MOSS 证明了将基础 LLM 概念（特别是下一标记预测）应用于数据库优化任务的可行性。通过将调度视为序列建模问题，该框架能够比静态启发式算法更有效地应对现代硬件设计空间中的组合复杂性。

作者强调：

• 空间调度对于最大限度提高现代异构硬件的性能至关重要。
• 硬件性能统计数据（PMU）为机器学习驱动的数据库优化提供了一种鲁棒、低开销的特征表示。
• 离线强化学习允许学习过程与执行过程解耦，从而实现对多样化环境的安全且可扩展的适应。
• 该方法不仅限于空间调度，还为将类 LLM 技术推广到更广泛的 DBMS 优化挑战提供了蓝图。