Memory-Scalable and Hardware-Adaptive Matrix-Free Quantum Simulation

技术摘要：内存可扩展且硬件自适应的无矩阵量子模拟

问题陈述
精确及近精确数值量子模拟中的核心计算瓶颈在于将大型哈密顿算符 $\hat{H}$ 作用于态矢量 $\psi$（即 $\phi = \hat{H}\psi$）。在标准实现中，这需要存储完整的稠密 $D \times D$ 哈密顿矩阵，其中 $D$ 为希尔伯特空间维度。这带来了二次方内存成本（$O(D^2)$），随着系统规模的增加，这种成本会迅速超过单个加速器（GPU）的容量。虽然态矢量本身的规模呈线性增长（$O(D)$），但稠密矩阵的显式实例化形成了一个固定的内存壁垒，即使在可以无需存储每个矩阵元素即可定义算符作用的情况下，也会阻碍更大规模系统的模拟。

方法论
作者提出了一种内存可扩展、硬件自适应的无矩阵框架，该框架将哈密顿量的数学定义与其物理存储解耦。该方法论构建于三大支柱之上：

1. 块程序化表示（Block-Procedural Representation）：
   哈密顿量被划分为 $N_{blk}$ 个计算块。全局矩阵永不被组装。相反，它由一个接口表示，该接口可以按需生成、加载、缓存或应用特定的块 $\hat{H}[n,m]$。该接口支持多种数据源：

   • 种子生成（Seeded Generation）： 从种子生成可复现的随机块。
   • 解析生成（Analytic Generation）： 按需通过公式计算块。
   • 外部存储（External Storage）： 从主机内存、数据库或文件中检索块。
   • 融合作用（Fused Action）： 直接计算乘积 $\hat{H}[n,m]\psi[m]$，而无需形成完整的稠密块阵列。
   • 缓存（Caching）： 在 GPU 上进行全量或部分缓存以避免重复生成。

   矩阵-向量乘积通过对输出块的循环来计算：$\phi[n] = \sum_m \hat{H}[n,m]\psi[m]$，在不持有整个 $D \times D$ 矩阵的情况下累加贡献。

2. 硬件自适应执行规划（Hardware-Adaptive Execution Planning）：
   由于最优策略取决于特定的硬件约束（GPU 显存、带宽、计算吞吐量）和工作负载特征，该框架采用了一个自适应规划器。该规划器会选择块大小、存储模式、缓存预算和并行化策略。它利用了三个不同的优化层：

   • 解析规划器（Analytic Planner）： 基于内存约束和算术强度的成本模型，用于过滤掉不可行的方案。
   • 实测自动调优器（Measured Autotuner）： 一个微基准测试阶段，在实际硬件上运行候选方案，以测量真实运行时间，并考虑内核启动开销、内存带宽和数据移动成本。
   • 神经代理模型（Neural Surrogate）： 一个基于积累的基准测试数据训练的学习模型，用于预测针对新问题/硬件配置的运行时间，从而缩小未来的搜索空间。

3. 并行化策略：
   该框架支持参数并行（parameter-parallelism）（在 GPU 组之间分配独立的任务，如耦合强度）和行并行（row-parallelism）（在同一组内的不同 GPU 之间拆分输出块行）。对于单个 GPU 无法容纳的稠密矩阵，**行分布全缓存（row-distributed full caching）**允许将矩阵存储在 GPU 组中，每个 GPU 持有连续的行切片，从而实现大型 GEMM 类内核。

关键结果
论文通过在包含 18 个量子比特（2 个系统量子比特，16 个浴量子比特，$D=2^{18} \approx 262,144$）的集群（八个 NVIDIA L40S GPU）上进行实时演化模拟验证了该框架。

• 内存可行性： 该系统的显式稠密哈密顿量需要约 512 GiB（单精度）至 1 TiB（双精度）的存储，远超单个 GPU 约 44 GiB 的可用容量。该框架通过在 GPU 组内分布矩阵行并利用混合全缓存策略，成功执行了模拟，每个 GPU 仅需约 32 GiB 的算符存储。
• 自动调优有效性： 实测自动调优器选择了一个行组大小为 2 的“全缓存混合”方案。结果表明，尽管单内核执行时间几乎相同，但由于所需的“任务波次（task waves）”数量不同，不同方案的总作业运行时间可能存在显著差异。自动调优器正确地优先选择了最小化总调度工作量（5 个波次）的方案，而非那些需要更多波次（10 个波次）但单次应用速度相近的方案。
• 扩展性： 论文测量了端到端运行时间随系统规模的变化情况，结果显示，虽然计算变得可行，但运行时间仍随希尔伯特空间规模快速增长，这与稠密操作内在的 $O(D^2)$ 算术成本一致。

意义与主张
论文声称，该框架将大规模量子模拟的限制从固定内存壁垒转变为可调节的平衡，即在块生成、缓存复用、数据移动和并行调度之间进行权衡。

• 通用适用性： 虽然是以量子模拟为背景，但作者强调该方法解决的是一个通用的原语问题：即对大型线性算符的应用。它适用于任何矩阵过大而无法显式存储、但其作用可以程序化评估或通过块进行评估的场景（例如滤波器、投影、超算符）。
• 无数学近似： 该方法并未对哈密顿量进行近似；它仍然是一个数学上精确的稠密算符。“无矩阵”性质纯粹是一种存储和调度策略。
• 硬件自适应性： 其意义在于能够根据特定的硬件环境，自动选择最优执行策略（缓存 vs 程序化生成，行分布 vs 单 GPU），确保模拟不会因为可以通过不同数据布局绕过的内存约束而被阻塞。
• 社区工作流： 作者建议，自动调优器生成的基准测试数据可以成为社区资源，使神经代理模型能够在不泄露专有矩阵条目的情况下，提高跨不同机器和问题族的性能预测能力。

总之，该框架使得在显式哈密顿量存储不可行的硬件上进行精确量子模拟成为可能，将问题从硬性的存储约束转变为可管理的内存移动与调度优化问题。