History-First Reliability-Gated Fusion for Sampled-Peak System and GPU Memory Utilization Prediction in HPC Clusters
本文提出了一种以历史优先、可靠性门控的融合框架，该框架结合了精确脚本的历史缓存与经 LoRA 改编的 Qwen2.5-Coder 编码器，在通过选择性推理降低计算开销的同时，显著提高了高性能计算（HPC）集群中系统及 GPU 显存利用率的预测准确度。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在高性能计算那广阔且轰鸣的殿堂里，超级计算机正在解决任何单台机器都无法处理的复杂问题。然而，一个安静但至关重要的挑战始终存在：资源管理。这些集群就像是拥有处理器、内存库和图形加速器的巨大城市，所有部件都在协同工作。为了让这座城市平稳运行，管理员必须在任务开始之前就决定为其分配多少功率。目前，他们依赖于任务自身的请求——即用户或脚本请求一定量的内存或时间。然而，这些请求通常是保守的猜测，旨在确保任务不会崩溃。当每个人都请求超过实际需求量时，这座城市就会变得碎片化；宝贵的空间处于闲置状态，而其他任务却在排队等待。现代研究的目标是超越这些粗略的猜测，精确预测一个任务实际将使用多少资源，从而允许系统更紧密、更高效地堆叠任务。
核心难点在于工作本身的性质。一个任务的行为不仅仅是一个数字，它是一个由代码编写的故事。有时，用户运行的是与昨天完全相同的脚本，结果是可预测的。但有时，他们仅仅修改了一行代码、更换了一个数据文件，或者在不同类型的计算机上运行，资源的消耗量就会发生剧烈变化。仅观察过去数据的传统方法在脚本改变时往往会失效，而试图从头读取代码的方法则可能既缓慢又耗费计算资源。研究人员面临的问题是：能否构建一个既知道何时信任过去、又知道何时阅读新代码的系统，将这两种信息源融合在一起，从而在任务启动前做出精准预测。
来自华东师范大学、中国人民大学和上海纽约大学的研究团队致力于通过创建一种新型的高性能计算集群预测引擎来解决这一问题。他们专注于两类特定资源：用于通用处理的数据存储系统内存，以及图形卡用于重度计算的显存（VRAM）。他们的方法被称为“历史优先可靠性门控级联”（history-first reliability-gated cascade），其作用类似于一位聪明的交通控制器。该系统并不会强制每个任务都进行复杂的分析，而是首先检查是否存在该完全相同脚本成功运行过的可靠记录。如果历史记录清晰且可信，系统会直接使用该历史数据，跳过繁重的计算过程。这就是“旁路”机制，旨在在答案已知时节省时间和能量。
然而，该系统并非对变化视而不见。如果脚本是全新的，或者过去的记录过于零散而不可靠，系统就会激活一个复杂的代码阅读工具。这个工具基于一种经过专门训练、能够理解编程语言的特殊人工智能模型，它会分析提交的脚本、用户的身份以及为该任务提出的具体请求。它通过阅读代码来理解预期的逻辑，寻找有关任务实际需要多少内存或图形能力的线索。研究人员并未简单地让 AI 进行猜测，而是在 AI 发出结论后构建了第二层决策机制。这一层会将 AI 的预测与现有的历史数据进行比较。如果历史记录很强，系统会将最终预测向历史记录靠拢，但仅限于一个经过计算的安全范围内，以防止出现剧烈波动。如果历史记录较弱，则让 AI 对代码的解读占据主导地位。这种动态融合确保了系统能够适应每一个任务的具体情况。
为了测试这种方法，研究人员检查了一个生产集群的真实数据集，其中包含了在十一个半月期间完成的近 20,000 个任务。他们将新系统与几种现有方法进行了对比，包括仅查找用户上次运行任务的时间，以及仅依赖元数据的标准机器学习模型。结果显示，他们的混合方法最为准确。在预测系统内存使用量方面，新方法比表现最好的现有方法平均误差降低了近 5%。在预测图形显存使用量方面，改进更为显著，将平均误差降低了近 14%。该系统在识别那些能保持在安全误差范围内的任务方面表现尤为出色，这对于需要避免机器过载的管理员来说是一个关键因素。
研究还揭示了关于这些预测运作方式的重要细微差别。研究人员发现，系统的成功很大程度上取决于任务的类型。当用户重复运行完全相同的脚本时，简单的基于历史的方法往往与复杂的 AI 方法一样有效，这证明了对于重复性任务而言，过往表现是一个强有力的指标。然而，当脚本发生变化或不存在精确的历史记录时，代码阅读 AI 就变得至关重要，它能提供纯粹历史记录无法提供的洞察。系统学会了识别这些不同的模式，并自动切换策略。在速度方面，研究人员测量了系统处理单个图形卡任务所需的时间。在没有任何捷径的情况下，分析耗时约 31 毫秒，这对于繁忙计算集群的运行需求来说只是不到一秒的极短时间。通过使用旁路机制，系统为近一半的任务避免了这种繁重的分析，进一步提高了效率。
研究人员谨慎地指出其研究结果的局限性。该研究是在一个具有特定硬件组合和工作负载的特定集群上进行的，因此结果反映了该特定环境。他们还强调，他们的预测是基于成功完成的任务；该系统并不预测失败或崩溃，只预测运行至完成的任务在资源上的峰值使用量。此外，这些预测旨在作为帮助管理员做出更好决策的规划辅助工具，而非保证系统可以被安全地超载使用。由于研究中使用的数据包含真实的执行脚本（其中含有敏感信息），研究人员无法公开原始数据，但他们已根据特定协议开放了代码和衍生数据以供学术评审。
最终，这项工作表明，资源预测的未来不在于在“历史”与“代码”之间做选择，而在于将二者进行智能融合。通过创建一个知道何时信任过去、何时阅读当下的系统，研究人员提供了一个让高性能计算集群更高效的实用工具。该方法表明，通过结合可靠性检查和自适应学习，我们可以更接近于实现计算资源精准利用的状态，从而减少浪费，并允许开展更复杂的科学工作。这些发现为管理现代计算日益增长的需求提供了一条清晰的路径，证明了通过一点点历史，辅以对代码的深度理解，可以发挥巨大的作用。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。