💻 computer science

MileStone: A Multi-Objective Compiler Phase Ordering Framework for Graph-based IR-Level Optimization

MileStone 是一个模块化、多目标的编译器框架，它利用图神经网络和强化学习来发现最优的优化序列，在严格遵守能耗约束的同时显著减少执行时间，并超越现有的优化方法。

原作者： Amirhosein Sadr, Mehran Alidoost Nia

发布于 2026-05-25

📖 1 分钟阅读☕ 轻松阅读

原作者： Amirhosein Sadr, Mehran Alidoost Nia

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图烤出一个完美的蛋糕。你有一份配料清单（你的计算机代码）以及一系列可采取的步骤：延长搅拌时间、提高烘烤温度、添加更多糖，或轻柔地折叠面糊。在计算机世界中，这些步骤被称为编译器优化阶段（compiler passes）。

问题在于，排列这些步骤的方式有数百万种。某些顺序能让蛋糕味道极佳，但烘烤时间却长得惊人；另一些顺序则能加快烘烤速度，却会让蛋糕变得干涩。计算机处理这一问题的标准方式是选择一个“预设”配方（例如“三级优化”），这对大多数人来说效果尚可，但很少能完美契合你特定的蛋糕需求。

本文介绍了MileStone，这是一个由人工智能驱动的智能系统，旨在为任何特定程序找到完美的步骤序列，同时平衡三个相互竞争的目标：

速度（运行有多快？）
大小（占用多少内存？）
能耗（消耗多少电量？）

以下是 MileStone 的工作原理，分解为简单概念：

1. 地图：将代码转化为图

MileStone 不像人类那样逐行阅读代码，而是将程序转化为一个控制与数据流图（CDFG）。

类比：将代码想象成一座城市。指令是建筑物，连接它们的线条是道路。有些道路显示你必须遵循的行驶顺序（控制流），另一些则显示货物（数据）的传输路径（数据流）。
为何有帮助：这张地图让 AI 能够看到程序的结构，而不仅仅是文本。它理解代码的不同部分如何相互依赖。

2. 水晶球：图神经网络（GNN）

MileStone 使用一种特殊的人工智能——图神经网络（GNN）——来充当水晶球。

类比：想象你有一位尝过成千上万种蛋糕的大厨。如果你给他们看一份新食谱（即该图），他们能瞬间预测：“如果你以 350 度烘烤，这将耗时 45 分钟，重 2 磅，并消耗 500 卡路里。”
作用：GNN 无需实际运行程序（这既耗时又耗能），而是通过观察图来预测速度、大小和能耗。这节省了海量时间。

3. 探索者：强化学习（RL）

一旦 AI 拥有了它的水晶球，它就需要在城市中找到最佳路径。这是通过**强化学习（RL）**代理来实现的。

类比：将这个代理想象成一位试图寻找最快路线的送货司机。他们从图的起点出发。在每个路口（即代码的每个部分），他们必须决定：“我是走捷径（优化速度）还是走风景路线（优化大小）？”
目标：司机只有在最终到达时才能获得“奖励”。如果他们交付的包裹既快又小且节能，就会获得高分；如果电量耗尽或耗时过长，得分则低。司机通过成千上万次尝试来学习，从而找到完美路线。

4. 自我进化的知识库

MileStone 拥有一个独特功能：它构建自己的知识库。

类比：每当司机尝试一条新路线，而“大厨”（即 GNN）预测出结果时，MileStone 就会将其记录在笔记本中。随着时间的推移，这本笔记本变成了一个庞大的数据库，记录了什么有效、什么无效。
益处：随着系统使用这本笔记本，“大厨”的预测能力会变得更强，“司机”寻找路线的能力也会提升。这是一个自我进化的循环，使用得越多，它就越聪明。

重大突破：平衡权衡

MileStone 所做的最重要的事情是处理相互冲突的目标。

通常，让代码运行更快会使其体积变大并消耗更多能量。
标准编译器通常只选择一个目标（通常是速度）。
MileStone 允许你设定规则，例如：“我的电池限制严格为 5 焦耳。”然后，它会在不突破该电池限制的前提下，找到尽可能快的速度。

结果

当研究人员在标准基准测试中测试 MileStone 时：

它找到了“帕累托最优”解。用通俗的话说，这些是“甜蜜点”，即你无法在不使其他方面（如能耗）变差的情况下改善某一方面（如速度）。
它显著优于标准编译器设置（如著名的 -O3 级别）。
在相同的能耗预算下，MileStone 将执行时间减少了高达 45%。
在满足特定能耗限制方面，它比传统方法或其他人工智能方法表现优异得多。

总结：MileStone 就像是一个超级智能、能自我教学的计算机代码导航系统。它不使用通用地图，而是为每个程序绘制定制地图，预测每条可能路线的结果，并引导你到达那个在速度、大小和能效之间达到完美平衡的目的地。

技术摘要：MileStone——一种多目标编译器阶段排序框架

1. 问题定义

本文 addressed 编译器阶段排序问题，即确定优化传递的最佳序列，以将程序的中间表示（IR）转换为高效的机器代码。虽然标准编译器优化级别（例如 LLVM 的 -O1、-O2、-O3）提供了固定的序列，但它们仅代表了巨大搜索空间中的一小部分子集，且无法平衡相互冲突的性能目标。

identified 的核心挑战是需要同时优化执行时间、代码大小和能耗。这些目标本质上是相互冲突的；例如，激进的循环展开可能会减少执行时间，但会增加代码大小和能耗。传统方法通常依赖固定的启发式规则或单目标优化，无法捕捉不同部署环境（如受能耗约束的嵌入式系统或高性能计算）所需的必要权衡（Pareto 最优解）。此外，穷举搜索在计算上不可行，而现有的基于学习的方法往往缺乏对多目标约束的支持，或严重依赖动态性能分析。

2. 方法论：MileStone 框架

MileStone 是一个模块化的、由学习驱动的框架，它将编译器阶段排序建模为**约束多目标优化（CMOO）**问题。它集成了图神经网络（GNN）用于静态性能预测，以及强化学习（RL）用于自适应探索。该框架由四个紧密集成的模块组成：

2.1 图生成器（GG）

GG 在前端编译阶段之后，从 LLVM IR 中提取控制流和数据流图（CDFGs）。与语法表示不同，CDFG 捕捉了程序的结构和语义关系。CDFG 中的每个节点由一个 10 维二进制特征向量表示，该向量编码了节点类型（基本块与指令）以及特定指令的操作码（例如内存操作、算术运算、控制流）。

2.2 基于 GNN 的性能预测器（GNNPP）

GNNPP 利用**图卷积网络（GCN）**直接从 CDFG 表示中预测编译后的指标（执行时间、代码大小和能耗），而无需执行代码。

架构：该模型采用两层 GCN 来聚合节点特征并捕捉多跳依赖关系，随后通过平均池化生成图级嵌入。
训练：它作为回归模型进行训练，使用均方对数误差（针对能耗和代码大小）和平均绝对误差（针对执行时间）。
作用：GNNPP 充当代理模型，提供快速的性能估计以指导 RL 智能体，从而消除了搜索过程中重复物理执行的必要性。

2.3 基于 RL 的多目标探索器（RLMOE）

RLMOE 将优化传递的选择视为一个序列决策过程，建模为马尔可夫决策过程（MDP）。

状态：包括 CDFG 图嵌入、当前节点标识符、CDFG 元数据以及用户定义的能耗约束。
动作：确定是否对当前节点应用特定的优化指令。
奖励：仅在最后一步（ $T$ ）应用稀疏奖励函数，计算为预测的代码大小、执行时间与目标能耗偏差的加权和。中间奖励为零。
算法：该框架支持深度 Q 网络（DQN）和近端策略优化（PPO）。PPO 通常表现出更优越的稳定性和性能，特别是对于大规模程序，它利用截断的代理目标和广义优势估计（GAE）。

2.4 基于 RL 的数据库生成器（RLDBG）

RLDBG 是一个自我演进的知识库，用于自动化收集训练数据。它迭代地调用 RLMOE 以探索多样化的传递序列，编译生成的配置，并使用**评估器（Evaluator）**对其进行性能分析以获得真实指标。这些 CDFG–指标对被存储起来以训练和细化 GNNPP，从而形成一个反馈循环，随时间推移提高预测准确性和探索效率。

3. 主要贡献

本文概述了四项主要贡献：

统一框架：引入 MileStone，该框架将编译器阶段排序表述为一个多目标优化问题，在用户定义的约束下平衡执行时间、代码大小和能耗。
基于图的神经模型：开发了一种 GNN 模型，能够从 IR 图中学习结构和语义属性，以准确预测程序性能指标。
基于 RL 的探索：实现了基于 RL 的方法（DQN/PPO）来探索传递序列，并识别多个目标之间的 Pareto 最优权衡。
自我改进机制：结合了自我演进的数据收集机制（RLDBG），通过聚合多样化的优化结果，增强了预测准确性和探索效率。

4. 实验结果

实验在标准基准测试（PolyBench：gemm、3mm、floyd-warshall）上进行，使用 NVIDIA RTX 3090TI GPU。该框架与 LLVM 优化级别（-O1 到 -O3）、启发式搜索方法（遗传算法、粒子群优化）以及独立 RL 智能体进行了比较。

Pareto 最优解：RLMOE（同时使用 DQN 和 PPO）始终优于基线，找到了占据解空间区域的解，这些解在保持具有竞争力的执行时间的同时，具有更低的能耗和更小的代码大小。
约束满足：在用户指定的能耗约束下，RLMOE 的匹配率显著更高（90–93%），而独立 RL 智能体为 83–85%，传统优化级别仅为 3–9%。
执行时间减少：在相同的能耗预算下，与 LLVM -O3 相比，MileStone 将执行时间减少了高达45%。具体而言，RLMOE-PPO 在不同基准测试中显示出 15–45% 的减少。
架构分析：研究表明，两层 GCN 架构在预测准确性和避免过度平滑问题之间提供了最佳平衡。

5. 意义与主张

本文声称 MileStone 为多目标编译器阶段排序提供了一种有效且可扩展的解决方案。其意义在于：

超越单目标优化：它成功地在执行时间、代码大小和能耗之间的权衡表面上进行导航，使编译器能够适应特定的硬件和工作负载需求（例如，在物联网设备中优先考虑能效）。
效率：通过将基于 GNN 的静态预测与 RL 相结合，该框架避免了穷举搜索和重复动态性能分析的过高成本。
适应性：自我演进数据库允许系统随时间改进，捕捉到静态启发式方法所遗漏的多样化 Pareto 高效配置。

作者得出结论，将静态图学习与基于强化学习的搜索相结合，为优化复杂的编译器流水线提供了一条稳健的前进道路，特别是在必须平衡多个相互冲突的性能指标的场景中。未来的工作提议将该框架扩展到更大的工业工作负载，纳入详细的微架构模型，并支持动态优化场景。