AoiZora: Topology-Aware Auto-Parallel Optimization for Inference of Diffusion Transformers
AoiZora 是一个由编译器介导的拓扑规划器，它通过将物理互连感知集成到自动并行搜索过程中，优化了 TPU 子切片上的低延迟视频扩散推理，与现有方案相比，为 Wan 2.1 实现了高达 1.42 倍的延迟降低。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在策划一场规模宏大、高风险的接力赛，目的是为了制作一段视频。这些“选手”是计算机芯片（具体来说是 Google 的 TPU 芯片），而“接力棒”则是生成每一帧视频所需的数据。
视频生成过程就像一个漫长且重复的循环，选手们需要一遍又一遍地清理带有噪声的图像（这被称为“去噪”），直到它变得清晰为止。因为视频体积巨大且过程缓慢，你不能只靠一颗芯片完成，而是需要一整支芯片团队协同作战。
问题所在：“座位表”错误
目前，当工程师们布置这支团队时，他们专注于“逻辑”层面的计划：“选手 A 处理背景，选手 B 处理天空，选手 C 处理人物。”这就像是在白板上分配任务。
然而，他们往往忽略了“物理”现实：这些选手究竟坐在体育场的哪个位置？
在真实的体育场（物理 TPU 网络）中，有些选手紧挨着坐，可以瞬间传递接力棒；而有些选手则坐在球场的另一端，传递接力棒需要时间，并会在它们之间的共享路径上造成交通拥堵。
研究发现，即使你给选手们分配完全相同的任务（即相同的逻辑计划），仅仅改变他们在体育场中的“座位”，就能让比赛速度变快或变慢 16.6%。罪魁祸首并不是他们奔跑的距离，而是有些选手被迫在同一时间使用同一条狭窄的走廊（共享网络链路），从而导致了交通拥堵。
解决方案：AoiZora（聪明的教练）
作者开发了一个名为 AoiZora（取自日语中的“青空”）的新工具。你可以把 AoiZora 想象成一位超级聪明的教练，它不仅会编写比赛策略，还会根据实际的体育场布局来设计座位表。
AoiZora 解决了一个棘手的问题：检查所有可能的座位安排既耗时又昂贵。如果你试图测试每一种可能的座位方式，你花在规划上的时间会比实际比赛的时间还要长。
AoiZora 如何运作（两阶段策略）
AoiZora 使用了一种巧妙的“筛选与精炼”方法，就像一个招聘过程：
第一阶段：快速简历筛选（编译前）
首先，AoiZora 使用一种廉价且快速的方法来查看“简历”（逻辑任务计划）。它此时还不会构建整个体育场，而只是检查这些任务在纸面上是否合理。它会迅速剔除那些明显会失败的计划（例如尝试拆分一个无法拆分的任务）。这很快也很便宜，就像一场 30 秒的面试。第二阶段：全模拟测试（编译后）
对于通过第一轮筛选出的少数顶尖候选者，AoiZora 会进行深度挖掘。它会构建一个详细的实际体育场模拟系统（物理 TPU 芯片），并进行全面测试。它能精确地看到交通拥堵会在哪些特定的网络链路上发生。然后，它会选出那个能完美避开拥堵的最佳座位安排。
结果
通过使用这种两步法，AoiZora 找到了“做什么”与“在哪里做”之间的完美结合。
- 类比： 想象你正在组织一场晚宴。
- 旧方法： 你决定了谁带什么菜（逻辑计划），然后让他们随便坐。有时，端着重汤的人不得不经过端着易碎蛋糕的人，两人撞在一起，导致东西洒了一地。
- AoiZora 方法： 你先快速排除掉那些无法带菜的客人。然后，针对剩下的客人，你会观察实际的餐桌布局，将端汤的人安排在靠近厨房门的一侧，将端蛋糕的人安排在另一侧，确保没有人会互相碰撞。
底线
在 Google 的 TPU 芯片上，AoiZora 使视频生成速度比以往的方法快了 1.42 倍。它并没有改变视频游戏本身或比赛规则，它只是找到了最聪明的座位安排方式，让选手们在传递接力棒时不会互相绊倒。这使得无需重写底层软件，就能实现更快、低延迟的视频生成。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。