💬 NLP

GLM-5: from Vibe Coding to Agentic Engineering

本文介绍了 GLM-5，这是一款通过采用 DSA 架构降低训练推理成本、利用新型异步强化学习基础设施提升对齐与自主性，从而推动从“氛围编程”向“智能体工程”范式转变并实现端到端软件工程任务突破的下一代基础模型。

原作者： GLM-5-Team, :, Aohan Zeng, Xin Lv, Zhenyu Hou, Zhengxiao Du, Qinkai Zheng, Bin Chen, Da Yin, Chendi Ge, Chenghua Huang, Chengxing Xie, Chenzheng Zhu, Congfeng Yin, Cunxiang Wang, Gengzheng Pan, Hao ZeGLM-5-Team, :, Aohan Zeng, Xin Lv, Zhenyu Hou, Zhengxiao Du, Qinkai Zheng, Bin Chen, Da Yin, Chendi Ge, Chenghua Huang, Chengxing Xie, Chenzheng Zhu, Congfeng Yin, Cunxiang Wang, Gengzheng Pan, Hao Zeng, Haoke Zhang, Haoran Wang, Huilong Chen, Jiajie Zhang, Jian Jiao, Jiaqi Guo, Jingsen Wang, Jingzhao Du, Jinzhu Wu, Kedong Wang, Lei Li, Lin Fan, Lucen Zhong, Mingdao Liu, Mingming Zhao, Pengfan Du, Qian Dong, Rui Lu, Shuang-Li, Shulin Cao, Song Liu, Ting Jiang, Xiaodong Chen, Xiaohan Zhang, Xuancheng Huang, Xuezhen Dong, Yabo Xu, Yao Wei, Yifan An, Yilin Niu, Yitong Zhu, Yuanhao Wen, Yukuo Cen, Yushi Bai, Zhongpei Qiao, Zihan Wang, Zikang Wang, Zilin Zhu, Ziqiang Liu, Zixuan Li, Bojie Wang, Bosi Wen, Can Huang, Changpeng Cai, Chao Yu, Chen Li, Chengwei Hu, Chenhui Zhang, Dan Zhang, Daoyan Lin, Dayong Yang, Di Wang, Ding Ai, Erle Zhu, Fangzhou Yi, Feiyu Chen, Guohong Wen, Hailong Sun, Haisha Zhao, Haiyi Hu, Hanchen Zhang, Hanrui Liu, Hanyu Zhang, Hao Peng, Hao Tai, Haobo Zhang, He Liu, Hongwei Wang, Hongxi Yan, Hongyu Ge, Huan Liu, Huanpeng Chu, Jia'ni Zhao, Jiachen Wang, Jiajing Zhao, Jiamin Ren, Jiapeng Wang, Jiaxin Zhang, Jiayi Gui, Jiayue Zhao, Jijie Li, Jing An, Jing Li, Jingwei Yuan, Jinhua Du, Jinxin Liu, Junkai Zhi, Junwen Duan, Kaiyue Zhou, Kangjian Wei, Ke Wang, Keyun Luo, Laiqiang Zhang, Leigang Sha, Liang Xu, Lindong Wu, Lintao Ding, Lu Chen, Minghao Li, Nianyi Lin, Pan Ta, Qiang Zou, Rongjun Song, Ruiqi Yang, Shangqing Tu, Shangtong Yang, Shaoxiang Wu, Shengyan Zhang, Shijie Li, Shuang Li, Shuyi Fan, Wei Qin, Wei Tian, Weining Zhang, Wenbo Yu, Wenjie Liang, Xiang Kuang, Xiangmeng Cheng, Xiangyang Li, Xiaoquan Yan, Xiaowei Hu, Xiaoying Ling, Xing Fan, Xingye Xia, Xinyuan Zhang, Xinze Zhang, Xirui Pan, Xu Zou, Xunkai Zhang, Yadi Liu, Yandong Wu, Yanfu Li, Yidong Wang, Yifan Zhu, Yijun Tan, Yilin Zhou, Yiming Pan, Ying Zhang, Yinpei Su, Yipeng Geng, Yong Yan, Yonglin Tan, Yuean Bi, Yuhan Shen, Yuhao Yang, Yujiang Li, Yunan Liu, Yunqing Wang, Yuntao Li, Yurong Wu, Yutao Zhang, Yuxi Duan, Yuxuan Zhang, Zezhen Liu, Zhengtao Jiang, Zhenhe Yan, Zheyu Zhang, Zhixiang Wei, Zhuo Chen, Zhuoer Feng, Zijun Yao, Ziwei Chai, Ziyuan Wang, Zuzhou Zhang, Bin Xu, Minlie Huang, Hongning Wang, Juanzi Li, Yuxiao Dong, Jie Tang

发布于 2026-02-25

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： GLM-5-Team, :, Aohan Zeng, Xin Lv, Zhenyu Hou, Zhengxiao Du, Qinkai Zheng, Bin Chen, Da Yin, Chendi Ge, Chenghua Huang, Chengxing Xie, Chenzheng Zhu, Congfeng Yin, Cunxiang Wang, Gengzheng Pan, Hao Zeng, Haoke Zhang, Haoran Wang, Huilong Chen, Jiajie Zhang, Jian Jiao, Jiaqi Guo, Jingsen Wang, Jingzhao Du, Jinzhu Wu, Kedong Wang, Lei Li, Lin Fan, Lucen Zhong, Mingdao Liu, Mingming Zhao, Pengfan Du, Qian Dong, Rui Lu, Shuang-Li, Shulin Cao, Song Liu, Ting Jiang, Xiaodong Chen, Xiaohan Zhang, Xuancheng Huang, Xuezhen Dong, Yabo Xu, Yao Wei, Yifan An, Yilin Niu, Yitong Zhu, Yuanhao Wen, Yukuo Cen, Yushi Bai, Zhongpei Qiao, Zihan Wang, Zikang Wang, Zilin Zhu, Ziqiang Liu, Zixuan Li, Bojie Wang, Bosi Wen, Can Huang, Changpeng Cai, Chao Yu, Chen Li, Chengwei Hu, Chenhui Zhang, Dan Zhang, Daoyan Lin, Dayong Yang, Di Wang, Ding Ai, Erle Zhu, Fangzhou Yi, Feiyu Chen, Guohong Wen, Hailong Sun, Haisha Zhao, Haiyi Hu, Hanchen Zhang, Hanrui Liu, Hanyu Zhang, Hao Peng, Hao Tai, Haobo Zhang, He Liu, Hongwei Wang, Hongxi Yan, Hongyu Ge, Huan Liu, Huanpeng Chu, Jia'ni Zhao, Jiachen Wang, Jiajing Zhao, Jiamin Ren, Jiapeng Wang, Jiaxin Zhang, Jiayi Gui, Jiayue Zhao, Jijie Li, Jing An, Jing Li, Jingwei Yuan, Jinhua Du, Jinxin Liu, Junkai Zhi, Junwen Duan, Kaiyue Zhou, Kangjian Wei, Ke Wang, Keyun Luo, Laiqiang Zhang, Leigang Sha, Liang Xu, Lindong Wu, Lintao Ding, Lu Chen, Minghao Li, Nianyi Lin, Pan Ta, Qiang Zou, Rongjun Song, Ruiqi Yang, Shangqing Tu, Shangtong Yang, Shaoxiang Wu, Shengyan Zhang, Shijie Li, Shuang Li, Shuyi Fan, Wei Qin, Wei Tian, Weining Zhang, Wenbo Yu, Wenjie Liang, Xiang Kuang, Xiangmeng Cheng, Xiangyang Li, Xiaoquan Yan, Xiaowei Hu, Xiaoying Ling, Xing Fan, Xingye Xia, Xinyuan Zhang, Xinze Zhang, Xirui Pan, Xu Zou, Xunkai Zhang, Yadi Liu, Yandong Wu, Yanfu Li, Yidong Wang, Yifan Zhu, Yijun Tan, Yilin Zhou, Yiming Pan, Ying Zhang, Yinpei Su, Yipeng Geng, Yong Yan, Yonglin Tan, Yuean Bi, Yuhan Shen, Yuhao Yang, Yujiang Li, Yunan Liu, Yunqing Wang, Yuntao Li, Yurong Wu, Yutao Zhang, Yuxi Duan, Yuxuan Zhang, Zezhen Liu, Zhengtao Jiang, Zhenhe Yan, Zheyu Zhang, Zhixiang Wei, Zhuo Chen, Zhuoer Feng, Zijun Yao, Ziwei Chai, Ziyuan Wang, Zuzhou Zhang, Bin Xu, Minlie Huang, Hongning Wang, Juanzi Li, Yuxiao Dong, Jie Tang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文介绍了一个名为 GLM-5 的超级人工智能模型。如果把之前的 AI 比作一个“听话但需要人时刻指挥的实习生”，那么 GLM-5 就是一个“能独当一面、甚至能自己规划并解决复杂问题的资深工程师”。

为了让你轻松理解，我们可以用几个生动的比喻来拆解这篇论文的核心内容：

1. 核心转变：从“写代码的灵感”到“造工程的系统”

过去（Vibe Coding）： 就像你给一个画家（AI）说：“画个像梵高风格的星空。”画家凭感觉（Vibe）画出来，画得好不好全看运气，而且画家不会自己改画，你得一步步教。
现在（Agentic Engineering）： GLM-5 不再只是听指令画画，它变成了一个自动化工厂。你给它一个目标（比如“造一辆能跑的车”），它会自己规划（先造轮子还是引擎？）、执行（动手造）、检查（发现轮子歪了）、修正（自己把轮子修好），最后把车交给你。它不仅能写代码，还能自己调试、运行、解决 bug，完成整个软件开发流程。

2. 大脑升级：如何既聪明又省钱？

GLM-5 之所以能这么强，是因为它在“大脑结构”和“学习方法”上做了两大革新：

DSA 技术（智能聚光灯）：
- 比喻： 以前的 AI 读长文章（比如 10 万字的小说）时，像是一个拿着放大镜的人，必须把每一个字都仔细看一遍，非常累且慢。
- GLM-5 的做法： 它装上了一个“智能聚光灯”（DSA 技术）。它不需要看每一个字，而是能瞬间判断出哪些字是重点，只把聚光灯打在关键内容上。
- 效果： 就像在图书馆里找书，以前要一本本翻，现在直接看目录和索引，速度飞快，而且省下了大量的电费和算力成本。这让它能处理超长文档而不“烧坏”显卡。
异步强化学习（边跑边学的赛车队）：
- 比喻： 以前的 AI 训练像是一个教练带着一个学生，学生跑一步，教练停下来纠正，再跑一步。效率很低，因为教练大部分时间在等。
- GLM-5 的做法： 它建立了一个异步赛车队。几十辆赛车（推理引擎）同时在赛道上跑，不管谁快谁慢，只要跑完一圈就把数据传给中央指挥部（训练引擎）。指挥部不需要等所有人，而是根据收到的数据随时调整策略。
- 效果： 这种“边跑边学”的模式，让 AI 在解决复杂、长期的任务（比如经营一家虚拟公司一年）时，能像老练的赛车手一样，从无数次试错中快速进化。

3. 实战表现：它到底有多强？

论文里列举了很多测试，我们可以这样看：

考试能力（推理与知识）： 在像“人类最后考试”（HLE）这种极难的智力测试中，GLM-5 的成绩已经能和目前最顶尖的闭源模型（如 GPT-5.2、Claude Opus 4.5）掰手腕，甚至在某些方面超过了它们。
编程能力（SWE-bench）： 在真实的软件修复任务中，它不仅能写代码，还能像资深程序员一样，理解整个项目结构，修复复杂的 Bug。在开源模型里，它是目前的“扛把子”。
长期任务（Vending Bench）： 这是一个模拟经营自动售货机的测试，AI 需要运营一年。GLM-5 最后赚了 4432 美元，虽然还没超过最顶尖的模型（5000+ 美元），但已经远超之前的版本，证明它具备长期规划和资源管理的能力，不会“走一步看一步”。

4. 本土化适配：给中国芯片“穿新鞋”

背景： 很多大模型只能在英伟达（NVIDIA）的显卡上跑得飞快，但在国产芯片上容易“水土不服”。
GLM-5 的突破： 它专门为华为昇腾、摩尔线程等7 种国产芯片做了深度优化。
比喻： 就像给一辆法拉利换了适合中国路况的轮胎和悬挂系统。现在，GLM-5 在国产芯片上也能跑出接近国际顶尖集群的速度，而且成本降低了 50%。这意味着中国开发者可以用更便宜的设备，训练出同样强大的 AI。

5. 一个有趣的“彩蛋”：匿名测试

论文最后提到一个有趣的故事：作者曾把 GLM-5 匿名发布在 OpenRouter 上，取名叫"Pony Alpha"。

结果： 社区用户完全猜不出这是国产模型，很多人以为是 Claude 或 DeepSeek 的新版本。
意义： 这证明了 GLM-5 的实力已经去除了“品牌偏见”，纯粹靠能力说话，真正达到了世界前沿水平。

总结

GLM-5 不仅仅是一个更聪明的聊天机器人，它是一个能自主工作的“数字员工”。
它通过智能聚光灯（DSA）变得既聪明又省钱，通过异步赛车队（RL）学会了在复杂环境中长期生存，并且适配了国产芯片，让中国开发者能低成本地用上世界顶级的 AI 能力。这标志着 AI 从“陪聊”时代正式迈入了“自主工程”时代。

1. 核心问题与挑战

随着大语言模型（LLM）从被动知识库向主动问题解决者转变，面临两大主要瓶颈：

计算成本与效率：传统密集注意力机制在处理长上下文（如 128K+）时计算成本呈 $O(L^2)$ 增长，难以支撑复杂的代理（Agent）长程推理。
现实世界适应性：现有模型在静态基准（如 SWE-bench）上表现尚可，但在需要长程规划、多步迭代和自主纠错的复杂软件工程任务中，缺乏真正的自主性和稳定性。

2. 方法论与关键技术

GLM-5 通过以下四大技术创新解决了上述问题：

2.1 架构创新：DSA (DeepSeek Sparse Attention)

背景：为了降低长上下文推理成本，GLM-5 采用了 DSA 架构，替代了传统的密集注意力。
机制：DSA 通过动态细粒度选择机制，根据 Token 的重要性动态分配注意力资源，而非固定模式（如滑动窗口）。
优势：
- 成本降低：将长序列的注意力计算量减少了约 1.5-2 倍，使模型能以一半的 GPU 成本处理 128K 上下文。
- 无损性能：通过“密集预热 + 稀疏适应”的两阶段训练策略，DSA 模型在长上下文基准（如 RULER, NIAH）上保持了与密集模型（MLA）相当的性能，且无信息丢失。
- 规模扩展：支持模型参数扩展至 744B（40B 活跃参数），训练 Token 预算达 28.5T。

2.2 异步强化学习基础设施 (Asynchronous RL Infrastructure)

解耦生成与训练：构建了全新的异步 RL 框架，将推理引擎（Rollout）与训练引擎解耦，最大化 GPU 利用率，消除了同步训练中的长尾延迟和空闲时间。
Token-in-Token-out (TITO)：在异步 RL 中，直接传递 Token ID 而非重新分词后的文本，避免了分词边界不匹配导致的动作与奖励对齐错误。
直接双边重要性采样：针对异步环境下的策略漂移问题，提出了一种简化的 Token 级重要性采样机制，无需维护历史策略检查点，通过截断机制（Clipping）稳定训练。

2.3 新型异步代理 RL 算法

持续学习：开发了异步代理 RL 算法，使模型能从多样化的长程交互中持续学习，优化动态环境下的规划与自我纠错能力。
混合域训练：在 Reasoning RL 阶段，混合了数学、科学、代码和工具集成推理（TIR）四个领域的训练数据，并通过难度过滤确保训练质量。
多阶段对齐：采用 SFT -> Reasoning RL -> Agentic RL -> General RL 的渐进式对齐策略，并利用 On-Policy Cross-Stage Distillation（在线策略跨阶段蒸馏）防止灾难性遗忘，确保模型在获得新技能的同时保留原有的推理能力。

2.4 全栈国产芯片适配

GLM-5 是首个从第一天起就针对中国主流 GPU 生态进行全栈优化的模型。
深度优化了包括 华为昇腾 (Ascend)、摩尔线程、海光、寒武纪、昆仑芯、MetaX 和燧原在内的 7 个主流国产芯片平台。
实现了从底层算子（Kernel）到上层推理框架的深度优化，包括混合精度量化（W4A8）、高性能融合算子（如 Lightning Indexer）和推理引擎调度优化。

3. 关键贡献

DSA 架构的规模化应用：首次将 DeepSeek Sparse Attention 成功应用于 744B 参数量的模型，并在长上下文和复杂推理任务中实现了“无损”稀疏化，大幅降低了推理成本。
异步代理工程框架：提出并验证了一套完整的异步 RL 基础设施和算法，解决了长程代理任务中的训练效率低、策略漂移和状态不一致问题，显著提升了模型在真实软件工程场景中的表现。
现实世界编码能力的突破：通过构建超过 10,000 个可验证的 SWE 环境和终端任务，以及 Slide 生成等复杂任务，证明了 GLM-5 在处理端到端软件开发任务上的能力已超越许多闭源模型。
开源模型的里程碑：GLM-5 是首个在 Artificial Analysis Intelligence Index v4.0 上得分达到 50 分 的开源权重模型，标志着开源模型在综合智能上首次达到 50 分大关。

4. 实验结果

GLM-5 在多个权威基准测试中取得了优异成绩，部分关键数据如下：

综合智能指数：在 Artificial Analysis Intelligence Index v4.0 中得分为 50，超越 GLM-4.7 (42 分)，成为开源模型第一，并接近 Claude Opus 4.5 和 GPT-5.2 (xhigh)。
软件工程 (SWE)：
- SWE-bench Verified: 77.8% (优于 Gemini 3 Pro 的 76.2%，略低于 Claude Opus 4.5 的 80.9%)。
- SWE-bench Multilingual: 73.3% (优于 Gemini 3 Pro 和 GPT-5.2)。
- Terminal-Bench 2.0: 在修复歧义指令后达到 61.1%，与 Claude Opus 4.5 相当。
长程任务与代理能力：
- Vending-Bench 2 (模拟经营): 最终账户余额 $4,432，在所有开源模型中排名第一，接近 Claude Opus 4.5 ($4,967)。
- BrowseComp: 在结合上下文管理策略后达到 75.9%，超越所有开源模型。
- CC-Bench-V2 (内部端到端评估): 在前端、后端和长程任务中显著优于 GLM-4.7，并在 Repo Exploration 任务上超越 Claude Opus 4.5。
推理与通用能力：
- Humanity's Last Exam (HLE): 50.4% (带工具)，优于 Claude Opus 4.5 (43.4%)。
- LongBench v2: 64.5%，在长上下文推理中仅次于 Gemini 3 Pro。

5. 意义与影响

范式转变：GLM-5 标志着 AI 开发从“人类提示、AI 补全”的辅助模式，正式迈向"AI 自主规划、执行、迭代”的代理工程模式。
开源生态的崛起：证明了开源模型在复杂、长程、高成本的任务中具备与顶级闭源模型竞争的能力，打破了“只有闭源模型才能处理复杂工程”的迷思。
效率与成本的平衡：通过 DSA 和异步 RL 架构，GLM-5 展示了如何在保持高性能的同时，大幅降低计算成本，为大规模部署 AI Agent 提供了可行的技术路径。
国产化适配：GLM-5 的成功全栈适配国产芯片，为中国 AI 基础设施的自主可控和高效部署提供了重要范例。

综上所述，GLM-5 不仅是一个性能更强的模型，更是一个在架构效率、训练范式和应用场景上都具有开创性意义的下一代基础模型，为构建高效、自主的通用人工智能（AGI）代理奠定了坚实基础。