🤖 machine learning

Agentic Skill Optimization over Lie Algebroids

本文介绍了 LASKO，这是一个利用李代数（Lie algebroids）来表示编辑策略及其非交换组合，从而对智能体技能优化进行建模的新型框架，通过在进行昂贵的 LLM 验证之前，利用廉价的李括号（Lie-bracket）测试来筛选编辑，从而实现了数量级的加速。

原作者： Sridhar Mahadevan

发布于 2026-07-14

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Sridhar Mahadevan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在试图修理一台由乐高积木组成的巨大且复杂的机器，每一块积木都是一个特定的指令、一条规则或是一个给机器人的检查清单。这台机器是一个旨在执行智能任务的“智能体系统”（agentic system）。问题在于，当机器人犯错时，你不能仅仅更换掉一块乐高积木并寄希望于好运；有时候，更换积木的顺序至关重要。如果你先修复了“安全规则”再修复“数学规则”，机器就能正常工作；但如果你反过来操作，整个机器就会崩溃。

这就是 LASKO（李代数技能优化，Lie Algebroid SKill Optimization）论文试图解决的谜题。

问题所在：“顺序陷阱”

把机器人的指令想象成一段用一种特殊语言（称为 Markdown）编写的长篇故事。为了让机器人变得更强大，一个 AI 优化器会尝试编辑这个故事。它会提出微小的改动建议：“在这里添加一条规则”、“删除那个例子”或“修复这个模式（schema）”。

在旧的方法中（称为 SKILLOPT），优化器表现得像个笨拙的花匠。它尝试一个改动，观察植物是否生长，然后尝试另一个改动。它假设每个改动都是独立的，就像在花园里添加一朵单花。但本文指出这是错误的。这些改动更像是时钟里的齿轮。如果你在修好连接的齿轮之前就去修弹簧，时钟就不会滴答作响。论文表明，两个本身看起来都完美的改动，如果顺序错了，结果会一败涂地。

论文明确反对那种“通过逐一尝试每种可能的组合来解决问题”的想法。它指出，尝试每一种可能的顺序（即“暴力破解”法）成本太高且速度太慢，因为每次都要让机器人经历一次大规模且昂贵的测试。它也反对认为单个改动的“得分”就能说明全部情况；有时一个改动虽然即时效果看起来很好，但却会破坏机器人未来的学习能力。

解决方案：“秘密握手”检测器

作者提出了一个名为 LASKO 的新框架。要理解它，请想象机器人的指令不仅仅是一个扁平的列表，而是一个具有隐藏层的 3D 结构。

可见层（锚点/Anchor）： 这是你在屏幕上看到的——文档中发生变化的实际文字。
隐藏层（内核/Kernel）： 这是不可见的部分：内部路由、模板变量，以及你无法立即看到但会影响未来改动行为的机器人“情绪”。
秘密握手（括号/Bracket）： 这是论文的核心思想。这是一个数学测试，用于检查两个改动是否能正确地“握手”。如果先做改动 A 再做改动 B，其结果是否与先做改动 B 再做改动 A 相同？

在 LASKO 的世界里，如果两个改动不“交换”（即顺序改变会导致结果不同），系统就会将其标记为“高括号”（high-bracket）对。这就像繁忙路口的一个交通警察。系统不再让每一辆车（每一种可能的编辑顺序）都尝试通过并看是否撞车，而是使用一个快速、廉价的传感器来检查交通流。

奇迹：提速 15 倍

这里是数字令人兴奋的地方。论文进行了一系列测试，以观察这种“交通警察”理念是否奏效。

他们设置了一个挑战，要求机器人修复一个包含 10 个特定锚点（如“模式”、“工具契约”、“校验器”等）的工作流。

旧方法（暴力破解）： 为了找到完美的修复方案，你必须尝试所有可能的编辑顺序。对于 10 个项目，那就是 90 种有序对。如果你对每一对都运行一个巨大的 AI 模型（例如论文中提到的拥有 671B 参数的 DeepSeek V3.1 4-bit 模型），这会耗费极长时间。
LASKO 方法： 系统首先运行一个超快速的“括号探测器（bracket probe）”。这是一个极其微小、廉价的计算过程，耗时仅为微秒级（具体而言，论文指出在一次测试中，一个探测器仅用了约 0.000127 秒）。该探测器可以预测哪些编辑对实际上是重要的“高括号”对。
结果： LASKO 没有测试所有的 90 个对，而是先运行 90 次括号探测 来过滤列表，然后仅验证预测出的前 10 个对。

在实验中，这种方法实现了相对于暴力破解法近 15 倍 的加速。在一次使用 DeepSeek V3.1 模型的测试中，暴力破解法验证所有选项需要 538.1 秒，而 LASKO 完成同样的工作仅需 36.2 秒。这是 14.85 倍 的加速。

更令人印象深刻的是，在一次使用 Nemotron 70B 模型的测试中，时间从 712.4 秒 降至 86.0 秒（8.28 倍 加速）。在他们测试的所有模型中，平均加速比为 6.94 倍。

这究竟意味着什么

论文非常谨慎地表示，这并不是一个能瞬间解决一切问题的魔杖。它并不会消除对“验证”这一昂贵步骤的需求（即机器人实际尝试修复的过程）。相反，它扮演的是一个过滤器的角色。

把它想象成夜店门口的保镖。 “括号探测器”就是检查身份证的保镖。它既快又便宜。它拦住了那些注定进不去的人（错误的编辑顺序），使得昂贵的“服务验证”（实际进入俱乐部）只需处理那些真正有机会的人。

作者指出，这种方法允许系统在仅花费一小部分时间和金钱的情况下，找到完美的修复序列（获得 1.000 的得分）。在一次包含 160 个编辑 的测试中，暴力破解法需要进行 25,441 次昂贵的验证检查。而 LASKO 利用其括号筛选功能，仅需 168 次探测（包括括号检查和最终验证调用）就达到了同样的完美得分。

核心结论

论文表明，通过将技能编辑视为一个结构化系统（其中顺序和隐藏上下文至关重要），而不仅仅是一个扁平的选项列表，我们可以更快地优化 AI 智能体。这不仅仅是关于如何更好地猜测，而是关于如何知道哪些猜测值得进行昂贵的测试。

虽然结果令人期待，且在大型模型实验中得到了测量，但作者将其定义为一个新的优化框架。他们展示了“李括号”（Lie bracket，即顺序敏感性测试）是一个强大的工具，可以在这些路径消耗我们的时间和金钱之前，将错误的路径过滤掉。它将一场在迷宫中的混乱搜索变成了一场有导向的游览，确保我们只走那些最有希望通往出口的路径。

技术摘要：基于李代数丛的智能体技能优化 (LASKO)

1. 问题陈述

智能体技能优化（以 SKILLOPT 等框架为代表）涉及通过编辑结构化人工制品（提示词、准则、模式、工具契约、验证器和追踪记录）来提升智能体性能。本文识别出的核心难点在于，这些编辑的搜索空间并非平坦的。

非交换性（Non-Commutativity）： 编辑的顺序至关重要。在应用归一化规则之前修复模式，与在之后进行修复，其结果可能完全不同。两个看似局部合理的编辑在组合时可能会失败，或者微弱的编辑只有在特定的序列中才能产生实效。
潜在结构与可见效应（Latent Structure vs. Visible Effects）： 优化器选择的编辑策略并不等同于在文档或展开（rollout）中观察到的可见变化。受控干预通常携带内部实现坐标、潜在状态、路由上下文或模板变量，这些变量在一阶观察中是不可见的，但会显著影响未来的组合。
现有方法的低效性： 仅验证单次编辑的短周期循环会忽略关键的交互效应，而对有序编辑程序进行穷举搜索在计算上是极其昂贵的，因为大语言模型（LLM）的展开和验证成本极高。

本文认为这是一个几何问题：围绕类型化技能人工制品的局部代数需要一种能够区分“受控干预”与“可见效应”的形式化方法。

2. 方法论：LASKO 框架

本文引入了 LASKO（Lie Algebroid SKill Optimization，李代数丛技能优化），该框架将技能优化建模为一个受控李代数丛 $A \to M_d$ ，而非简单的切丛。

2.1 数学形式化

基范畴 ( $M_d$ )： 基空间是一个类型化、锚定的 Markdown 对象的切丛范畴。这些对象包括文档、计划、工具契约和验证器追踪。与欧几里得参数空间不同，它们是具有特定锚点（如护栏、模式字段、证据边）的结构化人工制品。
李代数丛 ( $A$ )： 在技能状态 $x$ 处的纤维 $A_x$ 包含受控编辑策略（截面 $s, t \in \Gamma(A)$ ）。这些尚未转化为可见的变化，而是代表了干预模式（例如，“加强护栏”、“修复模式”）。
锚定映射 ( $\rho$ )： 丛映射 $\rho: A \to TM_d$ $ρ : A \to T M_{d}$ 将受控干预映射到其在 Markdown 人工制品上的可见无穷小效应。
- 核 ( $\ker(\rho)$ )： 代表潜在结构（模板变量、路由选择、隐藏状态），这些结构虽然没有立即的可见效应，但会影响未来的组合。
李括号 ( $[\cdot, \cdot]_A$ )： 衡量两个编辑策略组合时的顺序敏感性。如果 $[s, t]_A \neq 0$ ，则表示编辑不满足交换律。该括号捕捉了干预投影到可观测动力学之前的“组合缺陷”。

2.2 操作机制

LASKO 利用一个前向-后向过程：

前向传递（切丛函子）： 局部编辑通过重写、展开和观察上下文被推向前向。
后向传递（余切结构）： 验证损失、批判和失败信号被拉回到特定的人工制品锚点（图表式反向传播）。
曲率诊断： 系统计算残差以衡量非闭合性和路径依赖性：
- 可见 Frobenius 残差 ( $R_{vis}$ )： 衡量可见编辑是否在李括号下闭合。
- 锚点缺陷残差 ( $R_{anchor}$ )： 衡量估计的干预代数与观察到的可见括号之间的差距。
- 核残差 ( $R_{ker}$ )： 捕捉可见人工制品一致但追踪记录不同的隐藏程序交互。
- 图表式反向传播曲率 ( $Curv_D$ )： 衡量信用分配（归因）中的路径依赖性。

优化目标是最小化包含任务性能和这些曲率残差的综合损失，旨在寻找低曲率不动点，即编辑相互交换或其非交换性已被解释的情况。

3. 核心贡献

几何形式化： 本文将智能体技能优化重新定义为在李代数丛上的优化，从而区分了受控干预（截面）与可见效应（锚定）。
李括号筛选： 提出使用李括号作为一种廉价的筛选统计量。高括号值的对子被识别为需要进行昂贵验证的候选对象，而低括号值的对子则被过滤掉。这取代了暴力枚举有序序列的方法，实现了针对性的配对探测。
Markdown 的切丛范畴： 定义了类型化 Markdown 工作流的正式切范畴，从而能够对局部编辑、依赖关系和工作流态射进行严密的处理。
经验验证： 本文提供了初步的基准测试结果，证明 LASKO 能以极小的验证成本达到穷举有序对搜索的性能。

4. 实验结果

本文报告了在多个受控基准测试中的结果，对比了贪婪单次编辑、随机有序对、穷举有序对以及 LASKO-优先策略。

十锚点基准测试： 在一个受控的 10 锚点链中，LASKO 仅使用 10 次验证探测（外加 90 次廉价的括号探测）就达到了 1.000 的得分（与穷举搜索持平）。相比之下，贪婪方法得分为 0.240，随机对得分为 0.266（平均值）。
可扩展性： 随着编辑数量增加（高达 160 个），LASKO 保持了 1.000 的得分且验证探测次数呈线性增长；而穷举搜索所需的探测次数呈二次方增长（例如，160 个编辑时，LASKO 为 168 次，而穷举搜索需要 25,441 次）。
真实工作流：
- 10-K 金融研究 (BASKET/ROCKET)： LASKO 优先考虑有效的修复顺序（例如，在数值门控之前进行表格提取），以 29 次验证探测实现了 1.000 分，而穷举搜索需要 183 次。
- Democritus/PSR 因果流形： 在修复物理运动和 GLP-1 药物研究的因果流形时，LASKO 以 21 次验证探测达到了 1.000 分，与穷举搜索（111 次）持平。
- 产品反馈 (Lovesac)： 在产品评论修复任务中观察到了类似结果，LASKO 使用 19 次验证探测达到了 1.000 分。
加速比： 在使用各种服务模型（包括 DeepSeek V3.1 4-bit、Nemotron 和 Llama 变体）进行测试时，LASKO 展示了 3.69× 至 14.85× 的加速。主要的驱动力是减少了昂贵的 LLM 验证调用，因为括号筛选仅需微秒级时间（例如，72 次探测仅需 0.000508 秒），而每次验证调用则需数秒。

5. 重要性与主张

本文声称 LASKO 为智能体技能优化的低效问题提供了结构性解决方案。通过将编辑建模为李代数丛的截面，该框架明确考虑了：

顺序依赖性： 承认修复序列至关重要。
潜在状态： 承认编辑携带隐藏的上下文（核），即使即时的人工制品看起来没有变化，也会影响未来的交互。
验证经济学： 提供了一种有数学依据的方法来过滤搜索空间。李括号作为一个“筛选装置”，在进行完整的展开验证之前，即可识别出高价值的编辑交互。

作者强调，这是一个初步的框架。结果显示，在特定的受控基准测试中实现了“数量级上的加速”，这表明可以利用编辑的几何结构来提高智能体自我改进的可扩展性。本文并不声称解决了所有智能体对齐或推理问题，而是专门针对那些具有锚定性、类型化且对顺序敏感的结构化技能人工制品的优化问题。