🤖 machine learning

Agentic Skill Optimization over Lie Algebroids

本論文は、編集ポリシーとその非可換な合成を表現するためにリー代数束（Lie algebroids）を用いてエージェントのスキル最適化をモデル化する新しいフレームワークであるLASKOを導入するものであり、高コストなLLMによる検証の前に、安価なリー括弧テストを通じて編集をスクリーニングすることで、桁違いの高速化を可能にする。

原著者： Sridhar Mahadevan

公開日 2026-07-14

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Sridhar Mahadevan

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、レゴブロックで作られた巨大で複雑な機械を修理しようとしていると想像してください。各ブロックは、ロボットに対する特定の指示、ルール、またはチェックリストです。この機械は、賢い行動をとるように設計された「エージェント・システム」です。問題は、ロボットがミスをしたとき、単にレゴブロックを一つ入れ替えて「これで大丈夫だろう」と期待することはできないということです。時には、ブロックを入れ替える「順番」が極めて重要になることがあります。もし「安全ルール」を修正する前に「数学ルール」を修正すれば、機械は正常に動作します。しかし、もしこれらを逆にすると、すべてが崩壊してしまいます。

これが、LASKO（Lie Algebroid SKill Optimization）という論文が解決しようとしているパズルです。

問題点：「順番が重要」という罠

ロボットの指示を、Markdownと呼ばれる特別な言語で書かれた長い物語だと考えてください。ロボットをより良くするために、AIオプティマイザー（最適化器）はこの物語を編集しようとします。それは、「ここにルールを追加する」「あの例を削除する」「このスキーマを修正する」といった、微細な変更を提案します。

従来の方法（SKILLOPTと呼ばれます）では、オプティマイザーは不器用な庭師のように振る舞います。一つの変更を試し、植物が育つかを確認し、次に別の変更を試します。それは、すべての変更が独立している（例えば、庭に一輪の花を足すようなものだ）と仮定しています。しかし、論文はこれが間違いであると主張しています。これらの変更は、時計の歯車のようなものです。もし、歯車を直す前にバネを直そうとしたら、時計は動きません。論文は、一見すると個別に問題なさそうな二つの変更であっても、実行する順番を間違えると悲惨な結果を招くことがあると示しています。

この論文は、一つひとつの編集のあらゆる組み合わせを一つずつ試すという考え方（「ブルートフォース（総当たり）」アプローチ）に対して、明確に反対しています。なぜなら、あらゆる順番をすべて試すことは、あまりにもコストがかかり、時間がかかるからです。なぜなら、そのたびにロボットを大規模で高価なテストにかけなければならないからです。また、一つの変更に対する単一の「スコア」がすべてを物語っているという考え方にも反対しています。なぜなら、ある変更はすぐには良く見えるものの、後でロボットが学習する能力を台無しにしてしまうことがあるからです。

解決策：「秘密の握手」検知器

著者らは、LASKOと呼ばれる新しいフレームワークを提案しています。これを理解するために、ロボットの指示が単なる平坦なリストではなく、隠れたレイヤーを持つ3D構造であると想像してください。

可視レイヤー（アンカー）： これは画面に見えるもの、つまりドキュメント内で実際に変化している言葉です。
隠れたレイヤー（カーネル）： これは目に見えない要素です。内部的なルーティング、テンプレート変数、そして、すぐには見えないものの将来の変更の挙動に影響を与えるロボットの「気分」のようなものです。
秘密の握手（ブラケット）： これが、この論文の核心となるアイデアです。これは、二つの変更が正しく「握手」しているかどうかをチェックする数学的なテストです。もし変更Aを行ってから変更Bを行った場合、それは変更Bを行ってから変更Aを行った場合と同じ結果になるでしょうか？

LASKOの世界では、もし二つの変更が「可換（commutativity）」でない（つまり、順番によって結果が変わる）場合、システムはそれらを「高ブラケット（high-bracket）」のペアとしてフラグを立てます。これは、混雑した交差点にいる交通警察のようなものです。すべての車（あらゆる編集順序）が衝突するかどうかを見るために通り抜けさせるのではなく、警察は素早い、安価なセンサーを使用して交通の流れをチェックします。

魔法：15倍の高速化

ここからが数字の面白いところです。論文では、この「交通警察」のアイデアが実際に機能するかどうかを確認するために、一連のテストを実施しました。

彼らは、ロボットが10個の特定のアンカー（「スキーマ」、「ツール・コントラクト」、「バリデーター」など）を持つワークフローを修正するという課題を設定しました。

従来の方法（ブルートフォース）： 完璧な修正を見つけるには、編集のあらゆる可能な順序を試さなければなりません。10個のアイテムがある場合、それは90通りの順序付けられたペアになります。もし、それぞれのペアに対して巨大なAIモデル（論文で言及されているDeepSeek V3.1 4-bit、671Bパラメータのモデルなど）を実行すると、膨大な時間がかかります。
LASKOの方法： システムはまず、超高速な「ブラケット・プローブ（検知）」を実行します。これは、編集のどのペアが実際に重要な「高ブラケット」である可能性が高いかを予測する、非常に小さく、安価な計算です（具体的に、論文ではあるテストにおいて、プローブに約0.000127秒しかかからなかったと記されています）。
結果： 全ての90組のペアをテストする代わりに、LASKOはリストをフィルタリングするために90回の「ブラケット・プローブ」を実行し、その後、予測された上位10組のペアのみを検証します。

実験において、このアプローチはブルートフォース法と比較して、ほぼ15倍の高速化を達成しました。DeepSeek V3.1モデルを用いた特定のテストでは、ブルートフォース法がすべてのオプションを検証するのに538.1秒かかったのに対し、LASKOは同じ作業をわずか36.2秒で完了しました。これは14.85倍の高速化です。

さらに印象的なことに、Nemotron 70Bモデルを用いたテストでは、時間は712.4秒から86.0秒へと短縮されました（8.28倍の高速化）。テストしたすべてのモデルを通じて、平均的な高速化率は6.94倍でした。

これが実際に意味すること

論文は、これがすべてを即座に解決する魔法の杖ではない、という点に非常に慎重です。これは、ロボットが実際に修正を試みる、高価な「検証（バリデーション）」ステップの必要性を取り除くものではありません。むしろ、それはフィルターとして機能します。

クラブの入り口にいるボディーガードを想像してください。「ブラケット・プローブ」は、IDをチェックするボディーガードです。それは速くて安価です。入ることができない人たち（悪い編集順序）を入り口で食い止めることで、高価な「サーブされた検証（実際のクラブへの入場）」が、チャンスのある人たちだけを扱うようにするのです。

著者らは、この手法を用いることで、完璧な修復シーケンス（スコア1.000を得る）を見つけ出しながら、そのための時間をごくわずかにしか費やさないことが可能であると示唆しています。160個の編集があるテストでは、ブルートフォース法は25,441回の高価な検証チェックを必要とします。一方、LASKOは、そのブラケット・スクリーニング（選別）を使用することで、わずか168回のプローブ（ブラケット・チェックと最終的な検証呼び出しの組み合わせ）だけで、同じ完璧なスコアに到達しました。

まとめ

この論文は、スキルの編集を単なる選択肢の平坦なリストとしてではなく、順番と隠れたコンテキストが重要な構造化されたシステムとして扱うことで、AIエージェントをより速く最適化できることを示唆しています。これは、より良い推測をする方法ではなく、どの推測が高価なテストを行う価値があるかを知る方法なのです。

「リー・ブラケット（Lie bracket、順序感受性のテスト）」が、時間と費用をかける前に悪い経路をフィルタリングするための強力なツールであることを、彼らは示しています。それは、混沌とした迷路の中の探索を、ガイド付きのツアーに変え、出口につながる可能性が最も高い道だけを歩ませるのです。

技術要約：Lie代数型スキルの最適化（LASKO）

1. 問題提起

SKILLOPTのようなフレームワークに代表されるエージェンティック・スキル最適化（Agentic skill optimization）は、構造化されたアーティファクト（プロンプト、ルーブリック、スキーマ、ツール契約、バリデータ、トレース）を編集することによって、エージェントの性能を向上させることを目的としている。本論文で特定された中心的な困難は、これらの編集の探索空間が**平坦ではない（not flat）**ということである。

非可換性（Non-Commutativity）: 編集の順序が重要となる。例えば、正規化ルールを適用する前にスキーマを修復する場合と、その逆を行う場合では、結果が異なる可能性がある。一見すると局所的に妥当に見える二つの編集であっても、それらを合成した際に失敗したり、弱い編集が特定のシーケンスにおいてのみ生産的になったりすることがある。
潜在的構造と可視的効果（Latent Structure vs. Visible Effects）: 最適化アルゴリズムによって選択された編集ポリシーは、ドキュメントやロールアウトにおいて観察される可視の変化と同一ではない。制御された介入には、第一次の観測では見えない内部の実装座標、潜在状態、ルーティング・コンテキスト、またはテンプレート変数が含まれており、これらが将来の合成に大きな影響を与える。
現行手法の非効率性: 単一の編集のみを検証する短期間のループは、決定的な相互作用効果を見逃す。一方で、順序付けられた編集プログラムを網羅的に列挙することは、LLMのロールアウトおよび検証のコストが非常に高いため、計算量的に不可能である。

本論文は、これが幾何学的な問題であると断定している。すなわち、型付けされたスキル・アーティファクトの周囲にある局所代数は、制御された介入とその可視的な効果を区別する形式手法を必要とするものである。

2. 手法：LASKOフレームワーク

本論文では、単純な接束（tangent bundle）ではなく、制御されたLie代数（controlled Lie algebroid） $A \to M_d$ 上のスキル最適化をモデル化するLASKO（Lie Algebroid SKill Optimization）を導入する。

2.1 数学的定式化

基底カテゴリー ( $M_d$ ): 基底空間は、型付けされ、アンカーされたMarkdownオブジェクトの接カテゴリーである。これらには、ドキュメント、計画、ツール契約、バリデータ・トレースが含まれる。ユークリッド的なパラメータ空間とは異なり、これらは特定のアンカー（例：ガードレール、スキーマフィールド、エビデンスのエッジ）を持つ構造化されたアーティファクトである。
Lie代数 ( $A$ ): スキル状態 $x$ におけるファイバー $A_x$ は、制御された編集ポリシー（セクション $s, t \in \Gamma(A)$ ）を含む。これらはまだ可視の変化ではなく、介入のモード（例：「ガードレールを強化する」「スキーマを修復する」）を表している。
アンカー写像 ( $\rho$ ): バンドル写像 $\rho: A \to TM_d$ $ρ : A \to T M_{d}$ は、制御された介入を、Markdownアーティファクトに対する可視的な無限小効果へと写像する。
- 核 ( $\ker(\rho)$ ): 潜在的な構造（テンプレート変数、ルーティングの選択、隠れた状態）を表す。これらは即座に可視の効果をもたらさないが、将来の合成に影響を与える。
Lie括弧 ( $[\cdot, \cdot]_A$ ): 二つの編集ポリシーを合成する際の順序感受性を測定する。もし $[s, t]_A \neq 0$ であれば、それらの編集は可換ではない。この括弧は、介入が観測可能なダイナミクスへと投影される前の「合成欠陥（composition defect）」を捉える。

2.2 動作メカニズム

LASKOは、フォワード・バックワードのプロセスを利用する：

フォワードパス（接関数）: 局所的な編集が、書き換え、ロールアウト、および観測コンテキストを通じて前方へ押し出される。
バックワードパス（余接構造）: 検証損失、クリティーク、および失敗信号が、特定のアーティファクト・アンカーへと引き戻される（図式的バックプロパゲーション）。
曲率診断: システムは、非閉鎖性と経路依存性を測定するために残差を計算する：
- 可視フロベニウス残差 ( $R_{vis}$ ): 可視の編集がLie括弧の下で閉じているかどうかを測定する。
- アンカー欠陥残差 ( $R_{anchor}$ ): 推定された介入代数と、観察された可視の括弧との間のギャップを測定する。
- 核残差 ( $R_{ker}$ ): 可視のアーティファクトは一致しているが、トレースが異なるような、隠れた手続き的相互作用を捉える。
- 図式的バックプロパゲーション曲率 ( $Curv_D$ ): クレジット割り当て（責務の所在）における経路依存性を測定する。

最適化目的関数は、タスク性能とこれらの曲率残差を含む結合損失を最小化し、編集が可換になるか、あるいはその非可換性が考慮された低曲率の固定点を探索する。

3. 主な貢献

幾何学的定式化: スキル最適化を、制御された介入（セクション）と可視の効果（アンカー）を区別するLie代数のセクションとしてモデル化することで、エージェンティック・スキル最適化を再定義した。
Lie括弧によるスクリーニング: Lie括弧を安価なスクリーニング統計量として用いることを提案する。高次括弧を持つペアを、高価な検証が必要な候補として特定し、低次括弧のペアをフィルタリングする。これにより、ブルートフォースによる順序付き列挙を、ターゲットを絞ったペア探索に置き換える。
Markdownの接カテゴリー: 型付けされたMarkdownワークフローの厳密な接カテゴリーを定義し、局所的な編集、依存関係、およびワークフロー・射論を厳密に扱うことを可能にした。
実証的検証: 本論文は、LASKOが、全探索的な順序付きペア探索の性能を、ごくわずかな検証コストで回収できることを示す予備的なベンチマーク結果を提供している。

4. 実験結果

本論文では、Greedy Single-Edit、Random Ordered Pairs、Exhaustive Ordered Pairs、および LASKO-Prioritized 戦略を比較したいくつかの制御されたベンチマークにおける結果を報告している。

Ten-Anchor ベンチマーク: 制御された10アンカー・チェーンにおいて、LASKOはわずか10回の検証プローブ（および90回の安価な括弧プローブ）を使用して、全探索と一致するスコア 1.000 を達成した。対照的に、貪欲法（greedy approach）のスコアは0.240、ランダムペアのスコアは0.266（平均）であった。
スケーラビリティ: 編集数が増加しても（最大160まで）、LASKOは線形な数の検証プローブでスコア 1.000 を維持したが、全探索は二次関数的なプローブの増加（例：160個の編集に対してLASKOは168回に対し、全探索は25,441回）を必要とした。
実世界のワークフロー:
- 10-K 財務リサーチ (BASKET/ROCKET): LASKOは、有効な修復順序（例：数値ゲーティングの前にテーブル抽出を行う）を優先することで、183回の全探索に対し、わずか29回の検証プローブでスコア 1.000 を達成した。
- Democritus/PSR 因果多様体: 身体運動およびGLP-1薬物研究の因果多様体の修復において、LASKOは21回の検証プローブで、全探索（111回）と同等のスコア 1.000 を達成した。
- プロダクト・フィードバック (Lovesac): 製品レビューの修復タスクにおいても同様の結果が得られ、LASKOは19回の検証プローブを使用して1.000を達成した。
高速化: 様々なサーブされたモデル（DeepSeek V3.1 4-bit、Nemotron、Llamaのバリアントを含む）を用いてテストした結果、LASKOは 3.69倍から14.85倍 の速度向上を示した。主な要因は、高価なLLM検証呼び出しの削減であり、括弧によるスクリーニングはマイクロ秒単位（例：72個のプローブに対して0.000508秒）で行われたのに対し、検証呼び出しには1回につき数秒を要するためである。

5. 重要性と主張

本論文は、LASKOがエージェンティック・スキル最適化における構造的な解決策を提供すると主張している。Lie代数のセクションとして編集をモデル化することで、本フレームワークは以下の事項を明示的に考慮している：

順序依存性: 修復のシーケンスが極めて重要であることを認識している。
潜在状態: 編集が、たとえ直後のアーティファクトに変化が見られなくても、将来の相互作用に影響を与える隠れたコンテキスト（核）を伴うことを認めている。
検証の経済性: 幾何学的な構造を用いた、探索空間をフィルタリングするための数学的に根拠のある手法を提供している。Lie括弧は、高価なロールアウト検証を実行する前に、価値の高い編集の相互作用を特定する「スクリーニング装置」として機能する。

著者らは、これが予備的なフレームワークであることを強調している。結果は、制御された特定のベンチマークにおいて「桁違いのスピードアップ」を示しており、スキルの編集の幾何学的構造を利用することで、エージェントの自己改善をスケーラブルにできる可能性を示唆している。本論文は、エージェンティックなアライメントや推論の全問題を解決することを主張しているのではなく、特に、アンカーされ、型付けされ、順序に敏感な構造化スキル・アーティファクトの最適化に焦点を当てている。