技術概要：SkillLens コスト効率の高い LLM エージェントのための適応的マルチ粒度スキル再利用

問題定義

大規模言語モデル（LLM）エージェントは、各タスクごとにゼロから行動を再発見する必要を回避するため、手続き的経験を外部化するためにスキルライブラリにますます依存しています。しかし、既存のシステム（Voyager、Reflexion、SkillAct など）は、通常、スキルを平坦な単一解像度のプロンプトブロックとして扱います。この原子論的アプローチは、関連性とコストの間に根本的な緊張関係を生み出します。

• 粗い注入（Coarse Injection）: 取得したスキルを全体として注入すると、スキルが現在のタスクと部分的にしか互換性がない場合、無関係または誤解を招くコンテキストが導入され、コンテキストウィンドウが膨張し、幻覚（ハルシネーション）の種が蒔かれます。
• 全か無かの破棄（All-or-Nothing Discard）: スキルが完璧な一致でない場合、エージェントはそれを完全に破棄することが多く、ゼロからの再解決を強制し、再利用可能な部分構造を浪費します。
• 非効率な書き換え: 新たなコンテキストに適合させるためにスキル全体を書き換えることは、計算コストが高く、多くの場合不要です。なぜなら、特定のコンポーネントのみが適応を必要とするためです。

扱われる核心的な問いは：取得したスキルをどの解像度で再利用すべきかです。著者らは、スキルは均一に有用でも無用でもめったにないと主張します。高レベルの計画は一致するが低レベルのステップは一致しない、あるいはその逆のケースがあるからです。

手法：SkillLens フレームワーク

SkillLens は、スキルを 4 層のグラフに組織化し、混合粒度でそれらを取得・適応させる階層的スキル進化フレームワークを提案します。

1. 階層的スキルグラフ

スキルライブラリ $S$ は、オプションフレームワークと HTN 計画から適応された、4 つの抽象化レイヤーを持つグラフ $G = (S, E)$ として構造化されます。

1. ポリシー（$\ell=1$）: タスクを下流の戦略へルーティングします。
2. 戦略（$\ell=2$）: 長期的な計画を提供します。
3. 手順（$\ell=3$）: 分岐とリトライ論理を備えた再利用可能な標準作業手順（SOP）です。
4. プリミティブ（$\ell=4$）: 原子実行単位（ツール呼び出し、環境アクション）です。

エッジは、隣接するレイヤー（親子）と兄弟（横方向）を接続し、意味的類似性と構造的関係によって重み付けられます。

2. 混合粒度適応（推論時）

タスククエリ $Q$ が与えられたとき、SkillLens は 2 段階のプロセスを通じてコンパクトなスキルコンテキスト $K(Q)$ を構築します。

• シード取得と拡張: 上位 $K$ 個の埋め込みシードを取得し、スキルグラフ上の次数補正ランダムウォークを通じて拡張することで、手続き的に関連する候補を特定します。
• 検証器駆動トラバース: 検証器 $V_\phi$ が、部分的に関連する候補の分解部分木を再帰的にトラバースします。各単位 $u$ に対して、検証器は以下の 4 つのアクションのいずれかを決定します。
  • ACCEPT（受理）: 単位は互換性がある。これを保持し、その部分木のトラバースを停止します。
  • DECOMPOSE（分解）: 単位は粗すぎる。さらに評価するためにその子要素へ展開します。
  • REWRITE（書き換え）: 単位は有用だが不一致がある。ライター $W_\phi$ が局所的に適応させます。
  • SKIP（スキップ）: 単位は無関係である。破棄します。

最終的なコンテキスト $K(Q)$ は、受理された単位と局所的に書き換えられた単位のみで構成され、エージェントが完全な取得ブロックではなく、タスク固有のコンテキストを受け取ることを保証します。

3. 二重レジストリ進化的洗練

SkillLens は、推論時の適応と進化時の洗練を、2 つの結合レジストリを使用して結合します。

• エージェントレジストリ（$S$）: エージェントが参照する手続き的知識。
• 検証器レジストリ（$S_V$）: ルーティングポリシー（いつ ACCEPT/DECOMPOSE/REWRITE/SKIP を行うか）をパラメータ化します。

プロセス:

1. ギャップレポート構築: 進化用スプリットにおける失敗した軌跡を分析し、エラーの種類、トラバースパス、ルーティング決定を記録します。
2. 結合更新: ライター $W_\phi$ がギャップレポートに基づいてレジストリへの編集を提案します。まず検証器レジストリ $S_V$ を更新してルーティング決定を洗練させます。その後、エージェントレジストリ $S$ はこれらのルーティング決定から誘導されます（必要な手続き的編集を具体化します）。
3. 目的: システムは、タスク精度（$M$）と推論コスト（$C$）のバランスを取る目的関数 $J(S) = \mathbb{E}[M(Y, O_S(Q)) - C(Q, S)]$ を反復的に最大化します。

4. 理論的保証

本論文は、3 つの主要な理論的結果を提供します。

• 準線形コスト: 疎な不一致の仮定の下で、適応コストは取得したスキルツリーのサイズに対して準線形（$o(n)$）です。これは、検証器が互換性のある部分木のトラバースを回避するためです。
• 単調改善: 進化的更新ルールは、局所最適解に達するまで検証目的の単調な改善を保証します。
• 近似保証: 構成されたアルゴリズム（取得＋書き換え）は、取得、ランダムウォークスコアリング、検証器ルーティングの誤差によって制限される、代理目的関数に対する $(1 - 1/e)$-近似保証を提供します。

主要な貢献

1. 定式化: スキル再利用は、平坦なプロンプト注入を超えて、取得した知識の有用な部分を検出・構成するコンテキスト選択と適応の問題として再定義されました。
2. フレームワーク: 階層的取得、検証器誘導分解、局所的適応を利用する解像度認識フレームワークSkillLensの導入。これにより、部分的に関連するスキルを適切な粒度で再利用することが可能になります。
3. 証拠: 準線形コストと単調収束を示す理論的解析と、効率性とパフォーマンスの向上の実証的証拠。

実験結果

このフレームワークは、MuLocbench（リポジトリレベルのバグ局所化）とALFWorld（長期的な対話型テキストタスク）で評価されました。

• MuLocbench: SkillLens はすべての粒度で最良のAcc@1を達成しました。
  • ファイルレベル: 61.13%（ベースライン 58.87% 対比）。
  • モジュールレベル: 59.26%（ベースライン 55.56% 対比）。
  • 関数レベル: 43.68%（ベースライン 37.37% 対比）。
  • 観察: 改善は、完全なスキル注入が粗すぎる可能性が最も高い、より細かい粒度（関数レベル）で最も顕著でした。
• ALFWorld: SkillLens は、全体の成功率を45.00%（Vanilla）から**51.31%**に引き上げ、平坦なスキルベースライン（AutoSkill、EvoSkill）を 4.17 パーセントポイント上回りました。
• アブレーション研究:
  • 次数補正 RWR: ランダムウォークを除去するとパフォーマンスが低下し、グラフ伝播が構造的に関連するがテキスト的に遠いスキルを表面化することが確認されました。
  • 選択的書き換え: 提案された選択的ドリルダウン戦略は、「すべて書き換え」および「親のみ」のベースラインを上回ると同時に、はるかに少ないトークン（「すべて書き換え」の 115.5M 対 16.4M）と時間を消費しました。

意義と主張

本論文は、SkillLens が現在のエージェントシステムの構造的な限界、すなわち、異なる解像度でのスキルの再利用 inability に取り組んでいると主張しています。スキルを原子ブロックではなく階層的な手続きオブジェクトとして扱うことで、SkillLens はエージェントが以下を実現できるようにします。

• 互換性のある部分スキルを修正なしで直接再利用する。
• 局所的に不一致のあるコンポーネントのみを適応させ、トークンコストと幻覚のリスクを低減する。
• 手続き的コンテンツとルーティングロジックの両方を同時に進化させ、時間とともにより堅牢なスキルライブラリを構築する。

著者らは、これらの利点が、既存システムの「全か無か」のアプローチが部分的関連性のニュアンスを捉えられない、微細粒度または構成的なスキル使用を必要とするタスクにおいて最も重要であると強調しています。今後の研究として、マルチモーダル設定やマルチエージェント環境への拡張が記載されています。