SkillCAT: Contrastive Assessment and Topology-Aware Skill Self-Evolution for LLM Agents

技術要約: SkillCAT

問題提起

大規模言語モデル（LLM）エージェントは、モデルの重みを更新することなく長期間のタスクを実行するために、外部のスキル文書（構造化された指示やツールのルールなど）にますます依存するようになっています。近年の「スキルの自己進化」手法は、エージェントの実行軌跡から再利用可能なスキルを抽出することを試みていますが、既存のパイプラインは以下の3つの決定的な限界に直面しています。

1. シングル・トレース・バイアス（Single-Trace Bias）: 現在の手法は、多くの場合、タスクごとに単一の軌跡からスキルを抽出します。成功した軌跡は偶然の戦略を反映している可能性があり、失敗した軌跡は失敗の根本原因を覆い隠してしまう可能性があり、スキル抽出のための証拠が弱かったりノイズを含んでいたりすることがあります。
2. 未検証の統合（Unvalidated Merging）: 候補となるスキルパッチは、独立した検証なしにコーパスへとマージされるのが一般的です。これにより、低品質または有害なパッチがスキルライブラリに混入し、それらが由来となったソースタスクの性能を低下させる可能性があります。
3. コンテキスト過負荷（Context Overload）: マージを通じてスキルコーパスが増大するにつれ、推論時のコンテキストは無関係または矛盾するルールで膨張します。これはプロンプトの長さを増大させ、エージェントを惑わせ、プランニングを複雑にします。

Trace2Skillなどの既存のアプローチは、オフラインのバッチパイプラインを利用していますが、証拠の質、パッチの検証、およびコンテキストの効率性というこれらの特定の問題を同時に解決できていません。

手法: SkillCATフレームワーク

SkillCAT（Contrastive Assessment and Topology-Aware Skill Self-Evolution：対照的評価およびトポロジー認識型スキル自己進化）は、スキルのライフサイクルを、対照的因果抽出（CCE）、評価増強型進化（AAE）、および**トポロジー認識型タスク実行（TTE）**という3つの明確なステージに分解する、トレーニングフリーのフレームワークです。

1. 対照的因果抽出 (Contrastive Causal Extraction: CCE)

CCEは、マルチシード・サンプリングを用いて各タスクに対して複数の軌跡を生成することで、シングル・トレース・バイアスに対処します。

• 対照ペアの構築: 与えられたタスクに対し、CCEは成功した軌跡と失敗した軌跡のペアを構築します。
• 因果的ウォーターシェッドの特定: システムは、「因果的ウォーターシェッド（Causal Watershed）」、すなわち成功の軌跡と失敗の軌跡のアクションシーケンスが最初に分岐する点を特定します。
• 記録の抽出: 全体の軌跡を要約するのではなく、CCEはこの分岐点に焦点を当てた候補経験記録を抽出し、失敗の原因を推論して、スキル編集可能なレッスンを定式化します。もしタスクに対して成功/失敗のペアが存在しない場合は、フォールバックメカニメントまたはタスクのスキップが採用されます。

2. 評価増強型進化 (Assessment-Augmented Evolution: AAE)

AAEは、候補パッチを即座にマージすべきルールとしてではなく、検証されるべき仮説として扱います。

• ソースタスクの再生: 各候補パッチは、証拠を生成した元のタスクのインスタンスである「ソースタスク・クローン」上で再生されます。
• 結果のスコアリング: システムは、結果の遷移に基づいて校正されたスコアを割り当てます：
  • 失敗 $\to$ 成功 (スコア 3.0): 最も強力な証拠。パッチが失敗を修復します。
  • 成功 $\to$ 成功 (スコア 2.0): 行動の保持。パッチが既知の成功を維持します。
  • 失敗 $\to$ 失敗 (スコア 1.0): 弱い証拠。パッチが問題を解決できません。
  • 成功 $\to$ 失敗 (スコア 0.0): 拒絶。パッチが既存の機能を破壊します。
• 階層的マージ: スコアの閾値（例：$\ge 2.0$）を満たすパッチのみが保持されます。これらは、高価値なパッチ（失敗を修復するもの）を優先しつつ、有害なパッチがグローバルなスキルコーパスに混入するのを防ぐために、低いスコア層から高いスコア層へと階層的にマージされます。

3. トポロジー認識型タスク実行 (Topology-Aware Task Execution: TTE)

TTEは、進化したスキルをモノリシックな文書としてではなく、ルーティング可能なトポロジーとしてコンパイルすることで、コンテキスト過負荷に対処します。

• トポロジー構築: オフラインコンパイラは、マージされたスキルを、コアとなる「常時オン」のコンポーネントと、メタデータ（タイトル、キーワード、依存関係）を含む一連のルーティング可能なノード（レベル2セクション）へと解析します。
• 動的ルーティング: 推論時には、LLMルーターが特定のタスク記述に基づき、最も関連性の高い$k$個のノードを選択します。
• スキルの組み立て: 最終的なコンテキストは、コアスキルと選択されたノードの本体を連結することによって組み立てられます。これにより、エージェントは最小限かつタスクに関連する能力ノードのみをロードでき、トークンコストと混乱を軽減します。

主な貢献

本論文は、オフラインのエージェント・スキル改善における3つの主要な決定事項（証拠抽出、パッチ検証/統合、テスト時デプロイメント）を特定し、その解決策としてSkillCATを提案しています。

1. フレームワーク設計: 対照的因果抽出、評価増強型進化、およびトポロジー認識型実行を統合した、トレーニングフリーのフレームワーク。
2. 問題の緩和: 特定のアーキテクチャモジュールを通じて、シングル・トレース・バイアス、未検証のマージ、および推論時のコンテキスト過負荷に直接対処します。
3. 実証的検証: スプレッドシート、ドキュメント、およびクロスモデルの設定において強力なパフォーマンスを示し、モデルのトレーニングなしでも信頼性の高いスキル進化が可能であることを証明しました。

実験結果

SkillCATは、SpreadsheetBench、WikiTableQuestions（分布外汎化のため）、およびDocVQA（マルチモーダル転移のため）で評価されました。

• SpreadsheetBench: 人間が作成したスキルから初期化した場合、SkillCATはQwen3.5-35B-A3Bを用いて55.50%の精度（Vrf）を達成し、Trace2Skillのベースライン（29.67%）を25.83パーセントポイント上回りました。「スキル作成」設定（より弱いパラメトリック・スキルから開始する場合）において、SkillCATはベースラインに対して34.33ポイントの精度向上を実現しました。
• 分布外（Out-of-Distribution）（WikiTableQuestions）: SkillCATは堅牢な汎化性能を示し、Qwen3.5-35B-A3Bで**81.55%**の精度に達し、ベースラインを大幅に上回りました。
• クロスモデル汎化: Qwen3.5モデルによって進化させたスキルは、gemma-4-31B-itおよびgpt-5.4-miniによって正常に再利用可能であり、進化したスキルが作成モデルに過学習していないことを示しました。
• マルチモーダル（DocVQA）: SkillCATはANLSスコアを0.9159（Qwen3.5-35B-A3Bユーザー）まで向上させましたが、未検証の手法（Trace2Skill + Error）は「スキルなし」のベースラインを下回りました。これは、AAE検証ステップの必要性を強調しています。
• アブレーション研究: 3つのモジュールのいずれか（CCE、AAE、またはTTE）を取り除くと、パフォーマンスの低下を招きました。特に、AAEを取り除くとパフォーマンスがベースラインを下回ったことは、有害なパッチを防ぐために検証が不可欠であることを裏付けています。

重要性と主張

本論文は、SkillCATが、LLMエージェントがスキルを自己進化させるための信頼できるトレーニングフリーの経路を提供すると主張しています。プロセスを証拠抽出、検証、およびコンテキスト認識型デプロイメントに分離することで、連続的な更新ループで見られる収穫逓減とノイズの蓄積を克服しています。著者らは、トポロジー認識型ルーティングを通じてコンテキストを削減しながら、モデル間の汎化とドメイン間の汎化を同時に実現するフレームワークの能力が、ファインチューニングの計算コストをかけずにエージェントの能力をスケールさせるための実用的な解決策を提供することを強調しています。結果は、高品質なスキル進化が、単に大量の軌跡データを蓄積することではなく、証拠の質（CCE）と検証の厳格さ（AAE）に大きく依存していることを示唆しています。