技術要約: StructAgent

問題提起

大規模言語モデル（LLM）および視覚言語モデル（VLM）の最近の進歩により、デジタルエージェントがコンピュータ操作タスクを実行することが可能になりました。しかし、現実世界のタスクは、進化するコンテキストを伴う複雑なワークフローを含む「ロングホライゾン（長期的・長期的な工程）」なものになることが多くあります。エージェントがこれらのタスクを実行するにつれ、事実情報、中間的な編集、失敗した試行、および部分的に完了した実行を含む、生のインタラクション履歴が蓄積されます。

特定された核心的な課題は、既存のエージェントが通常、この生の非構造化履歴に基づいて動作していることです。コンテキストが増大するにつれ、重要な情報は埋もれてしまい、現在のタスクの状態は曖昧になります。このような構造の欠如は、エージェントが以下のことを困難にします：

• タスクの進捗に関する明確な因果関係の把握。
• 異常な状態や中間エラーの迅速な検出。
• 正確なプランニングと実行。
• 全履歴を再生することなく失敗から回復すること。

その結果、エージェントが有効な進捗とノイズ、あるいは自己報告されたものの検証されていない完了宣言を区別することが困難になるため、信頼性の高いロングホライゾン実行が制限されています。

手法: StructAgent

これらの課題に対処するため、著者らは、タスクの進捗に関する統一された因果表現に基づいて、エージェントの状態とワークフローの両方を明示的に構造化する、状態中心のフレームワークであるStructAgentを提案しています。このフレームワークは、2つの補完的なコンポーネントで構成されています。

1. 統一されたエージェント状態

生の軌跡から進捗を推論する代わりに、StructAgentは、すべてのモジュール間の共有インターフェースとして機能する、コンパクトで型定義された監査可能な状態 $s_t$ を保持します。状態は以下のように定義されます：
$$s_t = (s_t^{req}, s_t^{val}, s_t^{ver})$$

• $s_t^{req}$ (要件/Requirements): 現在のサブゴール（小目標）の要件を格納し、何を達成すべきか、および検証器（verifier）が何をチェックすべきかを指定します。
• $s_t^{val}$ (有用な値/Useful Values): 実行中に発見された、永続的で有用な値（例：ファイルパス、URL、選択されたエンティティ）を格納します。
• $s_t^{ver}$ (検証済み証拠/Verified Evidences): プロービング（探索）プロセス中に検証器によって収集された証拠を格納し、監査と再利用を可能にします。

因果関係指向の遷移: 状態遷移は厳格に制御されます。要件のステータス ($\sigma_{i,t}$) は、検証器による決定に基づいてのみ、VERIFIED（検証済み）または INVALIDATED（無効）に変更できます。これにより、進捗の更新が、エージェントの自己報告ではなく、検証可能な証拠に基づいていることが保証されます。

2. 構造化されたワークフロー

本フレームワークは、Planner（プランナー） $\rightarrow$ Actor（アクター） $\rightarrow$ Verifier（検証器） $\rightarrow$ State Update（状態更新） という固定された実行ループで動作します。

• Planner: 現在の状態を読み取り、次のサブゴール ($g_t$) を選択します。進捗を生の履歴から再構築する必要はありません。
• Actor: 環境内でサブゴールの実行を試み、アクションのトレース ($\tau_t$) を生成します。
• Verifier: 構造化されたエージェントによるプロービング（例：ファイル、シェル出力、アプリケーションの状態の確認）を用いて、試行されたサブゴールが有効な進捗を生み出したかどうかを確認します。検証、無効化、または状態を未変更のままにするという決定 ($d_t$) を出力します。
• Memory (メモリ): 再利用可能な経験に基づき、サブゴールやアクションパターンを提案することで、状態に応じたサポートを提供します。

有効化される主な能力

• 進捗のチェックポインティング: 状態の履歴は自己完結型で人間が読めるスナップショットとして機能し、エージェンドが全インタラクション履歴を再生することなく実行を再開することを可能にします。
• 標的を絞った失敗からの回復: 進捗が停滞した場合、システムは検証済み証拠（例：証拠の欠如、矛盾する要件）を使用して問題を診断し、一般的なリトライではなく、特定の介入（再プランニング、再試行、または人間による介入）を選択します。
• ツールによる実行支援: 再帰的なパターンは再利用可能な手順として要約されます。アクターはこれらのツールを呼び出すことができますが、その結果は検証された場合にのみ状態にコミットされます。

主な貢献

1. 統一された状態: プランニング、実行、および検証に対して、タスクの進捗に関する共有ビューを提供する、コンパクトで型定義された監査可能な状態表現の導入。
2. 構造化されたワークフロー: 検証器による決定のみが、進捗をコミット、保持、または無効化できる、プランニング・実行・検証のループの設計。
3. 幅広い実証的検証: 本フレームワークが、多様なLLMおよびVLMバックボーンにおいて、ロングホライゾンのコンピュータ使用タスクの性能を向上させ、ドメイン（デスクトップ、ウェブ、Minecraft）を超えて汎用性を持つことを実証。

実験結果

OSWorld-Verified (デスクトップ)

本フレームワークは、ロングホライゾンのコンピュータ使用のためのベンチマークであるOSWorld-Verifiedで評価されました。StructAgentは、様々なバックボーンにおいて一貫して性能を向上させました：

• Qwen3.5-9B: 成功率を 27.0% (シングルモデル) から 46.9% へ向上。
• Qwen3.5-27B: 成功率を 31.6% から 62.2% へ向上。
• MiniMax-M3: シングルモデルのベースラインである75.2%を上回る、78.9% という新しいオープンソースのSOTA（State-of-the-Art）を達成。
• ドメイン性能: 利得は、「Office」タスク（スプレッドシート、ドキュメント）において最も顕著であり、これらは耐久性のある中間状態やファイルベースのチェックが利用可能です。クロスアプリケーションのタスクは依然として困難ですが、より強力なバックボーンによって改善が見られました。

汎用性

• Web (Mind2Web): StructAgentはウェブ環境にも汎用化され、Qwen3.5-9Bで 47.3%、Qwen3.5-27Bで 52.3% を達成し、再現されたベースラインを上回りました。利得は、URLやページの状態を通じて進捗を追跡できる情報探索タスクにおいて最も強固でした。
• Minecraft: デスクトップの証拠ソースをインベントリベースの検証に置き換えることで、フレームワークをMinecraftに適用しました。これにより、タスク重み付け平均成功率 76%（Optimus-1の59%に対し）を達成し、状態更新の規律がドメインに依存しないことを示しました。

分析

• 検証の質: 視覚のみの検証と比較して、構造化された検証は、最終的なスクリーンショットでは不可視であったもの（例：ファイルの存在、コマンド出力）を回収することによって、再現率を0.67から0.81へと向上させました。
• 失敗モード: 失敗した軌跡の分析により、エラーはPlanner (30%)、Verifier (30%)、Actor (33%) に分散していることが明らかになり、ロングホライゾンの信頼性には、単なるアクターのスケーリングではなく、システム全体の改善が必要であることが示されました。

意義と主張

本論文は、抽象化の目的とは、エドガー・ダイクストラが引用するように、ある人が「絶対的に精密」になれる意味論的なレベルを作り出すことであると論じています。StructAgentは、ノイズの多い履歴に対する連続的な生成から、明示的な因果構造へと移行することで、これを実現しています。

著者らは以下のことを主張しています：

1. 透明性と制御: 検証器による決定を強制することにより、エージェントの進捗は透明、監査可能、かつ制御可能になります。
2. 堅牢性: フレームワークは、標的を絞った失敗からの回復と証拠に基づくタスク完了を可能にし、脆弱な自己報告による「DONE（完了）」という主張への依存を軽減します。
3. 汎用性: 状態中心のパラダイムは、特定のモデル規模やデスクトップ環境に縛られるものではありません。証拠のソースを適応させることで、ウェブブラウザやゲーム環境（Minecraft）にも効果的に汎用化できます。

本研究は、ロングホライゾンの信頼性に対するシステムレベルのソリューションとして位置づけられており、タスクの進捗そのものを構造化することが、基礎となる言語モデルを改善することと同じくらい重要であることを示唆しています。