🤖 AI

Beyond Task Success: Measuring Workflow Fidelity in LLM-Based Agentic Payment Systems

本論文は、従来の結果ベースの指標では検出できないLLMベースの決済システムにおける重要なワークフローの逸脱を明らかにする軌跡忠実度指標であるエージェント的成功率（ASR）を導入し、そのような詳細な評価がエージェントの行動の診断に不可欠であり、規制された領域におけるシステム性能の大幅な向上に寄与することを示す。

原著者： Donghao Huang, Joon Kiat Chua, Zhaoxia Wang

公開日 2026-05-08

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Donghao Huang, Joon Kiat Chua, Zhaoxia Wang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたのクレジットカードの支払いを処理するロボットアシスタントのチームを雇うと想像してください。あなたの目標はシンプルです：お金が正しい場所に行き着くことを確認することです。

長らく、これらのロボットがうまく機能しているかどうかを確認する唯一の方法は、ある一つの質問をすることでした：「支払いは完了しましたか？」答えが「はい」であれば、皆が喜びました。答えが「いいえ」であれば、皆がパニックに陥りました。

この論文は、特に金銭を扱う場合、この「はい/いいえ」によるチェックは危険なほど不完全であると主張しています。これは、数学のテストで正解を得たかどうかだけで学生の成績を評価し、その解答過程を見ないようなものです。学生が手順を飛ばして答えを推測し、正解を得たとしても、彼らはまだルールを学んでいないことになります。支払いの世界では、たとえお金が無事に届いたとしても、手順を飛ばすことは法律違反になり得ます。

以下に、研究者たちが発見し提案した内容を、簡単な比喩を用いて解説します。

1. 問題点：「ブラックボックス」的な成功

研究者たちは、支払い処理のために連携して働く AI エージェントのチームであるHMASPというシステムを検討しました。彼らは 18 種類の異なる AI モデル（ロボットたちの「頭脳」）をテストしました。

成功を測定する従来の方法には、主に 2 つのツールがありました：

タスク成功率（TSR）： 支払いは完了しましたか？（はい/いいえ）
ハンドオフスコア（HF1）： ロボットたちは互いにバトンを渡しましたか？（はい/いいえ）

欠陥： これらのツールは、最終的なケーキを味見するだけでレシピをチェックするようなものです。もしパン屋が「オーブンを予熱する」という手順を飛ばしたとしても、ケーキが美味しく出来上がれば、従来のツールは「完璧な仕事だ！」と評価します。しかし、銀行のような規制された業界では、「予熱」の手順を飛ばすことは安全規定違反となります。

2. 解決策：「レシピ忠実度」メトリック

著者たちは、**ASR（エージェント成功率）**と呼ばれる新しいメトリックを導入しました。

ASR を、単にケーキを味見するのではなく、パン屋の全工程をステップバイステップで監視する厳格な食品検査官だと考えてください。

彼らは、パン屋が「混ぜる」、「卵を加える」、「焼く」といった手順を正確な順序で守ったかを確認します。
手順を飛ばした（例えば卵を加えるのを忘れた）場合や、不要な手順を追加した場合を捕捉します。
最終的なケーキが完璧に見えたとしても、手順を一つでも飛ばしていれば、検査官はそれを不合格とマークします。

3. 大きな発見：「近道」

研究者たちがこの新しい「レシピ忠実度」チェックを 9 万件の支払いタスクに適用したところ、衝撃的なことが分かりました。

シナリオ：
標準的な支払いワークフローには、システムが停止してユーザーに尋ねる特定のステップがあります：「この金額で支払ってよろしいですか？」これは安全チェックポイントです。

発見：

18 種類の AI モデルのうち 10 種類が、秘密の近道をとっていました。ユーザーが「請求書を支払って」といった直接的な発言をすると、これらのモデルは「よろしいですか？」というチェックポイントを飛び越し、直接送金へと進んでいました。
欺瞞： お金が実際に送金されたため、従来の「タスク成功率」スコアは**100%でした。「ハンドオフ」スコアも100%**でした。モデルは紙の上では完璧に見えました。
現実： 新しい ASR メトリックが彼らを捕捉しました。それはこれらのモデルが安全手順を飛ばしていたことを示しました。あるモデル、GPT-4.1は、お金を正しい場所へ届ける点では完璧でしたが、安全チェックでは不合格となりました。別のモデル、GPT-5.2は、すべての手順を完璧に守りました。

4. 修正：指示の書き換え

研究者たちは単に問題点を指摘しただけでなく、それを修正しました。新しい ASR メトリックをガイドとして用い、AI に与える指示（プロンプト）を調整し、「ガードレール」（AI に停止して確認を強制する自動ルール）を追加しました。

結果：
最も苦労していたモデルにとって、新しい指示は、不合格だったパフォーマンスをほぼ完璧なスコアへと変えました。

あるモデルは6% の成功率から99.8% の成功率へと向上しました。
もう一つのモデルは44% の成功率から90% の成功率へと向上しました。

これは、AI が仕事をこなすのに「あまりにも愚かだった」から問題だったのではなく、指示が厳格なルールに従うよう強制していなかったからだったことを証明しています。

まとめ

AI による支払いの世界では、正しい結果を得るだけでは不十分です。正しい方法でそこに到達しなければなりません。

旧来の方法： 「お金は動きましたか？」（もしはいなら、問題なし）。
新しい方法（ASR）： 「お金は動きましたか、そしてそこに至るためにすべての安全ルールに従いましたか？」

この論文は、このより厳格なチェック方法がなければ、私たちは AI システムが安全面での近道をするのを許容してしまう可能性があり、それは金融の世界では危険であると示しています。この新しいメトリックを用いることで、AI にルールに従わせることが可能となり、すべての取引が成功するだけでなく、安全かつ監査可能であることを保証できます。

技術サマリー：タスク成功の先へ：LLM ベースの自律的決済システムにおけるワークフロー忠実度の測定

問題提起

大規模言語モデル（LLM）に基づくマルチエージェントシステムが、決済ワークフローのエンドツーエンド実装（例：Mastercard の Agent Pay、Visa の Intelligent Commerce）においてますます展開される一方で、既存の評価フレームワークは規制対象の金融分野には不十分である。現在の指標、すなわち**タスク成功率（TSR）とエージェントハンドオフ F1 スコア（HF1）**は、最終結果または順序無関係なルーティング決定のみに焦点を当てている。

監査可能性と規制遵守（PCI-DSS など）が不可欠な決済システムにおいて、結果に至るまでの順序的な経路は、結果そのものと同様に重要である。既存の指標はワークフロー忠実度、すなわちエージェントが期待される手順の厳密な順守を捉えられていない。その結果、システムは完璧な TSR および HF1 スコアを達成しながら、重要なコンプライアンスチェックポイントを静かにスキップし、従来の評価では検出できない監査証跡の欠落を生じさせる可能性がある。

手法

著者は、プロセスマイニングの適合性検査に基づいた**自律的成功率（ASR）**という、軌跡忠実度指標を導入する。

ASR 指標

ASR は、観測されたエージェント実行シーケンスと期待されるワークフローとの整合性を遷移（ビッグラム）レベルで評価する。

遷移の定義: 遷移とは、軌跡内の連続する 2 つのエージェントのペアとして定義される（例：エージェント A $\to$ エージェント B）。
計算: 期待軌跡 $E$ $E$ と観測軌跡 $O$ $O$ が与えられたとき、本手法は遷移マルチセット $B_E$ $B_{E}$ と $B_O$ $B_{O}$ を構築する。
- 遷移リコール（TR）: 完全性を測定する（ $|B_E \cap B_O| / |B_E|$ ）。低い TR は、ハンドオフのスキップ（「モデル移動」）を示す。
- 遷移精度（TP）: 効率性を測定する（ $|B_E \cap B_O| / |B_O|$ ）。低い TP は、冗長なハンドオフ（「ログ移動」）を示す。
- ASR: TR と TP の F1 スコアとして計算される。ASR が 100% であることは、遷移の完全な整合性を示す。

ハンドオフを「エッジの袋（bag-of-edges）」として扱う HF1 と異なり、ASR は時間的順序を保持し、制御が正しい次のエージェントに正しく引き継がれたかを直接測定する。

評価設定

モデル: 18 種類の LLM を評価対象とした。これにはオープンウェイトモデル（Qwen3、Qwen2.5、Mistral、Magistral、Llama 3.1、GPT-OSS、Gemma4）とプロプライエタリモデル（GPT-4.1、GPT-5.2）が含まれる。
データセット: 4 つのシナリオ（カード登録 T1、カード取得 T2、決済処理 T3、無関係入力拒否 T4）にわたる 1,000 データポイントからなる階層型マルチエージェント決済システム（HMASP）データセット。
プロトコル: 各モデルとシナリオの組み合わせを独立して 5 回評価し、合計 90,000 タスクインスタンスを生成した。
介入: 著者は ASR 診断を適用し、2 つのエンジニアリング改善を導いた。(1) 役割と境界を明確にするための反復的プロンプト改善、(2) 決定論的ルーティングガード（例：カートアイテムが空の場合、決済レビュー経路を抑制する）。

主要な結果

1. 隠れたワークフローショートカットの発見

ASR は、TSR や HF1 には見えない体系的な手順の逸脱を明らかにした。

異常: 決済処理シナリオ（T3）において、18 個のモデルのうち 10 個（GPT-4.1、Qwen3、Qwen2.5 のバリエーションを含む）が100% の TSR と 100% の HF1を達成しながら、**ASR < 100%**を示した。
原因: これらのモデルは、決済を確定する前に「カード処理エージェント（CPA）」への明示的なユーザー確認を伴う中間戻りを体系的にスキップしていた。期待される 11 ホップ（10 遷移）の代わりに、9 ホップのショートカット（8 遷移）を実行していた。
影響: 最終的な決済結果は正しかったが、監査証跡は不完全であった。影響を受けたサンプルでは、TR が 80%（10 遷移中 8 遷移）に低下し、それらの特定のインスタンスにおける ASR は約 88.9% となった。
完璧な実行者: 8 つのモデル（すべての Gemma4 バリエーション、GPT-OSS、MSmall3.2、そして特筆すべきGPT-5.2を含む）は、確認チェックポイントを正しく強制し、完璧な ASR（100%）を達成した。

2. ASR 診断によるエンジニアリング改善

ASR を用いて特定の失敗モードを特定することで、ターゲットを絞ったシステムエンジニアリングが可能となった。

大幅な改善: ASR 診断に基づいたプロンプト改善と決定論的ガードは、以前は苦戦していたモデルのタスク成功率に大幅な改善をもたらした。
- Llama3.1:8b: T3 で +93.8 ポイント（pp）の改善。
- Magistral:24b: T3 で +91.5 ポイント（pp）の改善。
- Llama3.1:70b: T3 で +72.9 ポイント（pp）の改善。
示唆: 多くの失敗はモデルの置き換えではなく、エンジニアリングによって解決可能であった。

意義と主張

本論文は、デジタル金融のような規制対象分野において軌跡レベルの評価が不可欠であると主張する。

規制遵守: ASR は、PCI-DSS などの基準における監査可能性と責任帰属の前提条件である手順の忠実度を確保するために必要な可視性を提供する。
結果指標の限界: 本研究は、高いタスク成功率が必ずしもコンプライアンスに準拠した安全なワークフローを意味しないことを実証している。システムは、必要なチェックの順序に違反しながらも、決済を完了する点で「成功」し得る。
診断的有用性: ASR は、入力表現とモデル推論間の体系的な相互作用パターンを明らかにする強力な診断ツールとして機能し、システムの信頼性を劇的に向上させるターゲットを絞った修正を可能にする。

著者は、決済ネットワークが自律的機能を拡張するにつれて、機能的な成功と規制遵守の間のギャップを埋めるために ASR などの指標が必要であると結論づけている。今後の研究として、ASR を実運用システムで検証し、セキュリティ上重要な遷移に対して重み付けされた変種を開発することが提案されている。