技術概要：AutoRedTrader

問題定義

大規模言語モデル（LLM）に基づく金融エージェントは、逐次的な取引および株式予測を実行するために、数値市場データとテキスト信号（例：ニュース見出し、アナリストレポート）の組み合わせに依存する傾向が強まっています。既存のレッドチームング・フレームワークは安全性やジャイルブレイクに対処していますが、微妙な金融偽情報に対する金融エージェント固有の脆弱性を捉えることにはしばしば失敗しています。明白な虚偽とは異なり、金融偽情報は、真の情報に極めて近い状態で存在する、微妙なテキスト的摂動として現れることが多く、センチメント、枠組み、強調、または数値値のわずかな変化を含みます。これらの微妙な編集は、リスク、モメンタム、またはファンダメンタルズに関するエージェントの推論を大幅に変化させ、取引決定における長期的な軌道の乖離を引き起こす可能性があります。

現在のシミュレーション・フレームワーク（例：FinMem、FinCon）は、通常、上流のフィルタリングまたはデプロイメント時の防御モジュールが偽情報を処理すると仮定しており、微妙で敵対的なテキスト的摂動という特定の失敗モードは測定されていません。さらに、既存のレッドチームング手法は失敗を個々の出力に局所化させる傾向があり、逐次的な意思決定プロセスにおいて発生する累積的なポジションのドリフトを見逃しています。

手法：AutoRedTrader

著者は、LLM ベースの金融エージェントを、合成された金融固有の偽情報の生成と注入を通じてストレステストするための自律型レッドチームング・フレームワークであるAutoRedTraderを提案します。このシステムは、部分観測マルコフ決定過程（POMDP）シミュレーション環境内で、閉ループプロセスとして動作します。

1. フレームワーク・アーキテクチャ

このフレームワークは、ループ内で相互作用する 3 つの主要コンポーネントで構成されています。

• MisGen（敵対的偽情報生成器）： 微妙で金融固有のテキスト的摂動を生成します。
• 金融エージェント（FinAgent）： 市場データとニュースを処理して取引決定（買い、売り、保有）を行う LLM ベースのエージェントです。
• 時系列証拠プロバイダー： 歴史的市場データからの構造化された時系列証拠を提供し、エージェントの堅牢性をテストするオプションのモジュールです。

2. 偽情報生成戦略（MisGen）

中核的な革新は、行動ファイナンス理論に導かれた 3 つの相補的サブ空間に摂動空間 $\Phi$ を分解する生成戦略にあります。

• 認知バイアス摂動（$\Phi_{Bias}$）： エージェントのシステムプロンプトまたはコンテキストを操作して、特定の行動バイアス（過信、損失回避、アンカリング、同調、確証バイアス）を誘発します。これはニュース内容そのものではなく、エージェントの推論の事前分布を標的にします。
• 意味的コンテンツ摂動（$\Phi_{Minor}$）： ニュース内容 $n_i$ に微妙な編集を適用します。これには以下が含まれます。
  • 反転： 市場への含意を反転させる（例：ポジティブからネガティブへ）。
  • センチメントシフト： 事実を変更せずにトーンを調整する。
  • 数値編集： トレンド方向を維持しながら主要な金融数値を変更する。
  • 時系列/概念/実体シフト： 時間、指標、または帰属における不整合を導入する。
• スタイル制御付き書き換え（$\Phi_{Rewrite}$）： 編集されたコンテンツを特定のジャーナリズム的レジスター（学術的またはニューススタイル）で再表現し、標準的なフィルタによる検出を回避しつつ、元のコンテンツとの意味的類似性を維持します。

3. 閉ループフィードバックと戦略選択

AutoRedTrader は、履歴を認識する戦略選択メカニズムを採用しています。各シミュレーションラウンドの後、エージェントの累積収益（CR）と決定影響履歴が MisGen にフィードバックされます。

• 以前に決定変更をもたらした戦略は、ポリアの壺過程を介してモデル化された、より高いサンプリング確率を割り当てられます。
• 収益依存の調整が適用されます。成功した収益は過信を誘発する確率を高め、損失は損失回避を増加させます。
• フィルタリング段階により、生成された偽情報が注入前に、高い意味的類似性（$\tau_{sim}$）と低い検出可能性（$\tau_{det}$）のしきい値を満たすことが保証されます。

4. 時系列グラウンディングによる堅牢性分析

堅牢性を評価するために、フレームワークは時系列情報グラウンディング設定を導入します。テキストを置き換えるのではなく、このモジュールは、エージェントに歴史的市場ウィンドウ（例：ボラティリティ、ドローダウン、トレンドの乖離）から導出された構造化された時系列証拠を提供します。これにより、エージェントは流入するテキスト信号と歴史的市場ダイナミクスとの整合性を評価でき、そのような証拠が誤ったナラティブに対する決定を安定化できるかどうかをテストします。

主な貢献

1. 金融偽情報生成： 行動バイアスとエージェントフィードバックに導かれた、微妙で金融固有のテキスト的摂動を生成する新しい手法。汎用的な敵対的プロンプトを超えたアプローチ。
2. 閉ループ金融エージェントシミュレーション： エージェントフィードバックが偽情報生成を反復的に強化し、孤立した出力の失敗ではなく累積的な意思決定のドリフトを捉える、POMDP ベースのシミュレーション・フレームワーク。
3. 堅牢性のための時系列グラウンディング： 構造化された歴史的市場証拠が、誤ったテキスト信号に対するエージェントの過剰反応を軽減するグラウンディング機構として機能しうるかについての調査。

実験結果

このフレームワークは、検索ベースの取引エージェントを使用して、2023 年 3 月から 4 月までの 60 日間のビットコイン（BTC）取引データで評価されました。

• 攻撃パフォーマンス： AutoRedTrader は、攻撃成功率（ASR）で最高値の26.67%、**偽情報曝露率（MER）で69.00%**を達成しました。これは汎用ベースライン（AutoRedTeamer、Pliny、LIFE）を上回り、単に偽情報を検索するだけでは不十分であり、偽情報は意思決定に関連し、エージェントの推論と整合している必要があることを示しました。
• 収益への影響： 攻撃により、エージェントの累積収益はクリーンなベースラインの +23.50% から +22.27% に低下し、偽情報が取引結果に悪影響を及ぼす可能性があることを示しました。
• 堅牢性の知見： 時系列情報グラウンディング設定を有効にした場合、攻撃の有効性は大幅に低下しました（MER は 41.66%、ASR は 18.33% に減少）。これは、歴史的市場証拠がエージェントが誤った信号をフィルタリングするのに役立つことを示唆しています。
• アブレーション研究： どのコンポーネント（バイアス、マイナー摂動、書き換え、フィードバック、またはフィルタリング）を除去しても ASR が低下し、検索可能で意思決定に効果的な偽情報を生成するにはすべてのモジュールが不可欠であることを確認しました。

意義と主張

本論文は、AutoRedTrader が検索ベースの金融エージェントにおける重要な脆弱性を明らかにしていると主張しています。すなわち、標準的な検出を回避する微妙で軌道変更をもたらす偽情報に対して感受性が高いということです。この研究は、上流のフィルタリングに依存する現在の堅牢性の仮定が、金融偽情報の微妙な性質に対しては不十分であることを浮き彫りにしています。

行動バイアスの操作と微小なテキスト的摂動がエージェントのパフォーマンスを体系的に低下させることを実証することにより、著者は金融 AI の開発において防御的評価と堅牢性テストの必要性を主張しています。結果は、テキスト信号を検証するために歴史的市場データを使用する時系列グラウンディングの統合が、エージェントの決定を安定させ、敵対的なナラティブに対する耐性を向上させる効果的な機構となりうることを示唆しています。著者は、生成された技術の二重使用リスクを認めつつ、より安全なモデル設計を情報提供するための研究および防御目的に限定して行われた作業であることを強調しています。