技術的概要：Grounded Continuation（基盤化された継続）：LLM 対話のための線形時間ランタイム検証器

問題定義

マルチターン対話に展開される大規模言語モデル（LLM）は、しばしば局所的に流暢で実用的に妥当な継続を生成しますが、それは対話の確立された履歴に対して基盤化（grounded）されていません。これらの出力は、対話ですでに放棄または修正された前提、観察、仮説に基づいている可能性があります。この「基盤化のギャップ」は経験的に深刻です：研究によれば、LLM は後のターンがそれらに矛盾する場合でも、誤った仮説を修正できず、単一ターン相互作用と比較してマルチターン設定でのパフォーマンスが大幅に低下します。さらに、このギャップは、コンテキスト操作攻撃によって積極的に悪用されます。これにより、エージェントは局所的に整合性があるが以前のコミットメントから切り離された継続を生成し、不正なアクションをトリガーする可能性があります。

既存の解決策、例えば検索拡張生成（RAG）は、外部基盤化（主張を引用文書に遡って追跡すること）に対処しますが、相互作用的基盤化（主張を対話自体の進化し続けるコミットメントに遡って追跡すること）には失敗します。対話記憶システムは通常、何が言われたかを追跡しますが、主張から導き出された結論を結びつける構造的依存関係マップを欠いています。

手法

著者らは、対話全体を通じて主張の由来を追跡するために明示的な依存グラフを維持するランタイム検証器を提案します。このシステムは、LLM インタープリタと記号エンジンからなるハイブリッドアーキテクチャを介して動作します。

1. 形式的基盤

この検証器は、4 つの形式体系に基づいて構築されています：

• 動的認識論理（DEL）： エージェントが何を知り、信じ、意識しているかをモデル化します。
• 帰納的推論： 驚くべき観察を説明する仮説を生成します。
• 意識論理： エージェントの意識セットの拡大を追跡します。
• 議論フレームワーク： 議論間の攻撃と支援をモデル化します（Dung 型）。

これらは、依存構造 $D_t = (M_t, AF_t, Cmt_t, Dep_t)$ として統合されます。ここで：

• $M_t$：認識論的妥当性モデル（知識/信念状態）。
• $AF_t$：議論フレームワーク（議論と攻撃関係）。
• $Cmt_t$：エージェントの公的コミットメント。
• $Dep_t$：議論をそれらを支持する命題に結びつけるマップ。

2. 8 操作分類

LLM インタープリタは、各発話を 8 つの更新操作のいずれかに分類し、記号エンジンが依存構造の更新に適用します：

1. OBSERVE（観察）： 事実を追加するハードな公的発表。
2. HYPOTHESIZE（仮説化）： 説明仮説を導入するソフトな辞書的アップグレード。
3. SUPPORT（支持）： 証拠に基づいて主張の妥当性を増加させる。
4. UNDERMINE（弱体化）： 矛盾する証拠などを通じて主張の妥当性を減少させる。
5. REVISE（修正）： 主張を放棄するハードな撤回または攻撃エッジの追加。
6. EXPAND-AWARENESS（意識拡大）： エージェントの意識セットに新しい命題を追加する。
7. RESOLVE（解決）： 結論への合意的または権威的なコミットメント。
8. QUESTION（質問）： 説明されていない観察を帰納的問題としてフラグ付けする。

3. 検証と撤回

• 基盤化された継続チェック： 候補継続 $c$ が基盤化されているか検証するために、システムは現在の議論フレームワーク内で $claim(\alpha_c) = \phi_c$（$c$ が主張する命題）となる議論 $\alpha_c$ が存在するかを確認します。これは依存マップ上でのグラフ走査に帰着されます。
• 選択的撤回： 前提 $p$ が撤回された場合、システムは $Affected(p)$、すなわち基盤を失う結論の集合を計算します。これは、$p \in Dep(\alpha)$となるすべての議論$\alpha$ を見つけるために依存マップを走査することで計算されます。
• 複雑性： ターンごとの検証と撤回の伝播は、エンジンの表現サイズに対して線形（$O(|Args| + |Att|)$）であり、履歴再生法に典型的な対話長に伴う線形成長を回避します。

主要な貢献

1. 相互作用的基盤化のためのランタイム検証器： 各ターンにおいて、候補継続が維持された依存構造を介して以前のコミットメントに遡って追跡されるかどうかをチェックするシステム。エンジンの状態サイズに対して線形時間で動作します。
2. 構成可能な形式的基盤： DEL、議論、意識論理を統合し、選択的撤回に対する健全性の保証（命題 2.1）を提供する統一フレームワーク。システムは、前提が撤回された際に、影響を受ける結論の集合が矛盾なく明確に定義されることを保証します。
3. 健全性–忠実性の分解： 著者らは、問題を構造的チェックの健全性（証明可能に正しいエンジンの論理）と抽出の忠実性（LLM が操作を正しく分類し、依存関係を抽出する能力）に分離します。これにより、失敗が発生する場所を正確に測定できます。
4. 経験的検証： 制御されたマルチエージェントシナリオと外部ベンチマークでシステムを評価し、基盤が失敗する場所で古い前提を検出し、幻覚を抑制する能力を実証しました。

結果

制御されたシナリオ（フェーズ 2 & 3）

• 古い前提の検出： 「古い前提」ケースの 15 項目のサブセット（主張が以前に撤回された前提に依存している場合）において、検証器は100% の精度を達成し、LLM のみのベースラインの**93.3%**を上回りました。検証器は、放棄された仮説に依存する推奨が基盤化されていないことを正しく識別しましたが、ベースラインはそれを妥当とみなしました。
• 撤回遅延： 境界付き領域（解決済み/放棄された仮説が引退する領域）において、検証器の遅延は対話長が増加しても頭打ちになりますが、履歴再生ベースラインは線形に成長します。2,000 ターンにおいて、検証器は全文書を読み直すよりも84 倍高速でした。

外部ベンチマーク

• LongMemEval-KU（オラクル）： 更新と置き換えをテストする 78 項目において、検証器（コンテンツと検索を併用）は89.7% の精度に達し、LLM のみのベースライン（88.5%）とトランスクリプト RAG ベースライン（87.2%）を上回りました。勝利は、ベースラインが支持情報がない項目で幻覚を起こしたケースに集中しており、検証器は正しく抑制しました。
• LoCoMo： 60 の公式 QA 項目において、検証器は検索拡張ベースラインと競争力があり、純粋なエンティティ関係の想起ではなく、相互作用的基盤化に焦点を当てていることと一致しています。

頑健性と抽出

• 分類精度： 「定義」と「状態拡張」プロンプトを使用すると、LLM インタープリタは高い F1 スコアを達成しました（例：フェーズ 2 における Claude Sonnet 4 で 0.91）。
• ボトルネック分析： 主な制限は構造的検証そのものではなく、抽出の忠実性（LLM が自然言語を形式的操作に正しくマッピングする能力）です。具体的には、新しい仮説が古い仮説を包含する場合などの仮説間依存エッジの回復には、RESOLVE 操作における特定のスキーマ修正が必要であり、プロンプトエンジニアリングのみでは達成できませんでした。

意義と主張

本論文は、展開された LLM エージェントの重要な脆弱性に対処するため、エージェントの継続を実際の相互作用履歴に構造的に結合する初のランタイムメカニズムを提供すると主張しています。

• セキュリティ： 現在の依存グラフによってサポートされている場合にのみアクションを実行することで、コンテキスト操作攻撃に対する防御を提供します。
• 信頼性： 正しい抑制を可能にします。継続にサポートがない場合、システムはそれっぽく聞こえる正当化を幻覚させるのではなく、それを「基盤化されていない」としてフラグ付けします。
• 効率性： 記号的依存グラフを維持することで、線形時間の検証と撤回伝播を達成し、履歴を再読することが計算的に不可能な長期的対話に対してスケーラブルにします。
• 形式的保証： 選択的撤回に対する矛盾のない保証を提供し、前提が撤回された後も対話の状態が論理的に整合したままであることを保証します。

著者らは、システムの有効性は LLM が自然言語から形式的構造を忠実に抽出する能力によって制限されており、現在の実装は外部事実の検索ではなく相互作用的基盤化に焦点を当てていると控えめに指摘しています（ただし、フレームワークは後者に拡張可能です）。