Answer Engineering: Local Trajectory Editing for Protocol-Constrained Decision Making in Large Language Models

技術要約：アンサー・エンジニアリング（Answer Engineering）

問題提起
大規模言語モデル（LLM）は、臨床医学のような厳格な手順プロトコルの遵守が求められる領域において、自信に満ちているものの誤った回答を生成することがよくあります。ステップ・バイ・ステップの推論技術（例：Chain-of-Thought）は、構造化と透明性を向上させますが、プロトコルに制約された設定におけるエラーを防ぐことにはしばしば失敗します。推論はエラーを排除するのではなく、むしろエラーの分布をシフトさせてしまいます。実証研究によれば、モデルは最終的な回答に対する事後的な合理化として機能する説明を生成したり、決定を早期に下してそれを正当化したり、あるいはドメインの規則と矛盾する中間ステップを生成したりすることがあります。規制された環境においては、回答がもっともらしく見えても、必須のプロシージャル・チェックや区別が欠落していれば、運用上は無効となります。プロンプティング、制約付きデコーディング、事後検証を含む既存のアプローチは、これらの問題に対して間接的、グローバル、あるいは生成が完了した後にのみ対処するものであり、進化する推論の軌跡（trajectory）の内部で介入することには失敗しています。

手法：アンサー・エンジニアリング（Answer Engineering）
本論文では、自己回帰的な生成中に局所的な軌跡介入（localized trajectory intervention）を実行する、決定論的なランタイムおよびオーサリング層であるアンサー・エンジニアリングを提案します。モデルの再学習やグローバルな探索を必要とする手法とは異なり、アンサー・エンジニアリングは、生成された推論の軌跡に対してルールベースの編集を行うことで、標準的なデコーディングに対する制御サーフェスとして機能し、プロトコルの遵守を強制します。

コアとなるメカニズムは、**プレフィックス条件付きデコーディング（prefix-conditioned decoding）**の特性に基づいています。自己回帰型トランスフォーマーにおいて、将来のトークンの分布は可視のプレフィックスのみに依存します。したがって、推論の軌跡への局所的な編集は、モデルのパラメータを変更することなく、後続の生成のためのコンテキストを再定義します。

このフレームワークは、ドメインエキスパートによって作成された宣言的なルールによってトリガーされる、3つの介入クラスを実装しています。

1. 過去の編集（遡及的スパン置換）： トリガーが違反（例：誤った推論）を示す場合、システムは該当するスパンを、モデルの尤度に基づいた有効な候補に置き換えます。
2. 直近の継続物の選択（ローカル・ロールバック）： トリガーを検出した際、システムは編集スコープの開始点までロールバックし、複数の候補となる継続物を生成し、プロトコルルールに従って最もスコアの高い有効なものを選択します。
3. 未来の強制（挿入）： プロトコルが特定の記述（例：緊急警告）を要求する場合、システムは現在のプレフィックスに定義済みの有効な候補を付加し、これらの強制されたトークンを通じて生成を進めます。

ランタイムは制御ループとして動作します。軌跡を監視してルールのトリガーを検出し、候補となる編集を提案し、モデル自身の尤度関数を用いてそれらをスコアリングし、デコーディングを再開する前に選択された介入を適用します。このプロセスでは、修正された最も早いトークンからKVキャッシュを再構築し、生成が修正された状態から継続されるようにします。

主な貢献
本論文の主な貢献は以下の3点です。

1. デコーディング時のランタイム・メカニズム： 生成中の局所的な軌跡介入を通じてプロトコルの遵守を強制するフレームワークであり、モデルの再学習やグローバルな探索を不要にします。
2. ルールベースの制御抽象化： ドメイン固有のプロシージャルな制約を、解釈可能な軌跡編集操作として指定する方法であり、ドメインエキスパートがモデルコードを変更することなく、許容される編集を定義できるようにします。
3. 実証的評価： ステップ・バイ・ステップの推論だけでは、構造化された意思決定タスクにおけるプロトコル遵守率が低下する可能性があること、そして局所的な軌跡介入が遵守された結果を大幅に改善できることを示します。

実験結果
本手法は、ウェーバー（Weber）およびリンネ（Rinne）の音叉検査に基づく、突発性難聴（SSNHL）と伝音難聴の鑑別診断を必要とする臨床ベンチマークを用いて評価されました。評価には、2,0{0}件の合成ケース（SSNHL 1,000件、伝音難聴 1,000件）を含む決定論的なデータセットと、OpenMeditron/Meditron3-8Bモデルを使用しました。

主な知見は以下の通りです。

• 推論ベースラインの失敗： ステップ・バイ・ステップの推論ベースラインの下では、対象となるSSNHL条件に対する遵守された結果は、非誘導型の54.5%から**25.1%**へと低下した一方、対照となる伝音難聴条件のパフォーマンスは1.6%から58.9%へと上昇しました。これは、推論単体ではエラーを防ぐのではなく、エラーをシフトさせたことを示しています。
• 軌跡編集の成功： フル・トラジェクタリー編集スタック（ローカル検証、置換、および強制挿入の組み合わせ）を適用することで、対象となるSSNHL条件に対する遵守された結果は**83.5%に、対照となる伝音難聴条件へのプロトコル遵守は77.9%**に向上しました。
• 均衡精度： 両条件にわたる均衡精度は、推論ベースラインの42.0%から、軌跡編集により**80.7%**へと向上しました。
• 実行時オーバーヘッド： 介入により、SSNHLケースでは推論ベースラインに対して2.78倍、伝音難聴ケースでは1.33倍のスローダウンが発生しました。
• 失敗分析： 著者らは、本手法が結果を大幅に改善する一方で、推論の安定性を一様に保証するものではないと指摘しています。いくつかのケースでは、モデルが「コミットメントの持続（commitment persistence）」を示し、繰り返しのローカル修復にもかかわらず、繰り返し早期の診断的閉鎖を試みる現象が見られました。

意義と主張
本論文は、プロトコルに支配された推論における信頼性は、単にモデルの学習特性ではなく、ランタイム制御によって形成される**運用の特性（operational property）**として扱えることを、アンサー・エンジニアリングが示していると主張しています。結果は、プロトコル制約のある生成における失敗の多くが構造的な違反（例：手順の欠落、局所的な不整合）であり、モデルの再学習なしにドメイン固有のプロトコルを通じて修正可能であることを示唆しています。

著者らは、本研究を構造化された条件下での実現可能性調査として位置付けています。彼らは、推論の失敗を観察可能かつ修正可能にするために、評価において明確に定義された診断境界を分離していることを明示しています。これは、あらゆる推論の信頼性問題に対する一般的な解決策であるとは主張しておらず、現実世界のワークフローには相互作用するプロトコル、部分的な観測可能性、および進化するガイドラインが伴うことを認めています。その意義は、標準的な推論技術が不十分であった領域において、生成行動の明示的な制御を通じてプロトコル遵守をエンジニアリングするという、システムレベルの視点を提供することにあります。