技術要約：潜在的な好みのための統計的事前分布

問題定義

本論文は、APIベースのリモート大規模言語モデル（LLM）に依存するローカル実行型のパーソナルエージェントの展開における決定的なボトルネックに対処している。外部スキル（ツール）のエコシステムが拡大するにつれ、エージェントはユーザーにとって最も適切なスキルを動的に選択しなければならない。しかし、ユーザーの好みはしばしば**潜在的（implicit）**であり、明示的な指示ではなく、確率的で高頻度な習慣として現れる。

現在のパラダイムは、以下の2つの異なる認知タスクを混同している：

1. 意味論的意図解析（Semantic Intent Parsing）: 明示的なユーザー指示（例：「HouseBrewで注文して」）を理解すること。
2. 統計的嗜好学習（Statistical Preference Learning）: 過去のインタラクションから潜在的な習慣（例：ユーザーは常にコーヒーに対して「VibeCof'ing」を好む）を推論すること。

既存のソリューションは通常、メモリ拡張型LLMに依存しており、そこでは履歴ログがプロンプトに注入され、単一のリモートモデルをガイドする。著者らは、このアプローチが以下の問題に直面していると主張している：

• システム的な失敗: LLMはマルチターン会話において論理的一貫性を失ったり、きめ細かな統計を追跡できなかったりすることが多い。
• リソースの制約: 高いAPIレイテンシとコンテキストウィンドウのオーバーフローにより、複雑な中央集権的アルゴリズムをローカルかつプライバシー保護型のエージェントで実行することは実用的ではない。
• 解釈性の欠如: メモリベースのアプローチは、好みの分布をモデリングするための数学的な厳密さに欠けている。

手法：LOCAL HARNESS

これらの問題を解決するために、本論文は、統計的嗜好学習と意味論的意図解析を厳密に分離（decouple）する新しいアーキテクチャであるLOCAL HARNESSを提案する。

コアアーキテクチャ

システムは、「ローカル統計推定器 + リモート例外ハンドラー」モデルで動作する：

1. ローカル統計的事前分布（The Harness）: ユーザーの嗜好分布を管理する、軽量なデバイス上実行モジュール。これは高頻度の意思決定と、探索・活用（exploration-exploitation）のトレードオフを処理する。本論文では、2つの特定の事前分布を実装している：
   • 頻度事前分布（Frequency Prior）: $(user, domain, skill)$ のカウントを追跡する単純な経験的成功率テーブル。
   • バンディット事前分布（Bandit Prior）: パラメータベクトルと正則化されたグラム行列を維持するコンテキストバンディット手法（具体的にはLINUCB）。クエリ、スキル名、ドメインからコンテキストベクトルを作成するために特徴量ハッシングを使用し、上限信頼限界（UCB）を介した原理的な探索を行う。
2. リモートLLM（The Override Handler）: 標準的なクエリにおいて、リモートLLMはクリティカルな実行パスから除外される。これは、**明示的な語彙によるオーバーライド（上書き）**を確認する場合にのみ呼び出される。
   • ステップ1（ドメイン分類）: 単一のLLMコールにより、候補となるスキルセットを制限するためのターゲットドメインを推論する。
   • ステップ2（ローカルデフォルト）: ローカルハネスが統計的事前分布に基づいてデフォルトのスキルを選択する。
   • ステップ3（意味論的オーバーライド・プローブ）: LLMに対し、「このクエリは特定のツールを明示的に指定しているか？」という二値のプローブを行う。もし指定されている場合は、その名前のツールがローカルのデフォルトを上書きし、指定されていない場合はローカルのデフォルトが実行される。

理論的基礎

著者らは、緩やかな仮定の下で、この分離されたアーキテクチャがLLMのみのベースラインと比較して、期待されるラウンドあたりのリグレット（後悔）を厳密に減少させることを証明する理論的分析（定理4.1）を提供している。ローカルの統計的事前分布が整合的である限り、リグレットはLLM固有のエラーレートよりも厳密に低い値に収束する。この証明は、最終的なポリシーがローカルの事前分布とLLMのポリシーの凸結合であるという事実に依拠しており、これは信号が混同されるメモリ拡張型のアプローチでは失われる構造的特性である。

実験的評価

既存のベンチマークは、暗黙的な嗜好駆動型のスキル選択に対処していないため、著者らはTOOLBENCH-60を構築した。これは、10のドメインにわたる60のスキルと、制御可能な嗜好分布（決定論的な「ワンホット」から確率的なディリクレ分布まで）を持つ合成ユーザーを備えたサンドボックスである。

評価セットアップ:

• バックボーン: 3つの多様なLLM（GPT-5.2, DeepSeek-V4-Flash, Qwen3-30B-Instruct）にわたって評価。
• ベースライン: 以下のカテゴリに分類される9つのエージェントを比較した：
  • 学習なし: Random, ZeroShot-LLM。
  • 統計のみ: Freq-Greedy, Pure-Bandit。
  • メモリ付きLLM: InContext-Memory（直近の履歴）, Profile-Memory（完全なシリアライズ済みログ）。
  • 統計的事前分布付きLLM: Bandit-as-Context（LLMがバンディット確率を見る）, Freq-as-Override, Bandit-as-Override（提案手法）。

主な結果:

1. 優れたパフォーマンス: BANDIT-AS-OVERRIDEエージェントは、すべてのバックボーンおよび嗜好レジームにおいて、一貫して最も低い累積リグレットと最高のテスト精度を達成した。
2. メモリとの比較: メモリ拡張型ベースライン（InContext/Profile）は大幅にパフォーマンスが低く、履歴をプロンプトに注入することが専用の統計的推定器の代わりにはならないことを裏付けた。
3. オーバーライドの処理: 純粋な統計的エージェントは、明示的なクエリ（ゼロショットの意味論的指示）において失敗した。LOCAL HARNESSは、LLMをオーバーライド検出に厳密に限定することで、明示的なクエリに対してほぼ完璧な精度を達成した。
4. 探索の価値: バンディットベースの事前分布は、単純な頻度カウントよりも、特に確率的な（ソフトな）嗜好レジームにおいて優れた性能を示し、原理的な探索の必要性を実証した。

意義と主張

本論文は、現在のパーソナルエージェント設計における根本的なアーキテクチャ上の欠陥、すなわち統計的学習と意味論的推論の混同を特定したと主張している。

• アーキテクチャの転換: 「LLM-as-Brain（すべてを処理する脳としてのLLM）」から、「LLM-as-Exception-Handler（明示的なオーバーライドのみを処理する例外ハンドラーとしてのLLM）」へのパラダイムシフトを提案し、習慣のモデリングを軽量なローカル統計に委譲する。
• 効率性とプライバシー: 統計的学習をローカルに保持することで、このアプローチはAPIレイテンシを削減し、コンテキストのオーバーフローを回避し、複雑な中央集権的インフラを必要とせずに厳格なプライバシー制約を遵守する。
• 堅牢性: 分離された設計により、エージェントはユーザーの習慣に適応しながら、明示的なユーザーコマンドにも応答し続けることができ、これはメモリ拡張型のアプローチが維持できないバランスである。

著者らは、この分離されたフレームワークが、理論的なリグレット境界と広範な実証的評価の両方によって検証された、パーソナライズされたエージェント設計のための堅牢で数学的根拠のあるパラダイムを確立すると結論付けている。