技術要約：大規模言語モデルの信頼性評価における階層的非精密確率アプローチ

1. 問題提起

本論文は、大規模言語モデル（LLM）に対する厳密かつ標準化された信頼性評価手法の欠如に対処している。LLMは安全性や重要度の高い領域への導入が進んでいるが、現在の評価手法は、ベンチマークに基づく記述統計（例：点推定による精度スコア）に大きく依存している。著者らは、既存の文献における5つの決定的な研究上のギャップを特定している：

1. 静的 vs 動的利用： ベンチマークは固定されたデータセットを使用しており、現実世界のユーザー行動や運用プロファイル（OP）の動的な性質を捉えきれていない。
2. 独立性 vs 階層性： 既存のベンチマークは、タスクを孤立したものとして扱うか、あるいは平均化してしまうことが多く、サブドメイン間の階層的な依存関係（例：Python対C++のコーディング）や、高レベルなドメイン間の独立性（例：コーディング対法律）を無視している。
3. 記述 vs 推論： 現在の手法は、将来の入力ポピュレーションに対する性能の不確実性を定量化するための統計的推論を行うのではなく、記述統計を報告することに留まっている。
4. 失敗確率 vs 将来の信頼性： 従来の研究は単一のタスクにおける失敗の確率に焦点を当てているが、信頼性のより広範で標準的な定義、すなわち「指定された数の将来のタスクにおける失敗のない動作の確率」を軽視している。
5. 非情報的 vs 情報的事前分布： 既存のベイズ的アプローチはしばしば非情報的な事前分布を使用しており、ドメインエキスパートからの価値ある（たとえ曖昧であっても）事前知識を取り入れることができていない。

核心となる問題は、LLMの信頼性を、運用プロファイル（OP）に依存する確率量としてモデル化し、階層的なタスク依存性を考慮し、データと事前知識の両方から生じる不確実性を定量化するフレームワークを開発することである。

2. 手法：HIP-LLM

著者らは、ソフトウェア信頼性工学とロバスト・ベイズ分析に基づいたフレームワークである HIP-LLM（Hierarchical Imprecise Probability for Large Language Models）を提案している。

2.1. 信頼性の形式的定義

ANSIのソフトウェア信頼性の定義に従い、HIP-LLMはLLMの信頼性（$R$）を、与えられた運用プロファイル（$\pi$）の下での、指定された数の将来のタスク（$n$）における失敗のない動作の確率として定義する。

• 運用プロファイル (OP): 現実世界の利用頻度を反映した、入力空間（タスクタイプ）上の確率分布。
• i.i.d. 仮定: 本フレームワークは、タスクが独立同一分布（i.i.d.）に従うベルヌーイ試行であることを仮定している。これは、オフライン・ベンチマークで一般的な「リセット」シナリオ（例：コンテキストメモリを持たない新しいチャットセッション）に適合しており、長期記憶を持つエージェント的ワークフローとは区別される。

2.2. 階層構造

本モデルは、LLMの能力空間を以下のような階層構造として構築する：

• 独立したドメイン: 高レベルのドメイン（例：コーディング、推論）は、統計的に独立したものとして扱われる。
• 依存するサブドメイン: ドメイン内において、サブドメイン（例：Pythonコーディング、データサイエンス・コーディング）は、潜在的な能力を共有するものとして依存関係があるものとモデル化される。
• 部分的プーリング（Partial Pooling）: 情報はサブドメインからドメインへ、そしてシステムレベルへと流れる。データが乏しいサブドメインは、同一ドメイン内の関連するサブドメインから強みを借りる（strengthを共有する）。

2.3. 認識的不確実性のための非精密確率（Imprecise Probability）

単一の精密な事前分布を選択することの困難さ（これは認識的不確実性を符号化するものである）に対処するため、HIP-LLMは非精密確率を採用している。

• ハイパーパラメータ（例：ベータ事前分布の $\alpha, \beta$）を特定の点値に固定するのではなく、フレームワーク内でそれらを区間（クレディアル集合）として指定する。
• これにより、単一の事後分布ではなく、信頼性指標の事後エンベロープ（下限および上限）が得られる。
• このアプローチは、事前知識そのものに関する不確実性を捉え、データと評価者の漠然とした信念の両方に整合する、妥当な信頼性推定の範囲を提供する。

2.4. 数学的定式化

推論は階層的に進行する：

1. サブドメイン・レベル: 観測された成功数（$C_{ij}$）と試行数（$N_{ij}$）を用いて、ドメインレベルのハイパーパラメータ（$\mu_i, \nu_i$）によってパラメータ化されたベータ事前分布と二項尤度を用い、サブドメインの信頼性（$\theta_{ij}$）を更新する。
2. ドメイン・レベル: サブドメインの信頼性は、OPの重み（$\Omega_{ij}$）を用いて集計され、ドメインの信頼性（$p_i$）を形成する。
3. システム・レベル: ドメインの信頼性は、ドメインレベルのOPの重み（$W_i$）を用いて集計され、システム全体のLLM信頼性（$p_L$）を形成する。
4. 将来の信頼性: フレームワークは、非失敗確率を $n_F$ 乗することにより、$n_F$ 回連続の失敗のない実行の確率（$R(n_F)$）を導出する。

定理1〜6は、数値積分とモンテカルロ・サンプリングを用いて、依存するベータ変数の加重和の計算困難性を処理しながら、各レベルにおける事後分布（または累積分布関数（CDF）のエンベロープ）の数学的導出を提供する。

3. 主な貢献

1. 形式的定義: 本論文は、確立されたソフトウェア信頼性基準に従ってLLMの信頼性を正式に定義し、安全性、セキュリティ、および正確性と区別している。
2. HIP-LLMフレームワーク: 以下の事項を同時に解決する、階層的非精密確率モデルを導入している：
   • 運用プロファイル（OP）の明示的なモデリング。
   • サブドメイン間の階層的依存関係と、ドメイン間の独立性。
   • 事後エンベロープを通じた、原理的な不確実性（偶然的不確実性と認識的不確実性）の定量化。
   • 情報的（非精密な）事前知識の組み込み。
3. 公開リポジトリ: 著者らは、実験データ、ソースコード、およびモデルを含む公開リポジトリを公開している。

4. 実験結果

著者らは、4つのベンチマークデータセット（MBPP, DS-1000, BoolQ, RACE-H）および4つのLLM（GPT-4o, GPT-4o-mini, Claude Sonnet 4.5, Claude Haiku 3.5）を用いてHIP-LLMを評価した。

• 有効性 (RQ1): HIP-LLMは、サブドメイン、ドメイン、およびシステムレベルにおいて、事後CDFエンベロープを正常に生成した。これにより、点推定のベンチマークでは隠蔽されてしまう、モデル間の微妙な差異（例：平均精度は似ているが不確実性のプロファイルが異なるモデルの識別）を明らかにした。
• ハイパーパラメータへの感度 (RQ2): 分析の結果、事前期待を制御するハイパーパラメータ（$a, b$）はエンベロープの位置をシフトさせ、信頼性/プーリングの強さを制御するハイパーパラメータ（$c, d$）は主にエンベロープの幅（不確実性）に影響を与えることが示された。
• OPへの感度 (RQ3): フレームワークは、特にモデル間でパフォーマンスに偏りがある場合（例：GPT-4oの推論性能がBoolQとRACE-Hの間で大きく異なる場合）、信頼性推定がOPの変化に対して敏感であることを示した。
• 予測可能性 (RQ4): モデルは、要求される将来の連続的な失敗のないタスク数（$n_F$）が増加するにつれて信頼性が減衰することを正常に予測し、運用ホライゾンに基づいたリスクを考慮した意思決定のためのツールを提供した。
• **ベースラインとの比較 (RQ5):**既知の正解を用いた合成実験において、HIP-LLMは堅牢な境界を生成した。低データ環境下では、事前知識の不確実性を反映してより広く保守的な区間を提供したが、データが支配的な環境下では、これらの区間は頻度論的な推定値へと収束した。
• 堅牢性 (RQ6, RQ7): フレームワークは、代替的な成功の定義（Pass@1 vs Pass@3）に対して中程度の感度を示し、メモリ誘発的な依存関係の下でも安定していた。依存関係は、質的な変化ではなく、制御されたエンベロープのシフトを引き起こすことが主であった。
• スケーラビリティ (RQ8): 計算コストはサブドメインレベルの推論によって支配されており、ドメイン数およびハイパーパラメータの設定数に対して線形にスケールすることが判明した。

5. 意義と主張

本論文は、HIP-LLMが既存のベンチマークベース、あるいは最先端のアプローチよりも、より精緻で標準化された信頼性特性を提供すると主張している。その意義は以下の点にある：

• パラダイムの転換: ベンチマークによる記述的なスコアから、将来の運用の信頼性に関する統計的推論へと移行すること。
• ユーザー中心性: 信頼性は文脈依存であることを認め、運用プロファイル（OP）を明示的に組み込むこと。
• 不確実性の取り扱い: 認識的不確実性（漠然とした事前知識）を組み込み、事後エンベロープを通じて伝播させるメカニズムを提供することで、過度に自信に満ちた点推定ではなく、より適切な評価を実現すること。
• 意思決定支援: 特定の将来的な運用ホライゾンにおける失敗のない実行の確率に基づき、ステークホルダーが情報に基づいた決定（例：モデル選択、リスク評価）を行えるようにすること。

著者らは、「リセット（i.i.d.）」シナリオを前提としていること、および「失敗」の正確な定義と現実世界のOPの推定が依然として今後の課題であることを指摘し、控えめな姿勢を維持している。彼らは、HIP-LLMを、生成AIの原理的な信頼性評価に向けた基礎的な一歩として位置づけている。