CREDO: Epistemic-Aware Conformalized Credal Envelopes for Regression

本論文は、標準的な共形予測が持つ外挿領域における過信の問題と、クレダル手法の較正保証の欠如を克服するため、局所的証拠が弱い場合に幅を広げる解釈可能なクレダル包絡線を構築し、その上で分割共形較正を適用して分布フリーの保証付き予測区間を提供する「CREDO」という手法を提案するものである。

要約

🌟 核心となる話：AI の「自信」と「不安」を見分ける

AI が「明日の気温は 25 度です」と予測したとき、私たちは「本当にそうなの？」と疑問に思うことがあります。

• ケース A: 過去 10 年間、同じ時期は 25 度前後だった（データが豊富）。
• ケース B: 過去に似たような天気は一度もなかった（データが乏しい、未知の領域）。

従来の AI は、ケース A でも B でも、同じように「25 度±2 度」という範囲で予測することが多く、**「データがなくても自信満々」**に見えてしまう問題がありました。

この論文のCREDOという方法は、AI に**「ここは知っていること（データ豊富）」と「ここは知らないこと（データ不足）」を区別させ、知らない場所では「もっと広い範囲で予測する」**ようにする画期的な仕組みです。

---

🏗️ CREDO の仕組み：3 つのステップ

CREDO は、2 つの異なるアイデアを組み合わせる「二段構え」のレシピです。

1. 第一段階：「可能性の雲」を作る（Credal Envelope）

まず、AI に「もし私が違う考えを持っていたらどうなるか？」という複数のシナリオを考えさせます。

• 比喩: 天気予報士が「晴れるかもしれないし、曇るかもしれない、雨かもしれない」と、**「可能性の雲（クレダル・エンベロープ）」**を頭の中で広げるイメージです。
• 特徴: データが少ない場所（未知の地域）では、この「可能性の雲」が大きく広がります。逆に、データが豊富な場所では、雲は小さくまとまります。
• 効果: ここではまだ「確実な答え」ではなく、「ありうる範囲」を示しているだけです。

2. 第二段階：「安全帯」を貼る（Conformal Calibration）

次に、この「可能性の雲」が実際に正しいかどうかを、過去のデータでチェックし、**「安全帯（コンフォーマル・スラック）」**を足します。

• 比喩: 飛行機が離陸する際、滑走路の長さを計算して「これだけあれば安全に飛べる」という安全マージンを必ず足すようなものです。
• 特徴: これにより、AI が「可能性の雲」を広げすぎたり狭めすぎたりしても、最終的な予測範囲が**「90% の確率で正解をカバーする」**という数学的な保証を得られます。

3. 結果：「予測の幅」を分解して見せる

最終的に得られる予測範囲（例：「25 度±5 度」）は、3 つの部分に分解して説明できます。

1. 自然の揺らぎ（Aleatoric）: 天気そのものが持つランダムな変動（例：風が吹くかどうか）。
2. 知識不足の膨らみ（Epistemic）: データが少ないために、AI が「よくわからないから広く取っておこう」とした部分。
3. 安全マージン（Calibration）: 統計的な保証のために足した余白。

これが一番すごい点です！ 従来の方法では「幅が広い＝精度が悪い」のように見えていましたが、CREDO は**「幅が広いのは、AI が『ここは知らないから慎重にしているから』なんだよ」**と、その理由を明確に教えてくれます。

---

🎨 具体的なイメージ：地図と探検家

この論文のアイデアを、**「未知の土地を地図にする探検家」**に例えてみましょう。

• 従来の AI（CQR など）:
  探検家が「ここは森だ」と予測します。データがある場所でも、ない場所でも、**「森の範囲は 100 メートル四方」**と一律に描きます。データがない場所でも自信満々で狭い範囲を描くため、実際にはもっと広い森があるのに、探検家は「狭い」と誤解して危険にさらされます。

• CREDO（新しい方法）:
  探検家はまず、**「知っている場所」では「100 メートル四方」と正確に描きます。しかし、「誰も行ったことのない場所」**では、「ここはよくわからないから、500 メートル四方くらい広い可能性を考慮しておこう」と、あえて大きな範囲で描きます。
  さらに、最後に「安全マージン」として、地図の端に少し余白を足して「これなら 90% 確実だ」と保証します。

  結果として：

  • 地図を見た人は、「あ、この辺りの範囲が広いのは、探検家が『ここは知らないから慎重にしている』と教えてくれているんだな」とわかります。
  • 逆に、範囲が狭いところは「ここはよく知っているから、自信を持って狭く描いているんだな」とわかります。

---

💡 なぜこれが重要なのか？

この方法は、医療、自動運転、金融など、**「失敗が許されない分野」**で特に役立ちます。

• 医療: 「この薬は効くでしょう」と予測する際、データが少ない患者さんに対して「効く可能性は高いけど、未知のリスクもあるから、もっと広い範囲で注意しよう」という警告を出せるようになります。
• 自動運転: 見慣れた道路では狭い範囲で安全運転できますが、見慣れない雪道や工事現場では「予測が難しいから、もっと広い安全圏で慎重に走ろう」と判断できます。

まとめ

CREDO は、AI に**「わからないことは、わからないと正直に（広い範囲で）伝え、知っていることは、知っている（狭い範囲で）伝える」という、人間らしい「謙虚さと自信のバランス」**を数学的に実現した方法です。

これにより、AI の予測結果をただ「数字」として受け取るのではなく、「なぜその範囲なのか？」という理由まで理解できるようになり、人間が AI の判断をより信頼して活用できるようになります。

技術概要

CREDO: 帰納的（Epistemic）不確実性を意識した適合化 Credal envelopes による回帰分析

本論文は、回帰問題における予測区間の構築において、従来の適合化予測（Conformal Prediction）の「分布フリーな保証」と、不正確確率（Imprecise Probability）理論に基づく Credal 法（Credal Sets）の「帰納的不確実性の可視化」という 2 つの強みを統合した新しい手法CREDO（Conformalized Regression with Epistemic-aware creDal envelOpes）を提案しています。

以下に、問題定義、手法、主要な貢献、実験結果、および意義について詳細にまとめます。

1. 問題定義と背景

現代の機械学習システム、特に意思決定に予測を利用する場面では、不確実性の定量化（UQ）が不可欠です。回帰分析において、将来の応答変数 $Y_{n+1}$ に対して予測区間を構築する際、以下の 2 つのアプローチが主流ですが、それぞれに課題があります。

• 適合化予測（Conformal Prediction, CP）:
  • 利点: データ生成過程に関する仮定を最小限に抑えつつ、有限サンプルで分布フリーなマージナル被覆率（Marginal Coverage）を保証する。
  • 課題: 標準的な適合化スコアは主にデータに内在するランダムなノイズ（Aleatoric Uncertainty）を反映するが、モデルが学習データから外れる領域（Extrapolation）やデータが希薄な領域における「知識の不足」に起因する不確実性（Epistemic Uncertainty）を明示的に表現しない。その結果、モデルが自信過剰に予測している領域でも区間が狭く、実際の不確実性を過小評価する可能性がある。
• Credal 法（不正確確率）:
  • 利点: 単一の確率分布ではなく、妥当な分布の集合（Credal Set）を用いることで、帰納的不確実性を明示的に表現できる。データが少ない領域では区間が自然に広がる。
  • 課題: 通常、モデルに依存するため、分布フリーな被覆率の保証が得られず、校正（Calibration）がされていない。

本研究の目的: 両者の長所を組み合わせ、**「解釈可能で、局所的な帰納的不確実性を反映しつつ、分布フリーな被覆率保証を持つ予測区間」**を構築することです。

2. 提案手法：CREDO

CREDO は、「まず Credal envelopes を構築し、その後に適合化（Conformalize）する」という 2 段階のプロセスを採用しています。

2.1 高レベルなアルゴリズム

1. Credal envelopes の構築:
   • 共変量 $x$ に対して、条件付き予測分布の Credal 集合 $F_0(x)$ を構築します。
   • この集合から、$(1-\alpha_0)$ クレダル量子 envelopes $[\ell(x), u(x)]$ を導出します。これは、局所的な証拠が弱い場合に区間を広げるように設計されています。
2. 適合化校正（Split Conformal Calibration）:
   • 上記の envelopes からの距離を「非適合スコア（Nonconformity Score）」として定義します：
     $$s(x, y) = \max\{\ell(x) - y, y - u(x)\}$$
   • 校正データセットを用いてこのスコアの分位点を求め、最終的な予測区間 $C(x) = [\ell(x) - \hat{\tau}, u(x) + \hat{\tau}]$ を出力します。

2.2 具体的な実装：端点トリミング（Endpoint Trimming）

Credal 集合 $F_0(x)$ を構築するために、論文では**「端点トリミングされた事後 Credal 集合」**を提案しています。

• ベイズ的アプローチを採用し、事後分布 $\pi(\theta | D_{tr})$ からパラメータ $\theta$ をサンプリングします。
• 各 $\theta$ に対して予測区間の端点（量子）を計算し、その分布の極端な値（外れ値）を一定の割合 $\gamma$ でトリミング（除外）します。
• 残ったパラメータ集合に対応する区間の下限と上限を envelopes $[\ell(x), u(x)]$ とします。これにより、事後分布のばらつき（帰納的不確実性）を直接的にエンコードします。

2.3 データ密度に応じた適応的トリミング

データが希薄な領域ではモデルが過信しやすいという問題に対処するため、トリミング率 $\gamma$ を固定せず、共変量 $x$ に依存する $\gamma(x)$ として適応的に設定します。

• 希薄な領域（Extrapolation 領域）: データ密度が低いと判定された場合、$\gamma(x)$ を小さく設定し、トリミングを減らして envelopes を広げます（帰納的不確実性を大きく反映）。
• 高密度な領域: $\gamma(x)$ を大きく設定し、厳密にトリミングして効率的な（狭い）区間を生成します。
• 希薄さのスコア（Scarcity Score）は、k 近傍法（kNN）を用いた距離に基づいて計算されます。

2.4 不確実性の分解（Interpretability）

CREDO の最大の特徴の一つは、最終的な予測区間の幅を以下の 3 つに分解して解釈できることです：

1. Aleatoric Baseline（偶然的不確実性）: 条件付きモデル自体が持つ不可避なノイズの幅。
2. Epistemic Contribution（帰納的不確実性）: Credal 化（端点のばらつき）によって引き起こされた幅の増加分。
3. Calibration Slack（校正の余裕）: 分布フリー保証を得るための適合化による追加の幅（$2\hat{\tau}$）。

これにより、「なぜ特定の $x$ で予測区間が広いのか」を、ノイズによるものか、知識不足によるものかを明確に診断できます。

3. 理論的保証

論文では以下の理論的性質が証明されています。

• 定理 3.1: 構築された Credal envelopes は、Credal 集合内の任意の分布に対して、少なくとも $(1-\alpha_0)$ の被覆率を持つことを保証します。
• 定理 3.3: 最終的な CREDO 区間は、データが交換可能（Exchangeable）であれば、任意のデータ生成過程に対して有限サンプルで $(1-\alpha)$ の分布フリーなマージナル被覆率を保証します。
• 定理 3.4: 正しく指定されたモデルと事後分布の一致性の下で、サンプルサイズが増大すると、Credal envelopes の端点はオラクル（真の条件付き量子）に収束し、適合化の補正項 $\hat{\tau}$ は 0 に収束します。

4. 実験結果

12 の標準的な回帰ベンチマークデータセット（Concrete, Airfoil, Superconductivity など）を用いて評価を行いました。

• 比較対象: 標準的な CQR（Conformalized Quantile Regression）、その改良版、および他の帰納的不確実性を考慮した手法（UACQR, EPICScore など）。
• 被覆率（Coverage）: 全手法が目標の 90% マージナル被覆率を達成しましたが、CREDO は特にアウトライヤー（データが希薄な領域）における被覆率が目標値に最も近づく傾向を示しました。
• 効率性（Efficiency）: Scaled Mean Interval Score (SMIS) において、CREDO（特に適応型）は多くのデータセットで競合手法を上回る、または同等の性能を示しました。
• 適応性（Adaptivity）: 「アウトライヤー対インライヤーの区間長さ比（ILR）」において、CREDO は他手法よりも高い値を示しました。これは、データが希薄な領域で区間を適切に広げ、データが豊富な領域では狭く保つ能力が高いことを意味します。
• 分解の妥当性: 不確実性の分解分析により、アウトライヤーでは「帰納的不確実性」の割合がインライヤーよりも有意に高いことが確認されました。これは、手法が局所的な知識不足を正しく検出できていることを示しています。

5. 主要な貢献と意義

1. Credal-to-Conformal の統合: 解釈可能な Credal envelopes を構築し、その後に適合化を適用するという「Credal-then-Conformalize」という新しいレシピを提案しました。これにより、モデルの構造的不確実性と分布フリー保証を両立させました。
2. 軽量な Credal 構築: 事後分布の端点をトリミングするだけで Credal 集合を構築する手法を提案し、計算コストを抑えつつスケーラブルな実装を可能にしました。
3. 解釈可能性の向上: 予測区間の幅を「Aleatoric」「Epistemic」「Calibration」の 3 要素に分解する診断ツールを提供しました。これにより、予測の信頼性をより深く理解し、意思決定に役立てることが可能になります。
4. 実用性の証明: 多様な実データセットにおいて、既存の最先端手法と比較して、被覆率を保ちつつも、データが希薄な領域での適応性を大幅に改善することを示しました。

結論

CREDO は、機械学習モデルが「何を知らないか（知識の不足）」を明示的に表現しつつ、統計的に厳密な予測区間保証を提供する画期的な手法です。特に、医療、金融、自動運転など、予測の失敗が重大な結果を招く分野において、モデルがどの程度「自信を持っているか」を区間の幅と構成要素から診断できる点は、信頼できる AI システムの構築において極めて重要です。