技術要約：棄却を伴う証拠的ルール学習 (FERL)

1. 問題提起

決定木やルールリストなどの解釈可能な分類モデルは、意思決定の正当性を証明する必要がある高リスクな領域において不可欠である。しかし、標準的な決定木分類器（例：CART、C4.5）は、しばしば過剰適合（オーバーコンフィデンス）に陥り、決定を裏付ける証拠に関する信頼できる説明を提供することなく、確定的なクラスラベルや局所的な分布のみを出力してしまう。さらに、証拠が不十分な場合に予測を棄却（アブスティン）するメカニズムも備えていない。

信頼性を向上させる既存のアプローチには、以下のような重大な限界がある：

• 事後的な較正 (Post-hoc Calibration): 温度スケーリングやアイソトニック回帰といった手法は、確率を調整するものの、根底にある証拠を定量化したり、原理的な棄却をサポートしたりするものではない。これらは分布シフトが発生すると性能が低下することが多い。
• 不確実性推定 (Uncertainty Estimation): サンプリングベースの手法（例：MC-dropout）は繰り返しの推論を必要とし、決定論的不確実性手法 (DUMs) は、スペクトル微調整を必要とするニューラルアーキテクチャに依存することが多く、訓練時の多様体と重なり合う「近傍OOD（分布外）」の入力を検出できない場合がある。さらに、これらの手法は通常、スカラー値の不確実性スコアを出力するだけであり、「なぜ」そのケースが疑わしいのかという記号的な説明を持たない。
• クレディアル分類器 (Credal Classifiers): 一部の決定木型クレディアル分類器は存在するが、それらは不正確なリーフ頻度推定に依存して誤較正を引き起こしたり、複雑な事後的調整を必要としたりすることが多い。

本論文は、解釈可能（ルールベース）であり、証拠的（信念、蓋然性、および無知を提供する）であり、かつ棄却が可能なモデルを、補助的なヘッドや保持された較正セットを用いることなく、単一の決定論的なパス内で実現する必要性に対処するものである。

2. 手法：高速証拠的ルール学習 (FERL)

FERLは、デンプスター・シェーファー（DS）理論をルール学習プロセスに直接統合したファジー・ルール・ツリー学習器である。

2.1 ファジー・ツリーの構築

FERLは、内部ノードが特徴量とファジー集合を割り当てる分類木を成長させる。

• ファジー分割 (Fuzzy Splits): 分割のためのパラメータは、統計的な堅牢性を確保するためにブートストラップ手順を用いて学習される。深い木の場合、アルゴリズムはリサンプルにおけるGini最適カットを見つけ、中央値閾値 ($\theta$) と堅牢な広がりを示す尺度 ($h$) によって定義されるファジー分割を決定する。
• 有界サポート (Bounded Support): OODデータに対する偽の自信を防ぐため、ファジーメンバーシップ関数のサポートは、訓練中に観察された特徴量の範囲内にソフトに制限される。この範囲外に位置する点は、発火強度がゼロへと減衰し、モデルの「無知」が増大する。
• 幾何学的認識 (Geometry Awareness): 訓練多様体と重なる近傍OOD入力（新規クラス）を検出するために、FERLは各ノードにおいて、パスの発火強度によって重み付けされた対角ガウス分布を用いて、未分割の特徴量をモデル化する。これにより、特定の異常な属性の特定が可能になる。

2.2 証拠的出力の生成

FERLにおいて、各活性化ノード $o$ は、識別フレーム $\Theta$ 上のDS質量関数を放出する。

• 質量割り当て: 発火強度 $\phi_o(x)$ は信頼性の割引として機能する。ノードは、クラス $c$ に対して質量 $\phi_o(x) p_o(c)$ を置き、残りの質量 $1 - \phi_o(x)$ をフレーム $\Theta$ 全体（無知を表す）に割り当てる。
• 結合 (Combination): 活性化されたノードは、デンプスターの結合則を用いて結合される。
  • コンパクトな木の場合: 内部ノードとリーフが結合される。
  • 深い木の場合: ネストされたノードからの相関のある証拠が、無知を人工的にゼロに駆動してしまう「依存性の問題」を避けるため、リーフのみが結合される。
• 予測:
  • 点予測: 結合された質量のピスティック変換から導出される。
  • 集合値予測: 区間優位性 ($Pl(c) \ge \max_{c'} Bel(c')$) を通じて導出される。予測集合がフレーム $\Theta$ 全体をカバーしている場合、モデルは棄却を行う。
  • 解析的形態: 本論文では、結合された質数の閉形式の表現を導出し、証拠が空でない（non-vacuous）場合に、繰り返しの結合が無知を単調に減少させることを示している。

2.3 安定性解析

著者らは、FERLがリプシッツ安定 (Lipschitz stable) であることを証明している。正規化されていない証拠的質量は、入力に対してリプシッツ連続であり、その定数は木の深さ ($D$)、結合されるノード数 ($K$)、およびファジーメンバーシップの最大傾き ($\lambda$) に依存する。これにより、小さな入力の摂動が証拠的出力の滑らかな変化をもたらすことが保証される。

3. 主な貢献

1. ネイティブな証拠的ルール学習器: FERLは、解釈可能なルール学習器、棄却機能を備えたクレディアル分類器、およびOOD検出器として、単一の決定論的なパスで機能する初のモデルである。これは、補助的なヘッドや繰り返しの推論を用いることなく、ファジーメンバーシップから直接、信念、蓋然性、および棄却を計算する。
2. 閉形式による特性記述: 本論文は、ツリー構築と証拠的予測に関する解析的な説明を提供しており、これにはファジーバンド幅による局所的な安定性証明と、ネストされたノードの結合が無知を単調に減少させるという証明が含まれる。
3. 広範な実証評価:
   • 表形式データ: 30の多様なデータセットでベンチマークを実施。
   • 画像データ: CUBおよびAwA2データセット上のコンセプト・ボトルネック・モデル (CBM) に統合され、人間が理解可能な属性レベルの診断を、概念ベクトルに対して提供する。

4. 実験結果

4.1 表形式分類

• 精度 vs 複雑性: 30の表形式データセットにおいて、FERL-deep（200ルール）は**平均精度83.2%**を達成し、他のルール学習器（例：CARTの79.8%、NeuRulesの79.3%）を統計的に有意に上回り、非解釈的なアンサンブル（Random Forestの86.6%、Gradient Boostingの85.6%）に近い性能を示した。
• 効率性: FERL-deepの訓練時間は0.26秒、推論時間は1.5ミリ秒であり、他の証拠的またはニューラルなルール学習器（例：訓練に140秒かかるFUCS）よりも大幅に高速である。
• 集合値予測: FERL-deepは、クレディアル分類器の中で最高のユーティリティ割引精度 ($u_{65}=0.80, u_{80}=0.83$) を達成し、コンフォーマルなベースラインと比較して、高い集合被覆率 (0.92) とより小さな平均集合サイズを実現した。
• OOD検出: Leave-one-class-outタスクにおいて、FERL-deepは専用のOOD検出器（kNN距離の77.7 AUROC）に匹敵する性能を示しつつ、どの属性が異常であるかを一意に特定した。

4.2 コンセプト・ボトルネックの統合

• 精度: CBM設定において、FERL-deep（パーコンセプト較正付き）は、CUB-20で86.28%、CUB-200で**65.18%**を達成し、CARTおよびコンセプト制限付きロジスティック回帰を上回った。
• オープンワールドにおけるOOD: 検出器クラスが互いに素である設定において、FERLは専用の検出器と同等の性能を維持した。AwA2において、FERLは86.2 AUROC（kNNの2.0ポイント以内）を達成し、最高のAUPR-Out (68.3) および未知クラス拒絶率 (57.2%) を示し、同時に具体的な異常属性を特定した。

5. 意義と主張

本論文は、FERLが高性能な分類と厳格な解釈可能性の間の溝を埋めることに成功したと主張している。ファジー・ルール学習に証拠的推論を直接組み込むことで、FERLは事後的な較正の落とし穴や、サンプリングベースの不確実性が持つ計算オーバーヘッドを回避している。

• 信頼性: モデルは、分布シフトに対して堅牢であり、幾何学的および属性レベルの両方の異常を検出できる、棄却と不確実性のための「ネイティブ」なメカニズムを提供する。
• 解釈可能性: ブラックボックス型の不確実性手法とは異なり、FERLの棄却と不確実性は特定のファジー・ルールと属性によって説明される。これは、予測そのものと同様に「なぜ」モデルが不確実であるかを理解することが重要な高リスク領域に適している。
• スケーラビリティ: この手法は計算効率が高く、表形式データやコンセプトベースの画像データに対する複雑なニューラル不確実性モデルに代わる実行可能な選択肢を提供する。

著者らは、単一のFERLヘッドが、補助的な不確実性モデルを必要とすることなく、監査可能なルール、証拠的棄却、および属性レベルの新規性診断を提供できると結論付けている。