技術要約: Class Adaptive Conformal Training (CaCT)

問題提起

深層ニューラルネットワークは、予測において過剰な自信（overconfidence）を示すことが多く、信頼性の低い確率推定を生成することが頻繁にあります。Conformal Prediction (CP) は、分布に依存しない被覆保証（coverage guarantees）を備えた、不確実性定量化のための理論的な枠組みを提供しますが、既存の手法は効率性と適応性の面で大きな限界に直面しています。

標準的なCP手法、特に事後的に適用される手法は、妥当ではあるものの、情報量として不十分な（例：あまりにも多くのクラスを含んでしまう）予測集合を生成することがよくあります。これを解決するために、ConfTrのようなConformal Training (CT) 手法は、予測集合のサイズを最小化するようにCPの目的関数を訓練プロセスに直接統合しています。しかし、現在のCTアプローチには、以下の2つの決定的な欠陥があります：

1. クラス非適応的な正則化: これらは通常、すべてのクラスに対して予測集合のサイズをペナルティ化するための単一のグローバルなハイパーパラメータを採用しています。この硬直した定式化は、クラス間の本質的な難易度の違いを考慮できていません。
2. 不均衡なシナリオにおける非効率性: 長尾分布（実世界のアプリケーションで一般的）において、グローバルなペナルティはサブオプティマルな性能をもたらします。その結果、過小評価されている（テールの）クラスに対しては過度に保守的（大きなサイズ）な予測集合になり、一方でヘッドクラスに対する最適化が不十分になるため、全体的な効率性と適応性が低下します。

手法

著者らは、共形訓練を拡張ラグランジュ最適化問題として定式化したClass Adaptive Conformal Training (CaCT) を提案します。このアプローチは、データの事前知識を必要とせずに、クラス固有のペナルティ重みを適応的に学習します。

1. クラス条件付き制約

各データポイントにおける平均的な集合サイズに対して周辺制約を課す代わりに、CaCTは $K$ 個の制約（各クラス $k \in \mathcal{Y}$ に対する制約）を導入します。目的は、各クラス $k$ における期待集合サイズが目標値 $\eta$ を超えないという条件下で、分類損失 $L_{cls}(\theta)$ を最小化することです：
$$\min_{\theta} L_{cls}(\theta) \quad \text{s.t.} \quad |C_\theta(X)| \le \eta, \quad \text{a.s. } X \sim P_{X|Y=k}$$

2. 拡張ラグランジュ乗数 (ALM) 戦略

大規模なデータセット（ImageNetなど）において、$K$ 個の個別のペナルティ重みを手動で調整することは不可能であるため、CaCTは修正された拡張ラグランジュ法を利用します。

• 目的関数の再定式化: 制約付きの問題は、各クラスのラグランジュ乗数 $\lambda_k$ とペナルティ係数 $\rho_k$ によってパラメータ化されたペナルティ関数 $P$（具体的にはPHR関数）を用いた、制約なしの問題へと変換されます。
• 適応的重みの学習:
  • 内側ループ (Primal): モデルパラメータ $\theta$ は、分類損失に現在のペナルティ項を加えたものを最小化するように、確率的勾配降下法を通じて更新されます。
  • 外側ループ (Dual): ラグランジュ乗数 $\lambda_k$ およびペナルティパラメータ $\rho_k$ は、検証セット上で観察されたクラス固有の制約違反に基づいて更新されます。
  • メカニズム: 特定のクラスがサイズ制約に違反している場合（すなわち、平均集合サイズが大きすぎる場合）、対応する乗数 $\lambda_k$ が増加し、後続のイテレーションにおけるそのクラスへのペナルティを強化します。逆に、制約が満たされている場合は、ペナルティは減少します。これにより、モデルは各クラスに対して、精度と共形化（conformalization）の最適なトレードオフを学習することができます。
• 微分可能性: エンドツーエンドの訓練を可能にするため、CPの非微分的なコンポーネント（集合サイズの指示関数および経験的分位点）は、シグモイド関数と微分可能なソート技術を用いて平滑化されます。この平滑化は訓練中の周辺被覆保証を緩和しますが、著者らは、テスト時には元の非平滑な実装に戻すことで、形式的な保証が回復することを指摘しています。

主な貢献

1. クラス適応型フレームワーク: グローバルなペナルティ重みをクラスごとの乗数に置き換え、モデルが各クラスの特定の難易度や頻度に適合できるようにするCaCTの導入。
2. 拡張ラグランジュ最適化: 手動でのハイパーパラメータ調整や事前分布の仮定を不要にする、クラス固有の最適なペナルティ重みを訓練中に自動的に学習する修正ALMアルゴリズムの開発。
3. 不均衡に対する堅牢性: CaCTが長尾分布において効果的に問題を軽減し、被覆を維持しながら、過小評価されているクラスに対しても小さな予測集合を生成できることを実証（これはConfTr、CUT、DPSMといった従来の手法には欠けている能力です）。

実験結果

著者らは、標準的な画像分類（MNIST, CIFAR-10/100, ImageNet）、長尾バリアント（MNIST-LT, CIFAR-LT, ImageNet-LT）、およびテキスト分類（20 Newsgroups）を含む複数のベンチマークでCaCTを評価しました。

• 効率性: CaCTは、すべてのデータセットにおいて、最先端の共形訓練手法（ConfTr, CUT, InfoCTr, DPSM）と比較して、一貫して有意に小さい平均予測集合サイズを生成します。
• 被覆ギャップ: 長尾シナリオにおいて、CaCTは最も低い被覆ギャップ（クラスごとの目標被覆率 $1-\alpha$ からの偏差）を達成しており、優れたクラス条件付き被覆を示しています。既存の手法は、テールクラスの被覆を維持できず、集合サイズが大きくなる傾向があります。
• 識別性能: CaCTは、ベースラインと比較してTop-1およびTop-3精度を維持または向上させており、集合サイズの削減が予測力の犠牲にならないことを示しています。
• 堅牢性: 本手法は、テスト時の様々な不均衡因子 ($\gamma$) や誤被覆レベル ($\alpha$) に対して堅牢であることを示しています。また、異なる非適合度スコア（THR, APS, RAPS）に対しても良好に機能します。
• ハイパーパラメータ感受性: グローバルな正則化重み $\lambda$ の選択に非常に敏感な既存の手法とは異なり、CaCTの適応的学習メカニズムは、この特定のチューニングに対して非依存的であり、デプロイを簡素化します。

重要性

本論文は、CaCTが共形訓練における根本的な限界、すなわち複雑で不均衡なデータセットにおけるクラス条件付き効率性の欠如に対処していると主張しています。問題を適応的な最適化タスクとして定式化することで、CaCTは、統計的に妥当でありながら実用的な情報量を持つ予測集合の構築を可能にします。これは、マイノリティクラスが軽視されがちな長尾分布を含む、高リスクなシナリオにおいて特に重要です。本研究は、理論的な被覆保証と実用的な効率性の間の溝を埋め、不確実性を考慮したディープラーニングシステムの現実世界への展開に向けたスケーラブルなソリューションを提供します。