UASPL: Uncertainty-Aware Self-Paced Learning with Evidential Neural Networks

技術要約：エビデンシャルニューラルネットワークを用いた不確実性を考慮したセルフペース学習（UASPL）

問題提起
セルフペース学習（SPL）は、通常、訓練損失の大きさに基づいて、簡単なサンプルから難しいサンプルへと順にモデルを訓練することで、人間の学習を模倣するパラダイムである。効果的な手法ではあるものの、著者らは従来のSPLにおける決定的な欠陥を指摘している。それは、学習の初期段階において損失値が低いサンプルが、必ずしも「信頼できる容易な」サンプルではないという点である。実験的分析によれば、当初「容易」として選択されたサンプルの平均相対損失変動（MRLV）は、その後の訓練ラウンドで大きく変動または増加することが明らかになった。これは、低損失のサンプルが「擬似的な容易さ（pseudo-easy）」を持っている可能性を示唆している。つまり、モデルが効果的に学習するための十分な証拠（evidence）が不足しているか、あるいはモデルが過剰に自信を持っている誤った予測を表している可能性がある。したがって、損失のみに基づく基準に頼ることは、真に単純なサンプルと、一時的に適合しやすいだけで信頼できないサンプルを区別できない。

手法
これに対処するため、本論文では、主観論理（Subjective Logic）の枠組み内でエビデンシャルニューラルネットワーク（ENN）を統合したフレームワークであるUASPL（Uncertainty-Aware Self-Paced Learning）を提案する。点推定の確率に依存する従来の手法とは異なり、UASPLはディリクレ分布を用いてクラス確率をパラメータ化し、予測の不確実性を直接定量化する。

UASPLの核となるのは、ラベル適合損失と不確実性加重正則化項を組み合わせた、新しい不確実性認識型損失関数である。第$i$サンプルの総損失 $L^{(i)}_{total}$ は次のように定式化される：
$$L^{(i)}_{total} = L^{(i)}_{EMSE} + \text{coeff}_i \cdot L^{(i)}_{KL}$$

ここで：

• $L^{(i)}_{EMSE}$ は、予測確率と正解ラベルとの適合度を測定するエビデンシャル平均二乗誤差（Evidential Mean Square Error）である。
• $L^{(i)}_{KL}$ は、正解ではないクラスへの証拠の蓄積を抑制するカルバック・ライブラー（KL）ダイバージェンス項である。
• $\text{coeff}_i$ は、$(1-c_i)(1-u_i) + c_i u_i$ で定義される適応的係数であり、$c_i$ は予測の正誤インジケータ（正解なら1、不正解なら0）、$u_i$ はエビデンシャル不確実性である。

この設計により、動的な選択の優先順位が生まれる：

1. 不確実性が低く、予測が正しい場合： これらは信頼できる単純なサンプルとして特定され、優先される。
2. 不確実性が高く、予測が正しい場合： これらは学習範囲内のサンプルであるが、証拠が不十分なものとして扱われ、信頼できる証拠の成長を導くためにKL項が強化される。
3. 不確実性が高く、予測が誤っている場合： 証拠の欠如は予測がまだ確定的でないことを示唆しているため、モデルはこれらのサンプルをより自由に探索できる。
4. 不確実性が低く、予測が誤っている場合： これらは自信はあるが誤った予測を表す。誤った証拠の蓄積を抑制するために、KL項が増幅される。

このアルゴリズムは、この複合的な損失に基づいてモデルのパラメータとサンプル重み（$v_i$）を反復的に更新し、外部の事前分布を必要とせずに、サンプルの選択基準に不確実性の推定を直接組み込む。

主な貢献

1. SPLにおけるエビデンシャル不確実性の初の統合： UASPLは、最適化目的関数の中に、ラベル適合損失と並んでモデル生成のエビデンシャル不確実性を直接組み込んだ最初のセルフペース学習手法である。これにより、損失が低いだけでなく、信頼できるサンプルの選択を保証する。
2. 解釈可能性： 本論文は、UASPLによって誘導されるサンプル選択の優先順位が、「易から難へ（easy-to-hard）」の原則と一致することを示す理論的分析を提供している。これは、信頼できる容易なサンプルを優先する一方で、証拠が不十分または誤解を招くサンプルを後回しにすることを明示している。
3. 汎用性： 提案された損失関数は、大幅な修正なしに異なるSPLのバリアント（線形または混合正則化など）に拡張可能な一般的なフレームワークとして設計されており、特定の正則化形式に縛られていないことを証明している。

実験結果
著者らは、UCIリポジトリからの25のテーブルデータセット（均衡および不均衡データ両方）と、4つの画像分類ベンチマーク（CIFAR-10, FashionMNIST, MNIST, SVHN）を含む複数のデータセットでUASPLを評価した。手法は、従来のSPLバリアント、外部の不確実性事前分布を取り入れた手法、および様々な不確実性基準（confidence, margin, MC dropoutなど）を用いた適応型SPLを含む15のベースラインと比較された。

結果は、UASPLが以下の点で他のSPL手法を凌駕していることを示している：

• 分類性能： データセット全体で高い精度と優れた安定性を達成している。
• 解釈可能性： 従来の損失ベースの選択とは異なり、訓練ラウンドを通じて難易度が安定しているサンプルを正常に選択できている。
• 汎用性： 異なるデータモダリティおよびSPL定式化において有効性を示している。

意義
本論文は、選択基準を純粋な損失ベースから不確実性認識型へとシフトさせることで、セルフペース学習における根本的な問題である「擬似的な容易さ（pseudo-easy）」のサンプルを解決すると主張している。エビデンシャルニューラルネットワークの内部的な不確実性推定を活用することで、UASPLはカリキュラム学習のプロセスが、モデルが確実に学習できるサンプルに焦点を当てるようにし、それによって訓練の効率性と最終的なモデルの堅牢性を向上させる。著者らはこれを、モデルの確信度と証拠の十分性が極めて重要となるシナリオにおいて、SPLをより理論的に健全で実用的に効果的なものにするための重要な一歩であると位置づけている。