技術的サマリー：ビジョンモデルのスケール拡大は、一貫して局所化ベースの説明の質を向上させない

問題提起

人工知能モデルは予測精度を向上させるために規模を拡大する傾向が強まっているが、モデルの深さやパラメータ数の増加が事後説明（post-hoc explanations）の質を向上させるかどうかは依然として不明である。医療や金融といった安全性が重要な領域では透明性が極めて重要であるが、深層ニューラルネットワーク（CNN およびビジョントランスフォーマー）はしばしば「ブラックボックス」として機能する。一般的には、大規模なモデルはより強い意味的構造を持つ特徴を学習し、人間の解釈とより整合性の高い説明をもたらすという仮説が支配的である。本研究は、アーキテクチャの深さやパラメータ数の拡大が一貫して高品質な視覚的説明、特に関連する画像領域を局所化する能力を向上させるかどうかを検証することで、その仮説に挑戦する。

手法

著者らは、ResNet、DenseNet、ビジョントランスフォーマー（ViT）の 3 つの異なるファミリーに属する 11 のコンピュータビジョンモデルを含む包括的な実証評価を実施した。モデルは深さと複雑さにおいて異なり、ResNet-18 から ResNet-101、DenseNet-121 から DenseNet-201、ViT-B/16 から ViT-L/16 まで含まれた。研究には、ゼロから訓練されたモデルと、事前学習済み重み（ImageNet-1k、CheXpert、ImageNet-21k）を利用したモデルの両方が含まれた。

データセット:
実験は、真のセグメンテーションマスクを備えた 3 つのデータセットで行われた。

1. COVID-QU-Ex: COVID-19 検出用の胸部 X 線画像。
2. Oxford-IIIT Pet: 物体局所化用の動物画像。
3. Chest X Pneumothorax: 気胸検出用の胸部 X 線画像。

説明可能な AI（XAI）手法:
5 つの事後説明手法を適用して、セリエンシマップ（注目領域マップ）を生成した。

• セリエンシマップ
• GradientSHAP
• 統合勾配（Integrated Gradients）
• 特徴量置換（Feature Permutation）
• Grad-CAM（ViT 向けに調整）

評価指標:
説明の質は、生成された帰属マップと真のマスクとの整合性を 2 つの指標で測定することで定量化された。

1. 関連性ランク精度（RRA）: ランク付けされた上位の帰属ピクセルのうち、真のマスク内に含まれる割合を測定する。
2. 双極性精度（DPP）: 著者らが提案した新しい指標。大きさのみの評価とは異なり、DPP は正の帰属（マスク内の支持証拠）と負の帰属（マスク外の反証）の両方の空間的精度を明示的に測定する。矛盾する背景の帰属やノイズに対してペナルティを課す。

統計分析:
モデルのスケールや事前学習レジーム全体での統計的有意性を評価するために、Kruskal-Wallis H 検定と Mann-Whitney U 検定をベニャミン・ホッヘベルグ補正とともに用いた。忠実度（Fidelity）は、層ごとの重みのランダム化と入力ピクセルの置換を含む健全性チェック（sanity checks）を通じてさらに評価された。

主な貢献

1. 体系的なスケール評価: 著者らは、11 のアーキテクチャと 3 つのデータセットにわたって、モデルの複雑さ（パラメータ数）と分類性能の関係を調査した。
2. 事前学習効果の定量化: 本研究は、ゼロから訓練されたモデルと事前学習済みモデルを比較することで、事前学習が XAI 説明の質にどのように影響するかを定量化した。
3. 双極性精度（DPP）の導入: 既存の指標の限界に対処するため、正および負の帰属の両方の空間的精度を評価し、矛盾する背景ノイズに対して説明にペナルティを課す DPP を導入した。
4. 乖離の経験的証拠: 予測性能と説明の質が乖離する可能性を示す証拠を提供し、高い精度を達成しながら局所化精度がほぼゼロとなるシナリオを指摘した。

結果

モデルのスケールと説明の質:
すべてのデータセットと XAI 手法において、アーキテクチャの深さやパラメータ数の増加は、説明の質を一貫して向上させなかった。

• 統計的比較において、大規模モデル（例：ResNet-101、DenseNet-201、ViT-L/16）は、小規模な変種（例：ResNet-18、DenseNet-121、ViT-B/16）を体系的に上回らなかった。
• 有意な差が認められた場合、比較の 34% で小規模モデルが大規模モデルと同等かそれ以上の性能を示し、最大モデルが最高スコアを達成したのは 12% に過ぎなかった。
• スケールに関連する差の効果量は、通常、無視できる程度から小さい範囲であった。

事前学習の影響:
事前学習は一般的に予測性能を向上させたが、局所化スコア（RRA または DPP）を一貫して向上させたわけではない。

• 事前学習済みモデルは、層のランダム化下での劣化が大きい（学習済み重みへの依存度が高い）ことや、入力構造に対する感受性が高いことを示したが、これが局所化指標の体系的な向上にはつながらなかった。
• 多くの有意な比較において、ゼロから訓練されたモデルは事前学習済みモデルと同等かそれ以上の性能を発揮した。

予測性能と説明の質:
重要な発見として、精度と解釈可能性の分離が挙げられる。Chest X Pneumothorax データセットにおいて、モデルは妥当な分類性能（AUC 約 0.77–0.87）を達成しながら、局所化スコアはほぼゼロであった。これは、高い精度が注釈付きの解剖学的領域ではなく、偽の相関や取得アーティファクトに依存することで達成され得ることを示唆している。

健全性チェック:

• 層のランダム化: 深いモデル、特に事前学習済みモデルは、重みがランダム化されたときに高い劣化を示し、ネットワーク構造だけでなく学習済みパラメータへの依存度が強いことを示した。
• 入力のランダム化: ほとんどの勾配ベースの手法はピクセルのシャッフルに対して低い感受性を示したが、Grad-CAM はより大きな変化を示した。事前学習済みモデルは、ゼロから訓練されたモデルと比較して一般的に入力構造の変化に対して高い感受性を示した。

意義と主張

本論文は、大規模モデルが必ずしも高品質な説明を提供するわけではないと結論づけている。モデルをスケールアップすることがセリエンシマップの意味的整合性を本質的に向上させるという仮説は、データによって支持されていない。むしろ、小規模モデルは、より深いモデルと同等か、それ以上に整合性の高い説明を提供することが多い。

著者らは、特に安全性が重要な展開において、モデル選択の段階で明示的に説明可能性を評価すべきであると主張する。予測精度のみを頼ることは不十分である。なぜなら、モデルは高い性能を達成しながらも、意図した関心領域を局所化することに失敗する可能性があるからである。双極性精度（DPP）の導入は、支持証拠と反証の両方を考慮することで、これらの説明をより厳格に評価する方法を提供する。

本研究は、モデル選択プロセスにおいて、パフォーマンスに加えて計算コストや運用要件も考慮すべきであると強調している。なぜなら、小規模モデルは、はるかに低いリソース要求で同等の説明の質を提供できるからである。これらの知見は、過剰パラメータ化された設定では、予測精度と解釈可能性が乖離する可能性を示唆しており、スケールとともに改善されると仮定するのではなく、説明の忠実度を明示的に評価する必要があることを示している。