Attribution Under a Floor: Why Single-Component Ablation Overcounts Safety-Critical Layers and Neurons
本論文は、微調整された言語モデルにおける安全性に関わる重要な層やニューロンを特定するための標準的な手法が、小さなプロンプト・バッテリーと不安全なベースラインに起因する「フロア効果」によって統計的に欠陥があることを示しており、それが重要な構成要素の誤った過剰計上を招き、二重メカニズムによる安全性の説明に関する発表された証拠を無効にしていることを実証している。