Attribution Under a Floor: Why Single-Component Ablation Overcounts Safety-Critical Layers and Neurons
Cet article démontre que la méthode standard pour identifier les couches et les neurones critiques pour la sécurité dans les modèles de langage affinés est statistiquement erronée en raison d'un « effet de plancher » causé par des batteries de prompts restreintes et des bases de référence non sécurisées, ce qui conduit au comptage erroné excessif de composants critiques et invalide les preuves publiées pour un compte de sécurité à double mécanisme.