One Mask to Rule Them All: On Hidden Facts after Editing and How to Find Them
تكشف هذه الورقة أن تعديلات المعرفة المتنوعة في نماذج المحولات (transformer models)، مثل ROME وMEMIT، تعتمد على فضاء فرعي وظيفي مشترك للأوزان يعمل على كبح الإفراط في الانتباه في الطبقات اللاحقة بدلاً من إعادة كتابة المعرفة، وهي آلية يمكن عزلها عبر قناع ثنائي لعكس التعديلات وتوجيه الدفاعات ضد التعديلات غير المرغوب فيها.