When Activation Oracles Learn Not to Read: Concept-Specific Blind Spots in Fine-Tuned Oracles
تكشف هذه الورقة أن "أوراكل التنشيط" (Activation Oracles)، على الرغم من تدريبها لتفسير التنشيطات الداخلية للنموذج الخاضع للدراسة، يمكن أن تطور "نقاط عمياء" خاصة بمفاهيم معينة حيث تفشل في الإبلاغ عن مفهوم خفي يظل قابلاً لفك التشفير ضمن تمثيلاتها الخاصة، مما يظهر انفصالاً حرجاً بين المعلومات على مستوى التمثيل وبين موثوقية واجهات التفسير المتعلمة.