Located but Not Releasable: Silent Gate Inversion and Bounded Linear Release

ملخص تقني: موجود ولكن غير قابل للتحرير: انقلاب البوابة الصامتة والتحرير الخطي المحدود

بيان المشكلة
أثبتت أبحاث التفسير الحديثة أن النماذج اللغوية غالبًا ما تمتلك هياكل كامنة ذات صلة بالمهام (مثل قدرات الاستدلال السببي) والتي يمكن فك تشفيرها خطيًا من تنشيطاتها، ومع ذلك تظل غير مستخدمة سلوكيًا—وهي ظاهرة تسمى "الكبت" (suppression). إن الافتراض الحرج وغير المختبر في هذا المجال هو أنه بمجرد اكتشاف مثل هذا الهيكل وتحديده مكانيًا، يمكن تحويله إلى سلوك من خلال التدخل (مثل توجيه التنشيط). تبحث هذه الورقة فيما إذا كانت خط "التمثيل-إلى-السلوك" (representation-to-behavior) هذا يعمل بشكل متكامل من البداية إلى النهاية تحت معايير صارمة ومسجلة مسبقًا. وبشكل محدد، تسأل: إذا حددنا بدقة الهيكل السببي المكبوت، فهل يمكننا حقًا تحريره إلى سلوك نموذجي؟

المنهجية
أجرى المؤلف اختبار إجهاد (stress test) مسجلًا بالكامل على نموذج C1، وهو نموذج محول (transformer) بـ 25.7 مليون معلمة فقط، تم تدريبه على التمييز بين الأدلة السببية. يظهر النموذج ظاهرة كبت معروفة: في العوالم المختلطة (confounded worlds) المحجوبة عن التدريب، يتبع النموذج الارتباطات الرصدية رغم امتلاكه هيكلًا سببيًا يمكن فك تشفيره خطيًا في التيار المتبقي (residual stream).

تقيم الدراسة خط بوابة التباين السببي (CCG) المكون من أربعة عناصر:

1. الاكتشاف (Detect): مسبار خطي ($u$) يقيم المدخلات لتحديد ما إذا كان التدخل مطلوبًا (للتمييز بين العوالم المختلطة وغير المختلطة).
2. التباين (Contrast): تمرير أمامي مع تصفير الأدلة عند قنوات الملاحظة لإنشاء تباين.
3. التوليد (Generate): آلية لبناء اتجاه تدخل ($\delta$)، إما عبر خريطة معايرة أو متجه فرق لكل حالة.
4. الحقن (Inject): حقن غير مشروط أو محكوم بـ $\delta$ في التيار المتبقي عند موقع محدد مكانيًا.

بروتوكول التسجيل المسبق:
لمنع التبرير اللاحق للنتائج (post-hoc rationalization)، تم تشفير وتوثم كل عتبة، ومجموعة تقييم، وإحصائية، وقالب ادعاء قبل جمع البيانات. خضع الخط لتدقيق شجرة القرار حيث أدت نتائج محددة إلى تفعيل ادعاءات نجاح أو فشل مكتوبة مسبقًا.

النتائج الرئيسية

تفكك الدراسة فشل خط التحرير إلى نوعين مستقلين من الفشل، مع التأكيد على أن عملية التحديد المكاني في حد ذاتها قد نجحت.

1. التحديد المكاني ينجح (الهيكل موجود وهو محدد الموقع)

• النتيجة: نقل التنشيطات من العوالم "المحررة" (غير المختلطة) إلى قنوات الملاحظة-الأدلة في الطبقات المتوسطة (تحديدًا الطبقات 2-3، $L23_{obs}$) للعوالم "المكبوتة" نجح في استعادة السلوك المستهدف.
• المقاييس: كان تفوق التحرير المزدوج معنويًا (0.563 و0.854 مع فترات ثقة 97.5% تستبعد الصفر)، ووصل أفضل معدل تحرير للموقع إلى 0.889.
• الاستنتاج: الهيكل السببي موجود، ويمكن فك تشفيره، وهو كافٍ لدفع السلوك إذا تم نقله يدويًا. "فجوة التمثيل-السلوك" ليست فجوة في التحديد المكاني.

2. الفشل الأول: انقلاب البوابة الصامتة (الكاشف يفشل خارج نطاق التوزيع)

• النتيجة: الكاشف، الذي تمت معايرته ليعمل عند وجود أمثلة خارج التوزيع (OOD) صفرية، عكس سلوكه تمامًا في البيانات المحجوبة.
  • تم التفعيل في 6.9–7.3% من عمليات التوليد داخل التوزيع (ID) المحجوبة حيث كان التدخل ضارًا.
  • لم يتم التفعيل في 0/2,400 من العوالم المختلطة المحجوبة التي كانت تتطلب تدخلًا بالفعل.
• العاقبة: أصبح الخط "المحكوم" (gated) متطابقًا سلوكيًا مع النموذج الأساسي في العوالم التي صُمم لإصلاحها. كان الفشل "صامتًا" لأن مقاييس المعايرة القياسية كانت مثالية، وسلوك التوزيع الداخلي (ID) تم الحفاظ عليه، مما أخفى حقيقة أن التدخل لم يعمل أبدًا على الفئة المستهدفة.

3. الفشل الثاني: التحرير الخطي المحدود (الاتجاه غير كافٍ)

• النتيجة: لعزل فشل البوابة، قام المؤلف بإزالة الكاشف تمامًا وطبق حقنًا خطيًا غير مشروط (لكل حالة أو اتجاه ثابت) عند الموقع السببي الذي تم التحقق منه.
• المقاييس: بينما تحرك السلوك بشكل رتيب مع جرعة الحقن، إلا أن الأداء استقر بعيدًا عن هامش التحرير المسجل مسبقًا (التقاطع $b \approx 0.264$ مقابل العتبة $\le 0.08$).
• التكيف: لم يضف التكيف لكل حالة (تعديل الاتجاه لكل مطالبة) أي قيمة تذكر ($\pm 0.03$) مقارنة بالاتجاه الثابت.
• العاقبة: عائلة اتجاهات التحرير الخطي بالكامل عند هذا الموقع وهذه الدقة هي محدودة بعيدًا عن الكفاية. حتى مع المعرفة المثالية بـ أين يجب التدخل، لا يمكن للتوجيه الخطي تحرير السلوك المكبوت بالكامل.

المساهمات الرئيسية

• تفكيك الفشل: توضح الورقة أن "فجوة التمثيل-السلوك" ليست نمط فشل واحد، بل هي مزيج من عائقين مستقلين على الأقل: (1) صعوبة توجيه التدخلات عبر كواشف تعمم إلى خارج التوزيع (OOD)، و(2) عدم كفاية اتجاهات التحرير الخطية المتأصلة حتى عند معرفة الموقع السببي.
• النتائج السلبية المسجلة مسبقًا: من خلال الالتزام ببروتوكول تسجيل مسبق صارم مع قوالب ادعاءات مشفرة، يقدم المؤلف حجة مضادة للافتراض القائل بأن "إيجاد الهيكل يعني القدرة على التحكم". تعاملت الدراسة مع فشل الخط كإتجاه بحثي تقريري نهائي وليس كمجرد تجربة أولية.
• تدقيق حالات الفشل "الصامتة": يسلط العمل الضوء على خطر تقييم محدد حيث تفشل أنظمة التدخل المحكومة (gated) صامتًا (بعدم التفعيل على التوزيع المستهدف) مع الحفاظ على مقاييس معايرة مثالية.

الأهمية والادعاءات
تزعم الورقة أن التحديد المكاني على مستوى التمثيل والتحرير على مستوى السلوك هما مشكلتان مختلفتان، وأن حل الأولى لا يضمن الثانية.

• تتحدى الورقة "افتراض الخط" في التفسير الآلي (mechanistic interpretability) الذي يعتبر التحديد المكاني مجرد خطوة هندسية نحو التحكم.
• تشير إلى أنه بالنسبة للأنظمة ذات الهياكل المكبوتة، قد تكون التوجيهات الخطية غير كافية جوهريًا عند الدقة المختبرة، بغض النظر عن جودة التحديد المكاني.
• تجادل بضرورة انتقال المجال إلى ما وراء تقارير التأثير المتوسط إلى اختبارات صارمة مسجلة مسبقًا تشمل تدقيق مستوى البوابة (عدد مرات التفعيل على التوزيع المستهدف) لاكتشاف حالات الفشل الصامت.

يصرح المؤلف صراحةً أن نتائجه السلبية محصورة في العائلة المختبرة من النوع الخطي، أحادي الموقع، والإضافة المتبقية، ولا تستبعد آليات التحرير غير الخطية أو الموزعة، رغم أن مثل هذه الآليات ستتطلب أيضًا تحققًا صارمًا مماثلًا.