Causal Interventions on Continuous Variables: A Case Study on Verb Bias in Steering Vectors for In-Context Learning

ملخص تقني: التدخلات السببية على المتغيرات المستمرة في ناقلات التوجيه (Steering Vectors)

بيان المشكلة
ركزت أساليب التفسير السببي للنماذج اللغوية الكبيرة (LLMs) بشكل مهيمن على الميزات المنفصلة (discrete)، مثل العدد النحوي أو الحدود التركيبية. ومع ذلك، فإن العديد من الجوانب الحرجة لمعالجة اللغة والمعرفة المفاهيمية هي بطبيعتها متدرجة (مستمرة). تعالج هذه الورقة الفجوة في تطبيق تقنيات التدخل السببي على المتغيرات المستمرة. وتحديداً، يبحث المؤلفون فيما إذا كانت السمات النفسية اللغوية المستمرة، مثل انحياز الفعل (التحيز المتدرج لفعل ما نحو بنية نحوية واحدة دون أخرى، مثل: المفعول به المباشر Double Object مقابل المفعول به غير المباشر المسبوق بحرف جر Prepositional Dative)، ممثلة سببياً في التنشيطات الداخلية للنماذج اللغوية الكبيرة، وما إذا كان يمكن التلاعب بهذه التمثيلات لتغيير السلوك اللاحق. علاوة على ذلك، تستكشف الدراسة العلاقة بين هذه التمثيلات المستمرة والتعلم في السياق (ICL)، وخاصة آليات التحديث القائمة على الخطأ التي يُفترض أنها تكمن وراء "التحفيز الهيكلي" (structural priming).

المنهجية
يقترح المؤلفون إطاراً لـ التدخل السببي على المتغيرات المستمرة ضمن ناقلات التنشيط، ويُطبق ذلك تحديداً على ناقلات التوجيه (task vectors) المستخرجة من الأمثلة المقدمة في السياق.

1. استخراج ناقلات التوجيه: اتباعاً لمنهج هينديل وآخرون (2023)، يستخرج المؤلفون الحالات الخفية (hidden states) من النماذج اللغوية الكبيرة (Llama-2-13B, Llama-3-1B, Llama-3-8B) عند موضع الفعل المستهدف خلال تسلسلات السياق. تتكون هذه التسلسلات من $n-1$ من الجمل المحفزة (الأمثلة) متبوعة بجملة مستهدفة. يتم حساب متوسط الحالات الخفية لإنشاء ناقل توجيه $\bar{\theta}_{\langle v,s \rangle}$ يمثل "المهمة" المتمثلة في إنتاج بنية $s$ متأثرة بالفعل $v$.
2. تحديد موقع المتغيرات المستمرة: للتدخل في متغير مستمر (مثل انحياز الفعل $b_v \in (0,1)$)، يقوم المؤلفون بـ:
   • إسقاط ناقلات التنشيط عالية الأبعاد إلى فضاء أقل أبعاداً باستخدام تحليل المكونات الرئيسية (PCA).
   • تطبيع (Normalization) إحداثيات PCA.
   • ملاءمة نموذج انحدار (Regression Beta للمتغيرات المحدودة مثل انحياز الفعل؛ أو OLS للمتغيرات الموقعة) للتنبؤ بالمتغير المستمر المستهدف من الإحداثيات المعيرة. يحدد هذا اتجاه متجه منخفض الأبعاد $\beta$ يقابل المتغير.
3. التعديل الافتراضي المضاد (Counterfactual Editing): لتعديل متجه $h_i$ نحو قيمة مستهدفة افتراضية مضادة $y^*_i$، يحسب المؤلفون أقل تحديث بمعيار $L_2$-norm على طول الاتجاه $\beta$ المحدد. يُعرف التحديث كالتالي:
   $$\Delta \tilde{z}_i = \frac{y^*_i - \hat{y}_i}{\|\beta_S\|^2} \beta_S$$
   حيث تمثل $S$ مجموعة المكونات الرئيسية المختارة للتعديل (عادةً أعلى 5 مكونات حسب مقدار المعامل). ثم يتم إعادة رسم المتجه المعدل في الفضاء الأصلي وحقنه في النموذج لمراقبة التأثيرات اللاحقة.
4. الظروف التجريبية: تختبر الدراسة أربعة ظروف للتدخل:
   • دون تغيير (Unchanged): ضابط (الانحياز الأصلي).
   • القلب (Flip): عكس الانحياز ($b_v \to 1 - b_v$).
   • الانحياز الكامل (Fully Biased): إشباع الانحياز عند 0 (انحياز كامل لـ DO) أو 1 (انحياز كامل لـ PD).
   • تعديل إشارة الخطأ (Error Signal Editing): يتم تعديل إشارة خطأ موقعة $e = b_v - s$ (حيث $s$ هو البنية المرصودة) بطريقة مماثلة لاختبار سلوكيات التحديث القائمة على الخطأ.

النتائج الرئيسية

• ناقلات التوجيه تحفز عملية التحفيز (Priming): تنجح ناقلات التوجيه المستخرجة من الجمل المحفزة في إحداث تأثيرات التحفيز الهيكلي في الطبقات المتوسطة والمتأخرة (الطبقة 15+). حقن ناقل محفز لـ PD يزيد من تفضيل النموذج لبنى PD، والعكس صحيح.
• الدور السببي لانحياز الفعل: انحياز الفعل المستمر يمكن التنبؤ به خطياً من ناقلات التوجيه. التعديل الافتراضي المضاد لهذا الانحياز يعدل سببياً حجم تأثير التحفيز.
  • شرط القلب (Flip): عكس انحياز الفعل في ناقل التوجيه يعكس الارتباط بين انحياز الفعل الأصلي وحجم التحفيز.
  • شرط الانحياز الكامل (Fully Biased): إشباع الانحياز يلغي التباين في حجم التحفيز عبر مختلف الأفعال، مما يؤكد أن الفضاء الفرعي المحدد يحدد سببياً الطبيعة المتدرجة للتأثير.
• وجود إشارة الخطأ مقابل استخدامها:
  • الوجود: إشارة تشبه إشارة الخطأ (تجمع بين انحياز الفعل والبنية المرصودة) موجودة في ناقلات التوجيه ويمكن تعديلها سببياً لإنتاج تحولات في التدرج في التفضيلات اللاحقة.
  • القصور: رغم وجود هذه الإشارة، فإن ناقلات التوجيه غير المعدلة لا تعيد إنتاج تأثير التردد العكسي (IFE)—وهي الظاهرة التي تؤدي فيها البنى المحفزة غير المتوقعة إلى تحفيز أقوى. حقن ناقل التوجيه القياسي ينتج ميلاً إيجابياً (مطابقاً لانحياز الفعل) بدلاً من الميل السلبي الذي تتنبأ به نظريات التعلم القائم على الخطأ.
  • ديناميكيات الطبقات: بينما يكون انحياز الفعل متاحاً في الطبقات المبكرة، فإن دمج الانحياز والبنية في إشارة خطأ قابلة للتعديل تقود تحديثات التدرج يظهر فقط في الطبقات المتوسطة والمتأخرة (الطبقة 15+).

الأهمية والادعاءات
تقدم الورقة أربع مساهمات رئيسية:

1. توسيع منهجي: تثبت وجود طريقة قابلة للتطبيق لإجراء تدخلات سببية على المتغيرات المستمرة، متجاوزة الميزات المنفصلة التي هيمنت على التفسير السببي.
2. التحقق السببي: تثبت أن انحياز الفعل ليس مجرد ارتباط بل هو ممثل سببياً في ناقلات التوجيه، حيث أن التعديلات الافتراضية المضادة تغير بشكل منهجي التفضيلات الهيكلية اللاحقة.
3. تحليل آلية التعلم في السياق (ICL): تقدم رؤية دقيقة لناقلات التوجح كآلية لـ ICL. فبينما تنجح الناقلات في التقاط مكون التنشيط العابر للتحفيز الهيكلي (تغيير التفضيلات بناءً على السياق)، إلا أنها تفشل في التقاط ديناميكية التحديث القائم على الخطأ الكاملة (تحديداً IFE). هذا يشير إلى أن حقن ناقلات التوجح الجمعية يقرب الحالة التمثيلية المستحثة بالسياق ولكنه لا يحاكي تماماً قاعدة التحديث الحسابية لـ ICL.
4. الربط النظري: يقترح المؤلفون ربطاً بين النظريات النفسية اللغوية وآليات النماذج اللغوية الكبيرة: تتوافق ناقلات التوجيه مع نظريات "التنشيط العابر" للتحفيز، بينما قد يتطلب مكون الخطأ المفقود آليات تُوصف بشكل أفضل بأنها تحديثات للأوزان منخفضة الرتبة أو عمليات تعلم ضمنية بدلاً من مجرد إضافة المتجهات.

يخلص المؤلفون إلى أنه بينما يعد التدخل في المتغيرات المستمرة أداة تشخيصية وسببية قوية، فإن ربط هذه التمثيلات المستمرة بالديناميكية الكاملة للتعلم في السياق يظل تحدياً، حيث أن نهج ناقل التوجيه الحالي يلتقط "ماذا" (حالة التفضيل) وليس "كيف" (عملية التكيف القائمة على الخطأ) الكاملة لـ ICL.