ملخص تقني: "بصفتي X، افعل Y: كيف يتحد الدور والمهام في النماذج اللغوية الكبيرة الضبطت بالتعليمات"

بيان المشكلة

تتعامل النماذج اللغوية الكبيرة (LLMs) التي تم ضبطها بالتعليمات (Instruction-tuned) بمتانة مع المطالبات التي تأتي على هيئة "بصفتي X، افعل Y"، حيث يتم دمج تحديد الدور ($X$) مع تحديد المهمة ($Y$). ومع ذلك، فإن الآلية الداخلية التي يتم من خلالها دمج هذين التحديدين المتميزين سببيًا داخل تدفق المتبقي (residual stream) للنموذج لا تزال غير مفهومة بشكل جيد. وتحديدًا، من غير الواضح أين عبر محوري الطبقة والموضع يكون هذا الدمج بسيطًا بما يكفي ليتم تقريبه بشكل تراكمي (additively)، وما إذا كان يمكن إعادة بناء الحالة المركبة الناتجة أو التلاعب بها عبر تدخلات تدفق المتبقي.

المنهجية

يستخدم البحث إطار عمل للتدخل السببي لتفكيك تنشيطات تدفق المتبقي للنماذج الضبطت بالتعليمات. تتضمن المنهجية الجوهرية ما يلي:

1. تفكيك المطالبة (Prompt Decomposition): لكل زوج من (الدور-المهمة)، يقوم المؤلفون بإنشاء شبكة $2 \times 2$ من المطالبات:
   • الأساس-الأساس ($BB$): لا يوجد دور محدد، مهمة أساسية.
   • الدور فقط ($XB$): دور محدد، مهمة أساسية.
   • المهمة فقط ($BY$): دور أساسي، مهمة محددة.
   • الدور بالإضافة إلى المهمة ($XY$): دور محدد، مهمة محددة.
2. تفكيك المتبقي (Residual Decomposition): عند طبقات ومواضع تسلسل محددة، يعرّف المؤلفون:
   • تأثير الدور الصافي: $\Delta X = h_{XB} - h_{BB}$
   • تأثير المهمة الصافي: $\Delta Y = h_{BY} - h_{BB}$
   • التأثير المركب: $\Delta XY = h_{XY} - h_{BB}$
   • حد التفاعل: $Inter = \Delta XY - \Delta X - \Delta Y$
3. الاستبدال السببي (Causal Substitution): يختبر المؤلفون الفرضية القائلة بأن $\Delta XY \approx \Delta X + \Delta Y$ عن طريق استبدال حالة الخفاء $XY$ النظيفة بالتنبؤ التراكمي ($h_{BB} + \Delta X + \Delta Y$).
4. مقاييس التقييم:
   • KL السببي (Causal KL): تباعد كولباك - ليبلر (Kullback-Leibler divergence) بين مخرجات النموذج بعد الاستبدال وبين استمرارية $XY$ النظيفة (عبر نافذة مكونة من 10 توكنات). يشير انخفاض KL إلى أن التقريب التراكمي كافٍ سببيًا.
   • المحاذاة الهندسية (Geometric Alignment): تشابه جيب التمام بين $\Delta XY$ و $\Delta X + \Delta Y$، وبين $\Delta X$ و $\Delta Y$.
   • التحقق السلوكي (Behavioral Verification): اختبار قائم على العلامات (marker-based test) يقيس وجود محتوى خاص بالدور (مثل "القابلية للتوسع" لشخصية المهندس) في عمليات التوليد الجشعة (greedy generations) بطول 80 توكن.
5. النماذج والشبكات: أُجريت التجارب على Gemma-2-2B-IT، و Qwen-2.5-1.5B-Instruct، و Qwen-2.5-3B-Instruct. تم استخدام شبكتين من المطالبات: شبكة قصيرة مكونة من 12 خلية (4 أدوار، 3 مهام) وشبكة "الدور الطويل" مكونة من 48 خلية (8 أدوار متعددة الجمل، 6 مهام متنوعة).

النتائج الرئيسية

1. التركيب التراكمي الموضعي

يحدد البحث منطقة محددة يكون فيها دمج الدور والمهمة بسيطًا سببيًا وتراكميًا تقريبًا:

• الموقع: تمتد المنطقة عبر آخر توكن للمطالبة ($p_{last}$) و أول توكنين مولدين ($g_1, g_2$)، وتحديدًا ضمن نطاق طبقات مبكرة إلى متوسطة.
• الدليل: في هذه المنطقة، يؤدي استبدال التنبؤ التراكمي ($h_{BB} + \Delta X + \Delta Y$) بحالة المتبقي النظيفة إلى مخرجات لاحقة ذات تباعد KL منخفض جدًا (على سبيل المثال، وسيط KL قدره 0.0004 عند الطبقة 6 لنموذج Gemma-2-2B-IT عند $p_{last}$).
• الهندسة: المتجهات $\Delta X$ و $\Delta Y$ قابلة للفصل جزئيًا (تشابه جيب تمام منخفض بينهما)، وحد التفاعل، رغم أنه غير مهمل من حيث المعيار (norm)، إلا أنه لا يقوم بتدوير المتجه المركب بشكل كبير بعيدًا عن المجموع التراكمي.
• المتانة: هذا "النظام التراكمي الموضعي" صامد عبر مقاييس النماذج المختلفة (من 1.5B إلى 3B)، والهياكل المختلفة (Gemma مقابل Qwen)، وعبر كل من شبكات الأدوار القصيرة والطويلة.

2. الأمانة السلوكية (Behavioral Fidelity)

يحافظ الاستبدال التراكمي على المحتوى الدلالي للدور.

• عند استبدال التنبؤ التراكمي عند $p_{last}$ (الطبقة 14)، يولد النموذج مخرجات تحتوي على علامات خاصة بالدور بمعدلات مقاربة للحالة النظيفة (58.3% مقابل 66.7% لـ "وجود أي علامة").
• والأهم من ذلك، أن مجرد طرح مساهمة الدور ($\Delta X$) عند موقع واحد ($p_{last}$) لا يؤدي إلى إزالة علامات الدور (وجود بنسبة 62.5%)، مما يشير إلى أن محتوى الدور ليس محليًا في متجه متبقي واحد بل هو موزع.

3. حدود التراكمية

يحدد البحث حدًا حادًا للتقريب التراكمي:

• فشل حقن المضيف (Host Injection Failure): فشل استبدال التنبؤ التراكم المخزن في مطالبة مضيفة أساسية (حيث تمت إزالة نص الدور) في استعادة السلوك الكامل المشروط بالدور. تظل فجوة KL كبيرة (وسيط KL هو 2.84 مقابل 3.05 للأساس)، حيث لا يستعيد سوى جزء صغير من السلوك المستهدف.
• حد تعدد الطبقات: تقييد (Clamping) التنبؤ التراكمي عبر طبقات متعددة (حتى 22 طبقة) لا يحسن النتيجة بل يؤدي في النهاية إلى تدهور الأداء، لأنه يمنع الانتشار الأمامي الطبيعي.
• الاستنتاج: يلتقط النظام التراكمي الموضعي التركيب للخطوة التالية (كيف ينتقل النموذج من المطالبة إلى الإجابة) ولكنه لا يفسر الآلية الكاملة لتوليد متعدد التوكنات، والتي تعتمد على الانتباه المرتد (attention back) إلى مواضع نص الدور طوال المطالبة.

المساهمات الرئيسية

1. تحديد موقع التركيب: يحدد البحث المنطقة المحددة (الطبقات المبكرة/المتوسطة عند الانتقال من المطالبة إلى الإجابة) حيث يتحد مواصفات الدور والمهمة بطريقة بسيطة سببيًا وتراكمية.
2. تفكيك التأثيرات: يقدم حسابًا على مستوى تدفق المتبقي يفصل بين تأثيرات الدور الصافية، وتأثيرات المهمة الصافية، وتفاعلهما، موضحًا أنه بينما يوجد التفاعل، فإن المجموع التراكمي يعد متنبئًا قويًا للحالة المركبة في المنطقة المحددة.
3. التمييز بين الآليات المحلية والموزعة: يوضح العمل أنه بينما يكون التركيب للدور والمهمة تراكميًا محليًا عند نقطة تكوين الإجابة، فإن توليد المحتوى المشروط بالدور هو آلية موزعة تعتمد على الانتباه للمطالبة الكاملة، وهو ما لا يمكن استبداله بمتجه متبقي واحد.

الأهمية والادعاءات

يدعي البحث تقديم حساب على مستوى تدفق المتبقي للمكان الذي يكون فيه التوجيه بالدور بسيطًا سببيًا بما يكفي ليتم تقريبه تراكميًا وأين تتوقف هذه القصة.

• التواضع: يصرح المؤلفون صراحةً بأنهم لا يدعون الوصول إلى "الإغلاق على مستوى الدارة" (circuit-level closure) (تحديد عصبونات أو أوزان محددة) ولا يقترحون أداة توجيه (steering tool) للتحكم. الهدف هو التوصيف، وليس التحكم.
• العمومية: تظل النتائج صامدة عبر عائلات النماذج المختلفة وتعقيدات المطالبات المختلفة، مما يشير إلى خاصية قابلة للتعميم في النماذج الضبطت بالتعليمات فيما يتعلق بكيفية دمج الدور والمهمة.
• القصور: يقر البحث بأن التحليل مقيد بالمنطقة القريبة من تكوين الإجابة ولا يصف الآلية الموزعة الكاملة المطلوبة للحفاظ على الدور عبر مدى زمني طويل.

باخت ملخص، يوضح البحث أن مطالبات "بصفتي X، افعل Y" تخلق نظامًا تراكميًا موضعيًا بالقرب من الانتقال من المدخلات إلى المخرجات، ولكن التوليد الكامل المشروط بالدور يعتمد على آلية انتباه موزعة واسعة النطاق تقاوم الاستبدال التراكمي البسيط.