Where's the Plan? Locating Latent Planning in Language Models with Lightweight Mechanistic Interventions

ملخص تقني: أين الخطة؟ تحديد موقع التخطيط الكامن في النماذج اللغوية عبر تدخلات ميكانيكية خفيفة الوزن

بيان المشكلة
تنتج النماذج اللغوية ذات التوليد الذاتي الانحداري (Autoregressive) النصوص بنظام "توكن تلو الآخر" (token-by-token)، ومع ذلك فإنها تنتج في كثير من الأحيان مخرجات تتطلب تماسكاً هيكلياً بعيد المدى، مثل الأبيات الشعرية المقفاة. وهذا يثير سؤالاً جوهرياً حول التخطيط الكامن (Latent Planning): هل تشكل النماذج تمثيلات داخلية للمخرجات المستقبلية التي تقود عملية التوليد سببياً، حتى عندما تكون هذه العمليات غير مرئية للتقييم السلوكي الخارجي؟ وبينما أثبتت الأعمال السابقة وجود معلومات متوافقة مع التخطيط في بعض النماذج، إلا أنه لا يزال من غير الواضح أين تكمن هذه المعلومات بالضبط أثناء التمرير الأمامي (forward pass)، وما إذا كانت تتحرك (وهي ظاهرة يطلق عليها المؤلفون اسم تكون موقع التخطيط - planning site formation). علاوة على ذلك، فإن التمييز بين المعلومات المشفرة فحسب (الخاملة/Passive) والمعلومات المستخدمة سببياً (النشطة/Active) أمر بالغ الأهمية للفهم الميكانيكي الدقيق وتقييم السلامة.

المنهجية
استخدم المؤلفون حالة اختبار واضحة: إكمال الأبيات الشعرية المقفاة. فبناءً على سطر أول ينتهي بكلمة قافية $r_1$، يجب على النموذج توليد سطر ثانٍ ينتهي بكلمة قافية $r_2$. تستخدم الدراسة طريقتين للتدخل الميكانيكي خفيف الوزن عبر ثلاث عائلات من النماذج مفتوحة المصدر (Qwen3، وGemma-3، وLlama-3) بمقاييس مختلفة (تصل إلى 70 مليار معلمة):

1. الاستقصاء الخطي (Linear Probing) (دليل الترميز): يتم تدريب مصنفات خطية للتنبؤ بتوكن القافية المستقبلي $r_2$ من الحالات الخفية $h_{\ell,i}$ عند طبقات $\ell$ ومواقع $i$ مختلفة. يحدد هذا ما إذا كانت المعلومات المتوافقة مع التخطيط قابلة لفك التشفير في مواقع محددة (على سبيل المثال، آخر توكن للكلمة مقابل توكن السطر الجديد).
2. رقع التنشيط (Activation Patching) (الدليل السببي): يتم استبدال الحالة الخفية في موقع وطبقة محددين من تشغيل "فاسد" (يستهدف عائلة قافية مختلفة) في تشغيل "نظيف". إذا أدى هذا التدخل إلى توجيه التوليد نحو القافية الفاسدة، يتم تحديد الموقع كـ موقع تخطيط نشط سببياً.

تقارن الدراسة تحديداً بين آخر توكن للكلمة (الموقع $i \approx -1$ أو $-2$) وبين **توكن السطر الجديد** (الموقع$i = 0$) لتتبع هجرة التأثير السببي.

النتائج الرئيسية

• الانفصال بين الترميز والسببية:

  • الاستقصاء (Probing): في عائلات النماذج الثلاث، نجحت المستقصيات الخطية في فك تشفير معلومات القافية المستقبلية عند توكن السطر الجديد. وتزداد قوة هذه الإشارة عموماً مع زيادة حجم النموذج، مما يشير إلى أن التمثيلات المتوافقة مع التخطيط هي خاصية ناشئة في النماذج الأكبر.
  • رقع التنشيط (Activation Patching): على الرغم من قوة إشارات الاستقصاء، فإن Gemma-3-27B فقط هو الذي يُظهر موقع تخطيط نشط سببياً عند السطر الجديد. في هذا النموذج، ينتقل المحرك السببي للتوليد من آخر توكن للكلمة إلى توكن السطر الجديد حول الطبقة 30.
  • النماذج الأخرى: تعتمد نماذج Qwen3 (حتى 32B) وLlama-3 (حتى 70B) على آخر توكن للكلمة طوال عملية التوليد. وبالرغم من ترميز معلومات القافية عند السطر الجديد (كما أظهر الاستقصاء)، فإن رقع السطر الجديد في هذه النماذج ليس له أي تأثير سببي يذكر على المخرجات.

• تحديد موقع التسليم (Gemma-3-27B):

  • يتم التوسط في عملية "تسليم" (handoff) التأثير السببي من الكلمة الأخيرة إلى السطر الجديد عبر مجموعة متفرقة من خمسة رؤوس انتباه (attention heads) في الطبقتين 28 و30.
  • باستخدام رقع المسار على مرحلتين (two-stage path patching)، أظهر المؤلفون أن رقع هذه الرؤوس الخمسة المحددة في آن واحد يستعيد حوالي 90% من قدرة توجيه القافية التي يتم تحقيقها عادةً عن طريق الكتابة فوق كامل التدفق المتبقي (residual stream) عند السطر الجديد.
  • هذه الآلية خاصة بالانتباه؛ حيث إن رقع طبقات الـ MLP المقابلة لا يؤدي إلى أي تأثير.

المساهمات الرئيسية

1. تعريف تكون موقع التخطيط: تصيغ الورقة تعريفاً للتمييز بين التمثيلات المتوافقة مع التخطيط (التي يمكن اكتشافها عبر الاستقصاء) ومواقع التخطيط النشطة سببياً (التي يتم إثباتها عبر التدخل)، مؤكدة أن الأولى لا تضمن بالضرورة الثانية.
2. إطار ميكانيكي قابل للتوسع: يقترح المؤلفون إطاراً يستخدم الاستقصاء الخطي ورقع التنشيط الذي لا يتطلب تدريب "المحول" (transcoder) ويستهلك بيانات أقل بكثير من طرق ناقلات التوجيه (steering vectors)، مما يجعله قابلاً للتطبيق على البنى الضخمة مفتوحة المصدر.
3. الاكتشاف التجريبي للتباين: تكشف الدراسة أن بنيات النماذج المختلفة (حتى ضمن نفس نطاق الحجم) تحل القيود الهيكلية عبر آليات مختلفة جذرياً: فبعضها يعتمد على شرط "الكلمة الأخيرة" الثابت، بينما يطبق البعض الآخر (مثل Gemma-3-27B) عملية "تسليم" ديناميكية إلى السطر الجديد.
4. تحديد الدائرة المتفرقة: نجح العمل في تحديد سلوك تخطيط معقد في Gemma-3-27B وحصره في مجموعة صغيرة ومحددة من رؤوس الانتباه، مما يثبت أن هذه الظواهر الناشئة يمكن أن تكون مهيكلة وليست منتشرة.

الأهمية والادعاءات
تجادل الورقة بأن إشارة الاستقصاء وحدها ليست دليلاً كافياً على وجود موقع تخطيط. فالتقييمات السلوكية القياسية أو الاستقصاء البسيط قد يسيء تقدير أو توصيف قدرات التخطيط في النماذج بشكل منهجي إذا فشلت في التمييز بين الترميز الخامل والاستخدام السببي النشط.

يزعم المؤلفون أن تكون موقع التخطيط هو ظاهرة ناشئة متميزة مرتبطة بحجم النموذج وبنيته، وليس نتيجة عالمية للتمثيلات القوية المتوافقة مع التخطيط. ويشير تحديد دائرة سببية متفرقة (رؤوس الانتباه الخمسة) إلى أن التخطيط الكامن يمكن أن يكون عملية حسابية عالية الهيكلية.

تختتم الدراسة بذكر بعض القيود المتواضعة: تقتصر النتائج حالياً على ثلاث عائلات من النماذج ومهمة واحدة مهيكلة (القافية). ويشير المؤلفون إلى أنه لا يزال من الأسئلة المفتوحة ما إذا كانت آلية "التسليم" هذه هي أصل تخطيط عام أم أنها خاصة بالقيود الصوتية، وما إذا كان غياب هذه الآلية في نماذج Qwen وLlama يعود إلى اختلافات في البنية أو في بيانات التدريب.