Belief Dynamics Reveal the Dual Nature of In-Context Learning and Activation Steering

إليك ملخص تقني مفصل للورقة البحثية بعنوان "ديناميكيات الاعتقاد تكشف الطبيعة المزدوجة للتعلم في السياق وتوجيه التنشيط" (Belief Dynamics Reveal the Dual Nature of In-Context Learning and Activation Steering).

1. بيان المشكلة

يمكن التحكم في النماذج اللغوية الكبيرة (LLMs) أثناء الاستدلال من خلال منهجيتين متمايزتين:

1. التعلم في السياق (ICL): تعديل السلوك عبر مطالبات المدخلات (مثل الأمثلة قليلة المحاولات، أو التعليمات).
2. توجيه التنشيط (Activation Steering): تعديل السلوك من خلال التدخل المباشر في تنشيطات الطبقات الخفية للنموذج (مثل إضافة متجه توجيه).

بينما تُعامل هذه الطرق غالبًا كظواهر منفصلة ذات أسس نظرية مختلفة (التعلم في السياق كاستدلال بايزي، والتوجيه كمعالجة تمثيل خطي)، إلا أنها تشترك في هدف التحكم في مخرجات النموذج. تعالج الورقة غياب إطار عمل نظري موحد يشرح كيفية تفاعل هذه التدخلات المتباينة، وكيفية توسعها، وما إذا كانت تعمل على آلية داخلية مشتركة. وبشكل محدد، يسعى المؤلفون إلى تفسير منحنيات "التعلم المفاجئ" الملحوظة في التعلم في السياق متعدد المحاولات (many-shot ICL) وكيف يغير توجيه المتجهات هذه الديناميكيات.

2. المنهجية

الإطار النظري: ديناميكيات الاعتقاد البايزي

يقترح المؤلفون نموذجًا موحدًا لـ ديناميكيات الاعتقاد البايزي. ويفترضون أن كلاً من التعلم في السياق (ICL) وتوجيه التنشيط يعملان عن طريق تحديث اعتقاد النموذج في المفاهيم الكامنة ($c$).

• المفاهيم الكامنة: يحافظ النموذج على مساحة من المفاهيم (على سبيل المثال، شخصية "ماكيافيلية" مقابل شخصية "محايدة").
• التعلم في السياق (ICL) كتراكم للأدلة: تعمل الأمثلة في السياق كأدلة ($x$) تقوم بتحديث الاحتمالية $p(x|c)$. ومع إضافة المزيد من الأمثلة، تزداد الاحتمالية اللاحقة (posterior belief) $p(c|x)$.
• التوجيه كتعديل للمسبق (Prior): يُنمذج توجيه التنشيط كتدخل يغير الاحتمال المسبق $p(c)$ لمفهوم ما، مما يغير فعليًا الاعتقاد الأساسي قبل رؤية أي سياق.

النموذج الرياضي:
يصف جوهر النموذج نسب الأرجحية اللوغاريتمية لمفهوم $c$ مقابل متممه $c'$:
$$\log o(c|x) = \log \frac{p(c)}{p(c')} + \log \frac{p(x|c)}{p(x|c')} + a \cdot m$$
حيث أن:

• $\log \frac{p(c)}{p(c')}$: نسب الأرجحية المسبقة اللوغاريتمية (الاعتقاد الأساسي).
• $\log \frac{p(x|c)}{p(x|c')}$: نسبة الاحتمالية اللوغاريتمية (الدليل من ICL). ينمذج المؤلفون هذا كـ قانون قوة تحت خطي ($\gamma N^{1-\alpha}$) لتفسير العوائد المتناقصة لإضافة المزيد من محاولات السياق.
• $a \cdot m$: تأثير توجيه التنشيط، حيث $m$ هو مقدار التوجيه و $a$ هو ثابت قياس مشتق من فرضية التمثيل الخطي (LRH).

يُعطى الاحتمال النهائي للسلوك المستهدف عبر دالة السيجمويد (sigmoid) للأرجحية اللوغاريتمية:
$$p(y|x) = \sigma(\log o(c|x))$$

الإعداد التجريبي

• النماذج: Llama-3.1-8B (الأساسي)، Qwen-2.5-7B، Gemma-2-9B، و Llama-3.1-70B.
• مجموعات البيانات:
  • مطابقة الشخصية: سمات "الثالوث المظلم" (السيكوباتية، الماكيافيلية، النرجسية) ومفاهيم العدمية الأخلاقية.
  • المفاهيم ذات الأولوية العالية: سمات مثل "الانفتاح" لاختبار ما إذا كان النموذج يطبق ذلك على المفاهيم التي يفضلها بالفعل.
  • قلب تسمية الشعور: مهمة غير ثنائية يجب على النموذج فيها تعلم رسم خرائط معكوسة بين تسميات الشعور والنص.
• التدخلات:
  • التعلم في السياق (ICL): تغيير عدد محاولات السياق ($N$) من 0 إلى 128.
  • التوجيه: استخدام إضافة التنشيط التباينية (CAA) لتوليد متجهات التوجيه. تم تغيير المقدار ($m$) من -10 إلى +10.
• التحليل: قام المؤلفون بملاءمة معاملات النموذج البايزي ($\alpha, \gamma, a, b$) للبيانات التجريبية باستخدام تحسين L-BFGS والتحقق من التنبؤات عبر التحقق المتبادل بعشر طيات (10-fold cross-validation).

3. المساهمات الرئيسية

1. نظرية موحدة للتحكم: تؤسس الورقة إلى أن ICL وتوجيه التنشيط هما آليتان مزدوجتان تعملان على نفس حالة الاعتقاد الكامنة. يقوم ICL بتحديث الاحتمالية (الدليل)، بينما يقوم التوجيه بتحديث المسبق.
2. منحنيات التعلم السيجمويدية: يشتق النموذج رياضياً سبب اتباع التعلم في السياق متعدد المحاولات لمنحنى سيجمويدي (على شكل حرف S). وهذه نتيجة للتراكم تحت الخطي للأدلة ($N^{1-\alpha}$) مقترناً بالرسم الخطي للنسب اللوغاريتمية إلى الاحتمالية.
3. الإضافة في فضاء الاعتقاد اللوغاريتمي: يوضح المؤلفون أن آثار ICL والتوجيه هي إضافية في الفضاء اللوغاريتمي. وهذا يسمح بالتنبؤ بـ "حدود الطور" (phase boundaries) حيث يتغير سلوك النموذج فجأة من مفهوم إلى آخر.
4. حدود الطور التنبؤية: يمكن للنموذج التنبؤ بنقطة العبور الدقيقة ($N^*$) حيث يغير النموذج سلوكه بناءً على التفاعل بين عدد المحاولات ومقدار التوجيه.

4. النتائج الرئيسية

• دقة تنبؤية عالية: حقق النموذج البايزي معامل ارتباط قدره $r = 0.98$ (متوسط عبر 5 مجالات) بين السلوك المتوقع والسلوك الفعلي للنماذج اللغوية الكبيرة على البيانات المحجوزة.
• الديناميكيات السيجمويدية: أكدت التجارب أنه مع زيادة عدد محاولات السياق، يتبع احتمال تبني شخصية ما منحنى سيجمويدي. يؤدي توجيه التنشيط إلى إزاحة هذا المنحنى أفقياً (يساراً للتوجيه الإيجابي، ويميناً للتوجيه السلبي)، مما يتطلب فعليًا عدداً أقل أو أكثر من المحاولات للوصول إلى نفس العتبة السلوكية.
• تحولات الطور: من خلال تغيير كل من $N$ (المحاولات) و $m$ (مقدار التوجيه)، رسم المؤلفون "مخطط طور". ووجدوا مناطق متميزة يهيمن فيها النموذج على المفهوم المستهدف أو المفهوم الأساسي، تفصلها حدود انتقال حادة. وقد تنبأ النموذج بدقة بهذه الحدود.
• القدرة على التعميم:
  • صمدت النتائج عبر بنيات نماذج مختلفة (Llama, Gemma, Qwen) ومقاييس مختلفة (من 8B إلى 70B).
  • نجح النموذج في تفسير المفاهيم ذات الأولوية العالية (حيث يحدث الانتقال بشكل أسرع) ومهام الشعور ذات التسميات المقلوبة (المخرجات غير الثنائية).
• حدود الخطية: وجدت الدراسة أن فرضية التمثيل الخطي تصمد جيدًا ضمن نطاق محدد من مقادير التوجيه. ومع ذلك، عند المقاديد الكبيرة جدًا، تنهار التأثيرات الخطية، ويتجه سلوك النموذج نحو التخمين العشوائي، مما يشير إلى أن مساحة التمثيل الداخلي للنموذج لها حدود.

5. الأهمية والآثار المترتبة

• التفسير الآلي: يربط هذا العمل الفجوة بين التحكم السلوكي عالي المستوى (التحفيز/Prompting) والتدخلات الآلية منخفضة المستوى (توجيه التنشيط)، مما يشير إلى أنهما وجهان لعملة بايزية واحدة.
• سلامة الذكاء الاصطناعي والاختراق (Jailbreaking): إن القدرة على التنبؤ بـ التحولات السلوكية المفاجئة (تحولات الطور) أمر بالغ الأهمية لسلامة الذكاء الاصطناعي. هذا يعني أن "الاختراق متعدد المحاولات" (حيث يتبنى النموذج فجأة شخصية ضارة بعد العديد من الأمثلة) هو تحول طوري يمكن التنبؤ به. يمكن للممارسين استخدام النموذج لحساب العتبة الدقيقة للسياق أو مقدار التوجيه المطلوب لكسر مواءمة السلامة.
• منهجية التحكم: تشير النتائج إلى أن الجمع بين ICL والتوجيه هو أمر فعال للغاية. يمكن لقدر ضئيل من التوجيه أن يقلل بشكل كبير من عدد أمثلة السياق اللازمة لتحقيق السلوك المطلوب، مما يوفر طريقة أكثر قوة وكفاءة حوسبية للتحكم في النماذج اللغوية الكبيرة.
• الأساس النظري: يوفر العمل أساسًا رياضيًا صارمًا لفهم كيف تمثل الشبكات العصبية "الاعتقادات" وتحدثها، ويربط مفاهيم العلوم المعرفية (الاستدلال البايزي) مع آليات التعلم العميق الحديثة (التمثيلات الخطية).

باختدصار، توفر هذه الورقة إطارًا تنبئيًا قويًا يزيل الغموض عن كيفية تعلم النماذج اللغوية الكبيرة من السياق واستجابتها للتدخلات الداخلية، كاشفة أن كلاهما محكوم بديناميكيات تحديث الاعتقادات بالمفاهيم الكامنة.