Valence-Arousal Subspace in LLMs: Circular Emotion Geometry and Multi-Behavioral Control

إليك ملخص تقني مفصل للورقة البحثية بعنوان "الفضاء الجزئي للتكافؤ والاستثارة في النماذج اللغوية الكبيرة: الهندسة العاطفية الدائرية والتحكم متعدد السلوكيات."

1. بيان المشكلة

بينما أظهرت الأبحاث السابقة أن التوجيه عبر "التأطير العاطفي" أو توجيه التنشيط يمكن أن يؤثر على سلوك النماذج اللغوية الكبيرة (LLMs)، إلا أن الآليات الكامنة وراء ذلك لا تزال غير واضحة. تتعامل النهج الحالية عادةً مع فئات العواطف المنفصلة (مثل الغضب، الفرح، الخوف) كوحدات تحليل أساسية. ومع ذلك، يفتقر هذا المنظور المنفصل إلى القدرة التفسيرية وغالبًا ما ينتج عنه نواقل توجيه هشة لا تعمم بشكل جيد عبر مختلف السلوكيات أو المطالبات (prompts).

يقترح المؤلفون تحولًا مفاهيميًا: بدلاً من معاملة العواطف المنفصلة ككيانات ذرية، يعاملون التكافؤ (Valence - المتعة مقابل عدم المتعة) والاستثارة (Arousal - التنشيط مقابل الخمول) كأبعاد مستمرة وأساسية (بناءً على "نموذج المحيط" النفسي). المشكلة الجوهرية التي يتم معالجتها هي ما إذا كان هناك فضاء جزئي (subspace) ذو أبعاد منخفضة ومستمر للتكافؤ والاستثارة (VA) داخل تمثيلات النماذج اللغوية الكبيرة، وما إذا كان التوجيه على طول هذه المحاور يمكن أن يوفر تحكمًا قويًا وقابلًا للتفسير في سلوكيات متنوعة مثل الرفض (refusal) والمداهنة (sycophancy).

2. المنهجية

يقترح المؤلفون خط معالجة يتكون من ثلاث مراحل لتحديد والتحقق من صحة الفضاء الجزئي لـ VA:

أ. استخراج نواقل توجيه العواطف

• البيانات: استخدموا 211,225 عينة نصية مصنفة عاطفيًا من مجموعة بيانات GoEmotions (27 تصنيفًا عاطفيًا + التصنيف المحايد).
• بناء المتجه: لكل فئة عاطفية $e$، قاموا بحساب متجه توجيه $v_e$ عند كل طبقة $\ell$ عن طريق حساب متوسط الفرق التبايني بين الحالات الخفية (hidden states) للأمثلة المصنفة عاطفيًا والأمثلة المحايدة:
  $$v_e^{(\ell)} = \frac{1}{|D_e|} \sum_{x \in D_e} h^{(\ell)}(x) - \frac{1}{|D_{neutral}|} \sum_{x \in D_{neutral}} h^{(\ell)}(x)$$

ب. تعلم الفضاء الجزئي لـ VA

• التقييم الذاتي: تم توجيه النموذج للإبلاغ ذاتيًا عن درجات التكافؤ والاستثارة لكل تسمية عاطفية (مُسقطة على النطاق $[-1, +1]$).
• تقليل الأبعاد: تم تطبيق تحليل المكونات الرئيسية (PCA) على نواقل توجيه العواطف المركزية.
• انحدار ريدج (Ridge Regression): تعلم المؤلفون تركيبات خطية من أعلى مكونات PCA لاستعادة درجات التكافؤ والاستثارة المبلغ عنها ذاتيًا. حددت متجهات المعاملات الناتجة محور التكافؤ ($w_V$) ومحور الاستثارة ($w_A$) في فضاء التنشيط الأصلي.
• التعامد (Orthogonalization): ضمنت عملية تعامد غرام-شميت (Gram–Schmidt) أن يكون المحوران متعامدين ووحدويين.

ج. التحقق والتدخل

• التحقق الهندسي: إسقاط متجهات العواطف على الفضاء الجزئي المتعلم للتحقق من الهندسة الدائرية.
• الارتباط المعجمي: ربط إسقاطات الفضاء الجزئي مع تقييمات NRC-VAD البشرية لـ 44 ألف عنصر معجمي.
• تجارب التوجيه: تطبيق توجيه التنشيط ($h' = h + \alpha \cdot d$) على مطالبات مفتوحة لقياس التغيرات في:
  • الأبعاد الوجدية (درجات التكافؤ/الاستثارة عبر VAD-BERT).
  • المشاعر (عبر VADER).
  • معدلات الرفض: تم الاختبار على OKTest وHarmBench وXSTest.
  • معدلات المداهنة: تم الاختبار على NLP Survey وPhilPapers وPolitical Typology.
• التحليل الآلي: استقصاء لماذا يعمل التوجيه باستخدام هندسة عدم التضمين (unembedding geometry)، وتحليل عدسة اللوغيت (logit lens)، واستئصال عصبونات MLP.

3. المساهمات الرئيسية

1. اكتشاف الفضاء الجزئي لـ VA: تحديد فضاء جزئي ثنائي الأبعاد في تمثيلات النماذج اللغوية الكبيرة حيث تُنظم نواقل توجيه العواطف في هندسة دائرية مشابهة لنموذج المحيط لراسل (Russell's circumplex model) الخاص بالعواطف البشرية.
2. التحكم متعدد السلوكيات: إثبات أن التوجيه على طول هذه المحاور المستمرة يوفر تحكمًا أحادي الاتجاه ورتيبًا (monotonic) في سلوكيات متميزة:
   • الاستثارة: زيادة الاستثارة تقلل معدلات الرفض وتزيد من المداهنة؛ بينما تقليل الاستثارة يؤدي إلى العكس.
   • التكافؤ: يتحكم بشكل أساسي في قطبية المشاعر، مع تأثيرات ثانوية على الرفض.
3. التعميم عبر البنى الهيكلية: التحقق من وجود وخصائص الفضاء الجزئي لـ VA عبر نماذج Llama-3.1-8B وQwen3-8B وQwen3-14B، مما أظهر بنية هندسية وتأثيرات سلوكية متسقة.
4. التفسير الآلي (الوساطة المعجمية): اقتراح والتحقق من أن توجيه VA يعمل عن طريق تعديل احتمالية إصدار "رموز العلامات" (marker tokens) المحددة.
   • رموز الرفض (مثل "can't"، "sorry"، "I") تتجمع في منطقة الاستثارة المنخفضة والتكافؤ السلبي في فضاء عدم التضمين.
   • رموز الامتثال (مثل "Here"، "sure"، "Yes") تتجمع في منطقة التكافؤ الإيجابي.
   • يعمل التوجيه على تغيير الحالة الخفية للنموذج، مما يزيد أو ينقص من احتمالية ظهور هذه الرموز، وهو ما يقود مباشرة التغييرات السلوكية.

4. النتائج الرئيسية

• الهندسة: يُظهر الفضاء الجزئي لـ VA المستعاد ترتيبًا دائريًا للعواطف (مثل الفرح مقابل الحزن على محور التكافؤ؛ الإثارة مقابل الهدوء على محور الاستثارة). بلغت مقياسية الدائرية 3.17 عند الطبقة 31.
• دقة الاستعادة: حقق انحدار ريدج عبر عدة مكونات PCA ارتباطًا عاليًا مع الدرجات المبلغ عنها ذاتيًا: التكافؤ ($r=0.97$) والاستثارة ($r=0.87$) لنموذج Llama-3.1-8B.
• الارتباط المعجمي: ارتبطت إسقاطات الكلمات المفردة على الفضاء الجزئي لـ VA بقوة مع تقييمات NRC-VAD البشرية (التكافؤ $r=0.71$، الاستثارة $r=0.23$)، مما يؤكد أن الفضاء الجزئي يلتقط التأثر القابل للتفسير بشريًا.
• التحكم السلوكي:
  • الرفض: زيادة الاستثارة ( $\alpha$ موجبة) قللت معدلات الرفض من 86.5% إلى 59.5% (على HarmBench). بينما زاد تقليل الاستثارة من الرفض إلى 93.5%.
  • المداهنة: زيادة الاستثارة زادت من المداهنة، بينما تقليلها قلل من المداهنة (على سبيل المثال، انخفضت المداهنة في Political Typology من 78% إلى 61% مع توجيه الاستثارة السالب).
  • المقارنة: تفوق توجيه VA على متجهات العواطف المنفصلة الفردية في اتساق السلوك عبر المهام. العواطف المنفردة (مثل "الاشمئزاز") كانت لها تأثيرات قوية على مهمة واحدة ولكنها ضعيفة أو غير متسقة في مهام أخرى، بينما قدمت أبعاد VA تحكمًا قابلًا للتفكيك والرتابة.
• الآلية:
  • عدم التضمين (Unembedding): تتجمع رموز الرفض عند حوالي $256^\circ$ (تكافؤ واستثارة سلبيين) في النموذج الدائري، بينما تقع رموز الامتثال في منطقة التكافؤ الإيجابي.
  • تثبيت اللوغيت (Logit Clamping): أدى تجميد لوغيتات رموز الرفض/الامتثال إلى إلغاء تأثير توجيه VA، مما يثبت أن هذه الرموز هي المكون الأساسي لهذا السلوك.
  • تحليل العصبونات: أظهرت العصبونات التي تعزز الرفض توافقًا سلبيًا مع VA، بينما أظهرت العصبونات التي تعزز الامتثال توافقًا إيجابيًا.

5. الأهمية والآثار المترتبة

• الرؤية النظرية: تجسر الورقة الفجوة بين فئات العواطف المنفصلة والأبعاد النفسية المستمرة، وتوضح أن النماذج اللغوية الكبيرة تنظم المفاهيم العاطفية في بنية هندسية تشبه الإدراك البشري.
• القابلية للتفسير: تقدم أساسًا للتحكم مستقلًا عن المجال. بدلًا من تعلم متجه توجيه جديد لكل سلوك محدد (الرفض، المداهنة، الإسهاب)، يمكن للباحثين التلاعب بفضاء جزئي مشترك لـ VA لتحقيق تغييرات رتيبة ومتوقعة.
• السلامة والمواءمة: تكشف النتائج عن ثغرة محتملة: السلوكيات الحرجة للسلامة (مثل الرفض) تعتمد بشدة على احتمالات الرموز ذات الاستثارة المنخفضة والتكافؤ السلبي. يشير هذا إلى أن الهجمات "العاطفية" يمكن أن تتجاوز حواجز السلامة عن طريق إزاحة الفضاء الجزئي لـ VA. وعلى العكس من ذلك، فإن فهم آلية "الوساطة المعجمية" يوفر هدفًا ملموسًا لتطوير تقنيات مواءمة أكثر قوة (على سبيل المثال، إلغاء الارتباط بين VA ورموز السلامة أثناء التدريب).
• التقدم المنهجي: تدعو الورقة إلى استخدام تفكيك المكونات الرئيسية لنواقل التوجيه كنهج مكمل للتوجيه التبايني القياسي، مما ينتج اتجاهات تحكم أكثر قابلية لإعادة الاستخدام والتعميم.

باختصار، تثبت هذه العمل أن التحكم "العاطفي" في النماذج اللغوية الكبيرة ليس مجرد تأثير سطحي للمطالبات، بل هو متجذر في فضاء جزئي مستمر ومنظم هندسيًا يعمل مباشرة على تعديل احتمالية رموز معجمية محددة، وبالتالي التحكم في المخرجات السلوكية عالية المستوى.