From Passive to Persuasive: Steering Emotional Nuance in Human-AI Negotiation

إليك ملخص تقني مفصل لورقة البحث بعنوان "من السلبية إلى الإقناع: توجيه الفروق العاطفية الدقيقة في التفاوض بين الإنسان والذكاء الاصطناوي".

1. بيان المشكلة

حققت النماذج اللغوية الكبيرة (LLMs) طلاقة حوارية عالية، لكنها لا تزال تعاني في إظهار تعبيرات عاطفية دقيقة تشبه البشر في السياقات الحساسة اجتماعيًا (مثل دعم الصحة النفسية، أو التفاوض).

• محدودية الطرق الحالية:
  • تقنيات المحاذاة (RLHF): رغم فعاليتها في تحقيق السلامة واللباقة الأساسية، إلا أنها مكلفة من حيث التوسع، وعرضة لـ "اختراق المكافأة" (reward hacking)، وتفتقر إلى القابلية للتفسير. وغالبًا ما تفشل في توفير تحكم دقيق في الاستراتيجيات الحوارية رفيعة المستوى مثل التعاطف أو الإقناع الاستراتيجي.
  • التوجيه العالمي (Global Steering): غالبًا ما تطبق طرق هندسة التنشيط الموجودة ناقلات التوجيه بشكل عالمي عبر جميع الرموز (tokens). يمكن أن يؤدي ذلك إلى تعطيل التماسك، أو إدخال سمات أسلوبية غريبة، أو الفشل في التقاط السمات التي تعتمد على السياق والتي تظهر فقط في نقاط محددة من الحوار.
• الفجوة: هناك حاجة إلى إطار عمل خفيف الوزن وقابل للتفسير يمكنه توجيه النماذج اللغوية الكبيرة نحو سلوكيات عاطفية واستراتيجية محددة (مثل الدفء، والإفصاح عن الذات، وتكتيكات التفاوض) دون إعادة تدريب النموذج، مع الحفاظ على الطلاقة والتماسك.

2. المنهجية: إطار عمل STAR

يقترح المؤلفون إطار عمل STAR (التوجيه عبر الإسناد والتمثيل)، وهو إطار عمل مكون من مرحلتين يعمل في وقت الاستدلال (inference-time) ومصمم للمحاذاة العاطفية القابلة للتحكم.

الأبعاد الجوهرية

يعمل إطار العمل على بُعدين رئيسيين:

1. الدقة (Granularity): ينتقل من التدخل العالمي إلى التدخل الموضعي. بدلاً من تعديل جميع الرموز، يستهدف STAR مواضع محددة (آخر $k$ من الرموز) حيث يُحتمل ظهور التأطير العاطفي والإفصاح عن الذات.
2. الهدف (Goal): يدعم كلاً من المحاذاة التصحيحية (تعزيز التعاطف/الدعم) وتعزيز السمات (تضخيم التباين الاستراتيجي أو التعبير العاطفي).

المرحلة الأولى: اختيار الطبقة القائم على الإسناد (التحديد السببي الموضعي)

لتحديد أين ومتى تظهر السمات السلوكية، استخدم المؤلفون إسناد الرقعة (Attribution Patching):

• المطالبات التشخيصية: قاموا بإنشاء مطالبات من نوع "الفراغات" (cloze-style) مع إكمالات "متوافقة" (على سبيل المثال، داعمة) و"غير متوافقة" (على سبيل المثال، محايدة/مهملة).
• فرق اللوجيت (Logit Difference): قاموا بحساب فرق اللوجيت ($\Delta \text{logit}$) بين الإكمالات المتوافقة وغير المتوافقة.
• الرقعة (Patching): قاموا باستبدال الحالات الخفية (hidden states) من المرور الأمامي غير المتوافق بالحالات من المرور المتوافق في طبقات ومواضع رموز محددة.
• توليد الخريطة الحرارية: من خلال مراقبة التغير في $\Delta \text{logit}$ بعد عملية الرقعة، قاموا بتوليد خريطة حرارية سببية. يحدد هذا العملية طبقات المحول (Transformer layers) ومواضع الرموز (token positions) التي تؤثر سببياً على السلوك المستهدف.
  • النتيجة: بالنسبة للدعم العاطفي، كانت الطبقة 2 هي المفتاحية؛ وللإفصاح العاطفي، الطبقة 3؛ وللعروض المضادة في التفاوض، الطبقة 2.

المرحلة الثانية: بناء وتطبيق ناقل التوجيه التبايني

بمجرد تحديد موضع التدخل، يقوم الإطار ببناء وتطبيق ناقلات التوجيه:

• اشتقاق الناقل: يتم حساب الفرق في تنشيط الحالات الخفية بين مجموعات من أزواج النصوص التباينية (إيجابي/تعبيري مقابل محايد/غير شخصي).
  $$V_{\text{steer}} = \mu_{\text{positive}} - \mu_{\text{neutral}}$$
• الحقن الموضعي: أثناء الاستدلال، يتم حقن $V_{\text{steer}}$ فقط في آخر $k$ من الرموز (على سبيل المثال، آخر 15 رمزاً) من الاستجابة المولدة عند الطبقة المستهدفة.
• التحجيم (Scaling): يتم تطبيق عامل تحجيم $\alpha$ (يتم ضبطه تجريبياً بين 0.5 و 4.0) لتعديل قوة التدخل.
• التعميم بصفر من الأمثلة (Zero-Shot Generalization): تُطبق الناقلات المشتقة من مهام تشخيصية صغيرة على حوارات أوسع من العالم الحقيقي دون الحاجة لضبط دقيق خاص بالمهمة.

3. الإعداد التجريبي

تم تقييم إطار العمل على مجالين متميزين يتطلبان كفاءات عاطفية مختلفة:

1. الدعم والإفصاح العاطفي: باستخدام مجموعة بيانات BOLT SMS.
   • المهام: تقديم الدعم التعاطفي والإفصاح عن الذات.
   • الإعدادات: دورة واحدة (استجابة فورية) وعدة دورات (الاتساق عبر الوقت).
2. التفاوض الاستراتيجي: باستخدام مجموعة بيانات Craigslist Bargain.
   • المهام: تفاوض المشتري والبائع مع التركيز على العروض المضادة، واللباقة، وإبرام الصفقات.
   • الإعدادات: تفاعلات الدور الواحد وتعدد الدورات.

المقارنات المرجعية (Baselines):

• التوليد غير الموجه: السلوك الافتراضي لنموذج LLaMA 3.1-8B.
• التحفيز بالمطالبات (Prompt Priming): تعليمات النظام (مثل "أنت شخص رحيم...").
• التوجيه العالمي (Global Steering): تطبيق الناقلات عبر جميع الرموز (المنهج القياسي).

النماذج:

• الهدف: LLaMA 3.1-8B (المُوجه).
• الشريك: Mistral-7B-Instruct (سلوك ثابت).

4. النتائج الرئيسية

تُظهر الدراسة أن التوجيه الموضعي الموجه بالإسناد يتفوق على كل من التحفيز بالمطالبات وطرق التوجيه العالمي.

الدعم والإفصاح العاطفي

• التحول الوجداني: أظهرت الاستجابات الموجهة مشاعر إيجابية أعلى بكثير (الفرح، الثقة) وزيادة في استخدام ضمائر المتكلم (مما يشير إلى المشاركة الشخصية).
• مقاييس التعاطف: زيادة كبيرة في الكلمات المفتاحية المتعلقة بالتعاطف (مثل "أسمع"، "أدعم"، "أفهم") والتناغم التواصلي.
• التماسك: على عكس التوجيه العالمي، حافظ النهج الموضعي على الطلاقة ولم يؤدِ إلى تدهور التماسك الدلالي.
• الاتساق في تعدد الدورات: بينما انخفضت أحجام التأثير قليلاً في إعدادات تعدد الدورات مقارنة بالدور الواحد، إلا أن التحولات السلوكية استمرت، مما أظهر قدرة النموذج على الحفاظ على النبرة العاطفية عبر حوارات ممتدة.

استراتيجية التفاوض

• النتائج الاقتصادية: حققت الوكلاء الموجهون معدلات اتفاق أعلى وتحسينات أفضل في الأسعار (صفقات أكثر ملاءمة) مقارنة بالنماذج غير الموجهة.
• الجودة الخطابية: استخدمت الاستجابات الموجهة استراتيجيات لباقة أكثر تطوراً (الطلبات غير المباشرة، التلطف، الامتنان، الاعتذار) وقللت من أسلوب التجاهل.
• الواقعية الاستراتيجية: أنتج النموذج مقترحات لم تكن فقط مفيدة اقتصادياً، بل كانت أيضاً متجذرة في السياق ومتسقة منطقياً.

الأهمية الإحصائية

كانت النتائج ذات دلالة إحصائية ($p < 0.05$) عبر مقاييس متعددة، بما في ذلك قطبية المشاعر، وعدد الكلمات العاطفية، واستراتيجيات اللباقة، حتى بعد تصحيح Benjamini-Hochberg.

5. المساهمات الرئيسية

1. إطار العمل المستهدف للنشاط (STAR): طريقة جديدة تجمع بين إسناد الرقعة (لإيجاد المواضع السببية) وتعديل التنشيط التبايني (لتوجيه السلوك) خصيصاً للسمات العاطفية والاستراتيجية.
2. توصيف الدقة والهدف: تصيغ الورقة المقايضات بين التدخلات العالمية والمحلية، وبين أهداف التصحيح والتعزيز، وتثبت أن التدخل الموضعي (الرموز الأخيرة) يقدم أفضل توازن بين التحكم والتماسك.
3. القابلية للتفسير: من خلال ربط السلوكيات رفيعة المستوى (مثل التعاطف) بطبقات محددة (مثل الطبقة 2) ومواضع الرموز، توفر الطريقة فهماً ميكانيكياً لكيفية توليد النماذج اللغوية الكبيرة للسمات الاجتماعية والعاطفية.
4. التعميم بصفر من الأمثلة: أثبتت أن ناقلات التوجيه المشتقة من مهام تشخيصية صغيرة ومنسقة يمكن أن تتعمم بفعالية على حوارات معقدة من العالم الحقيقي متعدد الدورات دون إعادة تدريب.

6. الأهمية والتوجهات المستقبلية

• الكفاءة: يوفر STAR بديلاً خفيف الوزن للضبط الدقيق الكامل أو RLHF، مما يسمح بالنشر السريع للسلوكيات المتوافقة في سياقات محددة.
• السلامة والثقة: من خلال تمكين التحكم الدقيق في النبرة العاطفية والسلوك الاستراتيجي، يدعم هذا النهج تطوير أنظمة الذكاء الاصطناعي للمجالات عالية المخاطر مثل الصحة النفسية والتفاوض، حيث تعتبر "فجوات القيمة-الفعل" (قول شيء والقيام بآخر) مخاطر حرجة.
• العمل المستقبلي: يقترح المؤلفون استكشاف بناء الناقلات الآلي، واختبارها عبر بنيات نماذج مختلفة، وإجراء تقييمات بشرية أكثر شمولاً لتقدير مدى أصالة التحولات العاطفية المدركة.

في الختام، تثبت الورقة أن هندسة التنشيط، عندما تكون موجهة بالإسناد السببي، يمكنها بفعالية تحويل النماذج اللغوية الكبيرة من نماذج سلبية إلى وكلاء مقنعين وذوي عمق عاطفي قادرين على التعامل مع التفاعلات الاجتماعية المعقدة.