ملخص تقني: التوجيه عبر اللغات لتوليد اللغة المجازية

بيان المشكلة

تُظهر النماذج اللغوية الكبيرة (LLMs) متعددة اللغات القدرة على توليد لغة مجازية (مثل الاستعارات، والاصطلاحات، والتهكم) عبر لغات متنوعة. ومع ذلك، لا يزال من غير الواضح ما إذا كانت الإشارات العصبية الداخلية التي تدفع هذا السلوك هي إشارات خاصة بلغة معينة أم أنها تحتوي على مكونات قابلة لإعادة الاستخدام وعابرة للغات. ويعد التمييز بين هذين الاحتمالين أمراً بالغ الأهمية لفهم مدى اتساع التمثيلات الدلالية المشتركة في النماذج متعددة اللغات بما يتجاوز المفردات وبنية الجملة السطحية. وتحديداً، يبحث البحث فيما إذا كانت اتجاهات التوجيه المستمدة من الفروق بين التنشيط المجازي والحرفي في لغة واحدة يمكنها فعلياً استحثاث توليد مجازي مماثل في لغة مستهدفة مختلفة دون إعادة تدريب أو ضبط دقيق.

المنهجية

يستخدم المؤلفون التوجيه بالتنشيط (activation steering) كأداة استقصاء قائمة على التدخل لاختبار قابلية نقل التمثيلات المجازية للغة. تتضمن سلسلة التجارب ثلاث مراحل رئيسية:

1. بناء المتجهات:

   • إضافة التنشيط التبايني (CAA): بالنسبة للغة مصدر $g$ وفئة مجازية محددة $c$، يقوم المؤلفون ببناء متجه توجيه $\hat{v}^{(l)}_{g,c}$ عن طريق حساب الفرق المعياري بين متوسط تنشيطات الحالة الخفية للأمثلة المجازية ($D^+_{g,c}$) والأمثلة الحرفية ($D^-_{g}$) عند طبقة محولة محددة $l$.
   • البيانات: تستخدم الدراسة مجموعات متوازنة من ما يصل إلى 500 مثال مجازي و500 تعليق حرفي أحادي اللغة (مثل تعليقات COCO) لكل إعداد لغة-فئة.
   • اللغات والفئات: تغطي التجارب ست لغات (الإنجليزية، الصينية، البنغالية، الإسبانية، الإيطالية، الألمانية) وخمس فئات مجازية (الاصطلاح، الاستعارة، التشبيه، التهكم، السخرية).

2. التدخل:

   • خلال مرحلة التمهيد (prefill) للتوليد، يتم إضافة متجه التوجيه إلى تيار المتبقي (residual stream) عند موضع كل رمز (token) في المحفز: $h^{(l)'}_t = h^{(l)}_t + \alpha \hat{v}^{(l)}_{g,c}$.
   • يتم تثبيت قوة التدخل $\alpha$ عند 1.0.
   • التوجيه أحادي اللغة: تُطبق المتجهات على المحفزات في نفس اللغة التي اشتُقت منها.
   • النقل عبر اللغات بنموذج الصفر (Zero-Shot): تُطبق المتجهات المستمدة من لغة مصدر (مثل الصينية) على محفزات في لغة مستهدفة مختلفة (مثل الإنجليزية) لاختبار قابلية النقل.

3. التدخلات الهندسية:

   • تجميع متوسط اللغة: يقوم المؤلفون بتخليق اتجاه مركزي عابر للغات عن طريق حساب متوسط المتجهات المعيارية من لغات مصدر متعددة (مع تضمين واستبعاد اللغة المستهدفة، وهو ما يُعرف بـ Leave-Target-Out أو LTO).
   • الاستئصال المتبقي (Residual Ablation): لاختبار ما إذا كان هناك جوهر هندسي مشترك يدفع هذا السلوك، يتم رياضياً إزالة المكون الذي يتوافق مع التجميع العابر للغات من المتجه الأصلي للغة المستهدفة (عن طريق الإسقاط خارج المتجه). ثم يتم تقييم أداء هذا المتجه المتبقي.

4. التقييم:

   • معدل الفئة المستهدفة (TCR): نسبة التكملات المولدة التي تظهر الظاهرة المجازية المستهدفة، ويتم تقييمها باستخدام DeepSeek-v4-flash كنموذج لغوي كبير يعمل كحَكَم (LLM-as-a-judge).
   • التماسك (Coherence): مقيء من 0 إلى 4 لتقييم الصلة بالسياق والاتساق المنطقي.
   • التحليل الإحصائي: يتم الإبلاغ عن فروق النسب المئوية المزدوجة مع فترات ثقة بوتستراب بنسبة 95% وقيم McNemar $q$ المعدلة.

المساهمات الرئيسية

يقدم البحث ثلاث مساهمات رئيسية:

1. توجيه أحادي اللغة فعال: في الإعدادات أحادية اللغة، تزيد متجهات التوجيه باستمرار من معدل الفئة المستهدفة (TCR) مقارنة بالنماذج المرجعية غير الموجهة ومتجهات العشوائية. لوحظ هذا التأثير في 74 حالة من أصل 96 إعداداً، مع أعلى مستويات المتانة للصور البلاغية الهيكلية مثل الاستعارة والتشبيه.
2. قابلية النقل عبر اللغات بنموذج الصفر: نجحت متجهات لغة المصدر في توجيه توليد اللغة المستهدفة في 369 حالة من أصل 416 حالة صفرية. ومن الجدير بالذكر أن المتجهات المستمدة من لغات أخرى تفوقت في عدة حالات على أداء المتجهات المستمدة مباشرة من اللغة المستهدفة. تم تحديد الألمانية كهدف متقبل بشكل خاص، بينما أظهرت البنغالية قدرة قوية كمصدر ولكن استقبالاً ضعيفاً.
3. أساس هندسي مشترك للنقل:
   • التجميع: المتجهات المجمعة العابرة للغات (تحديداً متوسط Leave-Target-Out) تضاهي أو تتفوق بشكل منهجي على متجهات التوجيه الأصلية للغة.
   • الاستئصال: يؤدي إزالة المكون المشترك العابر للغات من المتجهات الأصلية (الاستئصال المتبقي) إلى تقليل قدرات التوليد المجازي بشكل حاد. يشير هذا إلى أن التوجيه القابل للنقل يعتمد على مكون تمثيلي مشترك وقابل لإعادة الاستخدام بدلاً من السمات الخاصة باللغة.

النتائج

• الاعتماد على الفئة: تختلف قابلية نقل إشارات التوجيه بشكل كبير حسب الفئة. تُظهر الاستعارة والتشبيه أكثر عمليات النقل متانة عبر اللغات، حيث سجلت الاستعارة متوسط زيادة قدره +17.2 نقطة مئوية عبر المسارات. في المقابل، تُظهر السخرية والتهكم، اللتان تعتمدان بشدة على السياق البراغماتي (التداولي) واللمسات الثقافية، قابلية نقل أضعف وتكون أكثر مقاومة للتوجيه عبر اللغات.
• عدم التماثل: النقل عبر اللغات غير متماثل. فبينما تكون بعض اللغات (مثل الألمانية) متقبلة للغاية لإشارات التوجيه الخارجية، فإن لغات أخرى (مثل البنغالية) تعد أهدافاً سيئة رغم كونها مصادر قوية. يشير هذا إلى أن القدرة على استقبال الإشارة المجازية مقيدة بمتطلبات اللغة المستهدفة.
• الهندسة مقابل الأداء الأصلي: حققت متجهات التجميع (LTO)، التي تم إنشاؤها بالكامل دون بيانات من اللغة المستهدفة، معدلات TCR مماثلة وظيفياً للمتجهات الأصلية في غالبية السيناريوهات (85%–98% من الحالات المختبرة).
• التماسك: لا يتسبب استخدام الهندسة المشتركة العابرة للغات في أي عقوبات إضافية على التماسك. ومع ذلك، فإن استئصال الإشارة المشتركة يؤدي بالنموذج إلى العودة إلى حالته الافتراضية عالية التماسك وغير الموجهة، مما يؤكد أن الفقد في التوليد المجازي ليس بسبب عدم التماسك بل بسبب إزالة إشارة التوجيه المحددة.

الأهمية والادعاءات

يزعم البحث أنه يقدم دليلاً مباشراً على أن النماذج اللغوية الكبيرة متعددة اللغات تنظم القصد المجازي المعقد من خلال إشارة عابرة للغات قابلة لإعادة الاستخدام ولكنها تعتمد على اللغة المستهدفة.

• التمثيل المشترك: تشير النتائج إلى أن الآليات الداخلية لتوليد أنواع معينة من اللغة المجازية (خاصة الهيكلية منها مثل الاستعارة) ليست معزولة في لغات محددة، بل ترتكز في جوهر هندسي مشترك ولغوي محايد داخل فضاء تمثيل النموذج.
• الاعتماد السلوكي: تؤسس الدراسة أنه بينما الإشارة قابلة لإعادة الاستخدام، فإن فعالية تطبيقها تعتمد كلياً على القدرة التوليدية للغة المستهدفة. يمكن للنموذج تنظيم القصد المجازي مفاهيمياً عبر اللغات، لكن النجاح في إسقاط هذا القصد مقيد بالنماذج المسبقة التي تعلمتها اللغة المستهدفة.
• الآثار على التحكم: تُظهر هذه النتائج أن التوجيه عبر اللغات هو آلية قابلة للتطبيق للتحكم في السلوكيات دقيقة التفاصيل في النماذج متعددة اللغات، مما يوفر أساساً هيكلياً للمواءمة والتحكم يتجاوز حدود اللغات الفردية.

يحافظ المؤلفون على موقف متواضع، مشيرين إلى أن نتائجهم تعكس أنماطاً سلوكية يمكن ملاحظتها في ظل توافر البيانات الحالي، وأن الفصل الكامل بين التمثيلات الخاصة بالفئة وبين تباين البناء يظل اتجاهاً مهماً للعمل المستقبلي. كما يسلطون الضوء على القيود المتعلقة بندرة مجموعات البيانات المتوازية لبعض الفئات (مثل التشبيه) والتحديات المتعلقة بتقييم الفئات البراغماتية مثل السخرية في سياق إكمال الجمل.