Cross-Preference Learning for Sentence-Level and Context-Aware Machine Translation

إليك ملخص تقني مفصل لورقة البحث بعنوان "تعلم التفضيل المتقاطع للترجمة الآلية على مستوى الجملة والواعية بالسياق" (Cross-Preference Learning for Sentence-Level and Context-Aware Machine Translation).

1. بيان المشكلة

تعمل أنظمة الترجمة الآلية (MT) الحالية عادةً تحت نمطين متميزين: الترجمة على مستوى الجملة (Sent) (باستخدام الجملة المصدر فقط) والترجمة الواعية بالسياق (Ctx) (باستخدام الجملة المصدر بالإضافة إلى السياق السابق أو اللاحق).

• المشكلة الجوهرية: على الرغم من أن الترجمة الواعية بالسياق متفوقة نظرياً، إلا أن الأدلة التجريبية تظهر أنها لا تتفوق باستمرار على الترجمة على مستوى الجملة. فالإشارات السياقية مفيدة بشكل غير متساوٍ؛ فبالنسبة لبعض الجمل، يحسن السياق الجودة، بينما بالنسبة لأخرى، قد يؤدي السياق إلى إدخال ضوضاء، أو تكرار، أو حتى تدهور الأداء.
• قصور الطرق الحالية: تتعامل أهداف التدريب القياسية (مثل تقدير الاحتمال الأقصى MLE) أو طرق تحسين التفضيل الحالية (مثل DPO، CPO، SimPO) مع ظروف المدخلات كقيم ثابتة. فهي تفترض ضمنياً أن "زيادة السياق هي الأفضل دائماً" أو تعمل على تحسين شرط واحد، وتفشل في نمذجة متى وكيف* يجب استخدام السياق بشكل صريح. ونتيجة لذلك، تفتقر النماذج إلى القدرة على التكيف للتبديل بين هذين النمطين أو الاستفادة من نقاط القوة لكل منهما بفعالية.

2. المنهجية: تعلم التفضيل المتقاطع (CPL)

يقترح المؤلفون تعلم التفضيل المتقاطع (CPL)، وهو إطار عمل تدريبي يوحد الترجمة على مستوى الجملة والترجمة الواعية بالسياق ضمن نموذج واحد من خلال نمذجة علاقات التفضيل بينهما بشكل صريح.

أ. ظروف المدخلات

يتم تدريب النموذج للتعامل مع تكوينين للمدخلات يتشاركان في نفس المعلمات ($\theta$):

1. على مستوى الجملة: المدخل $x$ (الجملة المصدر).
2. الواعي بالسياق: المدخل $(x, c)$ (الجملة المصدر + السياق).

ب. بناء التفضيلات

لكل حالة مصدر، يولد النموذج ترجمات مرشحة لكلا الشرطين. يتم بناء أزواج التفضيل باستخدام مقاييس تلقائية (متوسط COMET على مستوى الجملة وCOMET على مستوى المستند):

• أزواج داخل الشرط الواحد (Intra-Condition Pairs): ضمن شرط واحد (على سبيل المثال، مقارنة مخرجات واعية بالسياق)، يتم اختيار زوج "مفضل" ($y^+$) وآخر "غير مفضل" ($y^-$).
• أزواج عبر الشروط (Cross-Condition Pairs): هذه هي المساهمة المبتكرة. بالنسبة لمصدر معين $x$، يتم تحديد أفضل ترجمة من بين جميع المرشحين (من كلا نمطي Sent و Ctx) باعتبارها المخرج "الفائز" ($y^+_w$). والمخرج الآخر من الشرط الآخر هو المخرج "الخاسر" ($y_l$).
  • يتم تشكيل نوعين من الأزواج عبر الشروط: $(y^+_w, y^+_l)$ و $(y^+_w, y^-_l)$.
  • هذا يجبر النموذج على تعلم أن مخرج الشرط الفائز هو الأفضل بغض النظر عما إذا كان ناتجاً عن مدخل يعتمد على الجملة فقط أو مدخل غني بالسياق.

ج. هدف CPL

تجمع دالة الخسارة الإجمالية بين مكونين:

1. خسارة داخل الشرط ($L_{intra}$): تطبيق تحسين التفضيل التبايني (CPO) القياسي بشكل مستقل على أزواج التفضيل الخاصة بمستوى الجملة والواعية بالسياق.
2. خسارة عبر الشروط ($L_{cross}$): نسخة معدلة من CPO (تسمى Cross-CPO) تقارن بين الترجمات المولدة تحت ظروف مدخلات مختلفة. وهي تشجع النموذج على تخصيص احتمالية أعلى لمخرج الشرط الفائز مقارنة بمخرج الشرط الخاسر.

$$L_{CPL} = L_{intra} + L_{cross}$$

الميزة التقنية الرئيسية: يعمل CPL بالكامل على مستوى هدف التدريب. فهو لا يتطلب أي تغييرات هيكلية في النموذج اللغوي الكبير (LLM) الأساسي، ويمكن تطبيقه على أي نظام ترجمة يتشارك في المعلمات.

3. المساهمات الرئيسية

1. إطار عمل موحد: يوسع تحسين التفضيل ليدعم بشكل مشترك الترجمة على مستوى الجملة والترجمة الواعية بالسياق، مما يعالج تباين فائدة السياق.
2. تحسين التفضيل عبر الشروط: يقدم آلية لنمذجة التفاعلات بين ظروف المدخلات المختلفة بشكل صريح، مما يسمح للنموذج بتعلم بنية تفضيل مشتركة والتكيف في استخدام السياق.
3. استقلالية الهيكل: يحسن الأداء دون تعديل بنية النموذج، مما يجعله قابلاً للتطبيق على مختلف النماذج اللغوية الكبيرة سابقة التدريب.
4. المتانة: يثبت أن النموذج يتعلم استخدام السياق بشكل انتقائي، مما يحسن الجودة عندما يكون السياق مفيداً ويظل متيناً عندما يكون السياق مشوشاً.

4. النتائج التجريبية

تم تقييم النهج على ستة اتجاهات ترجمة (من الإنجليزية إلى الألمانية، الإسبانية، الفرنسية، الإيطالية، الهولندية، والروسية) باستخدام ثلاثة نماذج أساسية: Qwen3-4B، وQwen3-8B، وLlama-3-8B-Instruct.

• مكاسب الأداء: تفوق CPL باستمرار على جميع النماذج المرجعية، بما في ذلك:
  • النماذج التي تم ضبطها بدقة قياسية (على مستوى الجملة، والواعية بالسياق).
  • النماذج التي تم ضبطها بشكل مشترك (Sent+Ctx).
  • نماذج تحسين التفضيل المدربة على شروط فردية (Sent-Level CPO، Ctx-Aware CPO).
  • النتيجة: حقق CPL تحسينات كبيرة في درجات COMET (على سبيل المثال، متوسط زيادة قدرها +1.10 لنموذج Qwen3-4B) عبر كل من المدخلات على مستوى الجملة والمدخلات الواعية بالسياق.
• التكيف مع السياق:
  • في الجمل التي صُنفت فيها "ضرورة السياق عالية"، تفوقت الترجمة باستخدام مدخلات CPL الواعية بالسياق بشكل كبير على الترجمة على مستوى الجملة.
  • في الجمل ذات السياق "المشوش/العشوائي"، ظل أداء CPL مستقراً ومماثلاً تقريباً للترجمة على مستوى الجملة، مما يثبت أنه لا يعتمد على السياق بشكل أعمى.
• مقاييس الجودة: بعيداً عن COMET، أظهر CPL تحسينات في تماسك الخطاب، والأمانة (مقاسة بـ ALTI+)، والطلاقة (مقاسة بـ GPT-as-Judge).
• دراسات الاستئصال (Ablation Studies): أدى حذف أي من خسارة داخل الشرط أو خسارة عبر الشروط إلى تراجع الأداء، مما أكد ضرورة وجود كلا المكونين. كما وُجد أن خسارة عبر الشروط كانت حاسمة لاستقرار قدرة النموذج على التعامل مع فائدة السياق المتغيرة.

5. الأهمية

• حل "مفارقة السياق": تعالج الورقة المشكلة طويلة الأمد حيث تفشل الترجمة الواعية بالسياق في التفوق باستمرار على الترجمة على مستوى الجملة. يوفر CPL طريقة مبدئية لتعليم النماذج أن تكون "متكيفة مع السياق" بدلاً من أن تكون "معتمدة على السياق".
• الكفاءة: من خلال تجنب التغييرات الهيكلية والاستفادة من النماذج اللغوية الكبيرة الموجودة عبر هدف تدريب جديد، يوفر CPL مساراً فعالاً من حيث التكلفة لترجمة قوية على مستوى المستند.
• القدرة على التعميم: لا يقتقتصر إطار العمل على الترجمة فحسب؛ بل يمكن تطبيق مفهوم تعلم التفضيل عبر الشروط على مهام معالجة اللغات الطبيعية الأخرى التي تتضمن وسائط مدخلات أو سياقات متعددة ذات فائدة متفاوتة.

في الختام، نجح تعلم التفضيل المتقاطع في مواءمة سلوك الترجمة عبر ظروف المدخلات المختلفة، مما مكن نموذجاً واحداً من تحديد ما إذا كان سيعتمد على السياق أو لا بشكل ديناميكي، مما أدى إلى جودة ترجمة وحالة من المتانة هي الأفضل في مجالها.