No One-Size-Fits-All: Building Systems For Translation to Bashkir, Kazakh, Kyrgyz, Tatar and Chuvash Using Synthetic And Original Data

ملخص تقني: لا يوجد حل واحد يناسب الجميع: بناء أنظمة للترجمة إلى الباشقية، الكازاخستانية، القيرغيزية، التتارية، والتشوفاشية

بيان المشكلة
تتناول الورقة تحدي الترجمة الآلية (MT) للغات التركية ذات الموارد المنخفضة، مع التركيز بشكل خاص على خمسة أزواج لغوية هي: الروسية-الباشقية، الروسية-الكازاخستانية، الروسية-القيرغيزية، الإنجليزية-التتارية، والإنجليزية-التشوفاشية. يشير المؤلفون إلى أن البيانات المتوازية عالية الجودة نادرة لهذه اللغات، مما يستلزم استقصاء مناهج متعددة لتحسين جودة الترجمة في ظل ظروف ندرة البيانات.

المنهجية
استخدم المؤلفون استراتيجية هجينة تجمع بين تعزيز البيانات، والضبط الدقيق كفء المعلمات، والتحفيز المعزز بالاسترجاع.

• بناء وتعزيز البيانات:

  • البيانات الأصلية: جمعت الدراسة المتون المتوازية الموجودة من مصادر مختلفة (مثل فريق NLLB، وPlotnikov وAntonov، وZhang et al) للأزواج اللغوية الخمسة.
  • البيانات الاصطناعية: لمعالجة ندرة البيانات، قام المؤلفون بتعزيز مجموعات التدريب باستخدام Yandex.Translate. قاموا بترجمة العبارات الإنجليزية إلى الروسية (عند الضرورة) ثم إلى اللغات التركية المستهدفة. استخدمت هذه العملية ميزات "ترجمة المستندات" على كتل كبيرة (50 ألف إلى 200 ألف عينة).
  • التصفية: تمت تصفية البيانات الاصطناعية بدقة لإزالة أي عبارات تظهر في مجموعات الاختبار.
  • الوسم الزائف (Pseudolabeling): استخدم المؤلفون الوسم الزائف للبيانات، حيث وجدوا أن التدريب متعدد المهام بدون هذه العملية أعطى نتائج أدنى في التجارب الأولية.
  • مجموعة البيانات النهائية: بعد التعزيز، وصل حجم بيانات التدريب إلى حوالي 2.46 مليون عينة لكل زوج لغوي. تم إصدار مجموعة فرعية محددة، YaTURK-7lang، تحتوي على بيانات مترجمة إلى ست لغات.

• النهج 1: الضبط الدقيق باستخدام LoRA (الكازاخستانية والباشقية)

  • النموذج الأساسي: اختار المؤلفون facebook/nllb-200-distilled-600M كنموذج أساسي.
  • الترميز (Tokenization): تمت إضافة بادئات مخصصة للأزواج اللغوية (مثل <prefix_rus_bash>) إلى المرمز لتوجيه النموذج.
  • استراتيجية التدريب: تم استكشاف نمطين:
    1. الضبط الدقيق متعدد المهام على جميع اللغات لدورة واحدة (epoch)، يليه تدريب محول LoRA للغات محددة.
    2. الضبط الدقيق أحادي المهمة.
  • تكوين LoRA: استخدم المؤلفون DORA (التكيف منخفض الرتبة مع تفكيك الأوزان)، وهو امتداد لـ LoRA. شملت المعلمات الفائقة الرئيسية $r=64$، $\alpha=64$، وإسقاط LoRA بنسبة 0.2، وتهيئة أوزان PiSSA. شملت الوحدات المستهدفة طبقات الإسقاط ($q, v, k, out$) وطبقات التغذية الأمامية ($fc1, fc2$).
  • التحسين: استخدم التدريب مُحسن paged AdamW-8bit مع مجدول معدل تعلم خطي (معدل البداية $5e^{-4}$) لـ LoRA، وجدول جيب التمام (cosine) للضبط الدقيق الكامل.

• النهج 2: التحفيز المعزز بالاسترجاع (التشوفاشية، التتارية، القيرغيزية)

  • المبرر: كان أداء ضبط NLLB على لغة التشوفاش سيئًا، ويرجع ذلك على الأرجب إلى أن النموذج الأساسي لم يتم تدريبه مسبقًا على التشوفاشية. وبالمثل، كان أداء Zero-shot للإنجليزية-التشوفاشية ضعيفًا.
  • نظام الاسترجاع: تم بناء فهرس ANNOY باستخدام عبارات اللغة المصدر من مجموعة البيانات. بالنسبة للاستعلامات الجديدة، يقوم النظام باسترجاع أكثر عبارات المصدر تشابهًا وترجماتها لتعمل كأمثلة داخل السياق.
  • التضمينات (Embeddings): تم استخدام thenlper/gte-small للإنجليزية-التشوفاش، بينما تم استخدام sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 للأزواج الأخرى.
  • التحفيز عبر النماذج اللغوية الكبيرة (LLM Prompting): تم اختبار عدة نماذج عبر واجهة برمجة التطبيقات (DeepSeek-R1, DeepSeek-N1, MiMoV2, Gemma3, DeepSeek-V3.2). وجهت التعليمات النموذج لترجمة عبارة بناءً على أمثلة مشابهة مسترجعة، مع قيود صارمة لإرجاع الترجمة فقط.
  • التكوين: بالنسبة للإنجليزية-التشوفاش، تم استخدام نافذة سياق كبيرة (TOP_N=7000). بالنسبة للإنجليزية-التتارية، أثبت التحفيز بنمط Zero-shot باستخدام DeepSeek-V3.2 تفوقه على الطرق القائمة على الاسترجاع.

• التجميع (Stacking):

  • حاول المؤلفون اختيار أفضل ترجمة من بين عدة مشاركات باستخدام التشابه الدلالي (مشفر LaBSE) والترشيح القائم على الحيرة (perplexity). ومع ذلك، أدت هذه الطرق عمومًا إلى تدهور طفيف في درجات التحقق مقارنة بأفضل مشاركة فردية.

النتائج الرئيسية
أفاد المؤلفون بدرجات chrF++ من لوحة صدارة المسابقة:

• الكازاخستانية: حقق النهج القائم على LoRA أعلى درجة وهي 49.71.
• الباشقية: حقق النهج القائم على LoRA درجة 46.94.
• التشوفاشية: حقق تحفيز DeepSeek-V3.2 بالأمثلة المسترجعة درجة 39.47، متفوقًا بشكل كبير على نموذج NLLB المضبوط دقيقًا (11.70) ونماذج Zero-shot المرجعية.
• التتارية: حقق نهج Zero-shot أو النهج القائم على الاسترجاع درجة 41.6. ومن الجدير بالذكر أن نتيجة Zero-shot من DeepSeek-V3.2 البالغة (43.66) كانت لا تُقهر من قبل طرق الاسترجاع.
• القيرغيزية: وصل نهج Zero-shot إلى 45.6، متفوقًا على التحفيز القائم على الاسترجاع الذي تسبب في انخفاض الأداء عند توسيع نوافذ السياق.

المساهمات والأهمية
تتمثل المساهمة الأساسية للورقة في إثبات أن استراتيجية "الحل الواحد للجميع" غير فعالة للغات التركية ذات الموارد المنخفضة؛ وبدلاً من ذلك، يعتمد النهج الأمثل على توافر الموارد وخصائص اللغة المستهدفة.

• الاستراتيجيات المعتمدة على الموارد: بالنسبة للغات ذات الموارد الجيدة نسبيًا (الباشقية، الكازاخستانية)، ثبت أن الضبط الدقيق للنماذج المدربة مسبقًا (NLLB) على البيانات الاصطناعية باستخدام LoRA/DORA هو الأكثر فعالية.
• التكيف مع الندرة: بالنسبة للغات شديدة الندرة مثل التشوفاشية، حيث يفتقر النموذج الأساسي للتدريب المسبق، أدى التحفيز المعزز بالاسترجاع مع النماذج اللغوية الكبيرة إلى تحسينات كبيرة في الجودة.
• حدود الـ Zero-Shot: بالنسبة للغات ذات أداء جيد في الـ Zero-shot (القيرغيزية، التتارية)، لم تتفوق آليات الاسترجاع المعقدة على التحفيز البسيط بنمط Zero-shot باستخدام نماذج متقدمة مثل DeepSeek-V3.2.
• الإصدار المفتوح: أصدر المؤلفون مجموعة بيانات YaTURK-7lang وأوزان النماذج للغات الكازاخستانية والباشقية (بما في ذلك النموذج متعدد المهام والمحولات LoRA) لتسهيل المزيد من الأبحاث.

الخلاصة
تخلص الدراسة إلى أنه بينما يعد الضبط الدقيق على البيانات الاصطناعية المسار الأكثر واعدة للغات التي تمتلك بعض الموارد، فإن التحفيز بالأمثلة المسترجعة يعد بديلًا قابلًا للتطبيق للغات التي تعاني من ندرة شديدة في البيانات. يقر المؤلفون بأن الأبحاث المستقبلية يمكن أن تستكشف الضبط الدقيق لنماذج مدربة مسبقًا خصيصًا على اللغات منخفضة الموارد، لكن عملهم الحالي يضع خط أساس للتعامل مع هذه الأزواج اللغوية التركية المحددة باستخدام الأدوات والبيانات المتاحة.