PSK at WMT 2026 MIST: Task-Specialized QLoRA Adapters for Multilingual Summarization and Question Answering
تستخدم مشاركة PSK في مسابقة WMT 2026 MIST نموذج Tiny Aya Global بـ 3.35 مليار معلمة، معززاً بثلاثة محولات QLoRA متخصصة في المهام للتلخيص متعدد اللغات والإجابة على الأسئلة، مستفيدة من بيانات تدريب متنوعة للتفوق على خط الأساس متعدد المهام في التقييمات المحجوزة، مع تقديم تكوينات متعددة لمعالجة نتائج الأسئلة المفتوحة المختلطة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في مجال الذكاء الاصطعي المتطور بسرعة، يحاول الباحثون باستمرار تعليم الحواسيب فهم وتوليد لغة البشر عبر أنحاء العالم. ويتمثل أحد التحديات المركزية في هذا العمل في جعل النماذج قادرة على التعامل مع مهام متنوعة، مثل تلخيص مقال طويل أو الإجابة على سؤال محدد، دون الحاجة إلى عقل حاسوبي ضخم ومنفصل لكل وظيفة. والهدف هو إنشاء أنظمة كفؤة بما يكفي للعمل على الأجهزة القياسية، ولكنها مرنة بما يكفي للتبديل بين لغات مثل الهندية والإنجليزية واليوروبا، وبين مهام مثل كتابة ملخص أو حل لغز. هذا التوازن أمر بالغ الأهمية، لأنه بينما توجد نماذج لغوية قوية، إلا أنها غالباً ما تكون كبيرة جداً بحيث يصعب استخدامها في الحياة اليومية أو لتلبية احتياجات محلية محددة. والسؤال الذي يحرك العمل الأخير هو ما إذا كان يمكن تعليم نموذج واحد أصغر حجماً القيام بأشياء كثيرة بشكل جيد من خلال إلحاق أدوات صغيرة متخصصة به، بدلاً من بناء آلة عملاقة جديدة لكل مشكلة جديدة.
لقد تصدى فريق من الباحثين المستقلين لهذا التحدي مؤخراً من خلال المشاركة في مسابقة دولية كبرى صُممت لاختبار مدى قدرة الآلات على اتباع التعليمات بعشرات اللغات. وقد اعتمد نهجهم على استراتيجية محددة: أخذ نموذج لغوي أساسي وإلحاق ثلاث إضافات متميزة وخفيفة الوزن به. تخيل النموذج الأساسي كمحرك متعدد الاستخدامات ومتعدد اللغات يعرف قواعد ومفردات سبعين لغة مختلفة. بمفرده، يكون هذا المحرك جيداً في المحادثات العامة، ولكنه يعاني عندما يُطلب منه أداء وظائف محددة وهيكلية مثل كتابة ملخص علمي أو إيجاد إجابة مخبأة داخل نص طويل. ولإصلاح ذلك، بنى الباحثون ثلاثة "محولات" (adapters) منفصلة، وهي في الأساس وحدات تدريب صغيرة ومتخصصة. تعلم أحد المحولات كيفية تلخيص الوثائق، وتعلم آخر كيفية الإجابة على الأسئلة بناءً على نص مقدم، بينما تعلم الثالث كيفية الإجابة على الأسئلة المفتوحة من المعرفة العامة.
بدأ الباحثون بنموذج يسمى "Tiny Aya Global"، والذي يحتوي على حوالي 3.35 مليار معلمة (parameter)، وهو مقياس لتعقيده وسعته. وقد تم اختيار هذا الحجم تحديداً لأنه يتوافق مع الحدود الصارمة للمسابقة، والتي تطلبت بقاء الأنظمة تحت عتبة 10 مليارات معلمة. وبدلاً من إعادة تدريب النموذج الضخم بالكامل من الصفر، وهو أمر سيكون بطيئاً ومكلفاً للغاية، استخدموا تقنية تسمى QLoRA. تسمح هذه الطريقة بتجميد النموذج الرئيسي وتدريب المحولات الصغيرة المتخصصة فقط. وقد أعدوا هذه المحولات باستخدام مجموعات بيانات مختلفة؛ فبالنسبة لأداة التلخيص، غدوها مزيجاً من المقالات الإخبارية العامة والأوراق العلمية، مع ربط النصوص الكاملة بالملخصات التي كتبها المؤلفون. أما بالنسبة لأدوات الإجابة على الأسئلة، فقد استخدموا مجموعات بيانات متنوعة تحتوي على أسئلة وأجوبة بلغات عديدة، بما في ذلك بعض الأسئلة التي تتطلب من النموذج ربط المعلومات عبر جمل مختلفة.
وعندما اختبر الفريق نظامهم، وجدوا أن فصل المهام كان يعمل بشكل أفضل بكثير من محاولة تعليم النموذج القيام بكل شيء في وقت واحد. لقد جربوا في البداية محولاً واحداً "متعدد المهام" تم تدريبه على مزيج من جميع البيانات، لكن هذا النهج أنتج نتائج أضعف. وفي المقابل، أظهر النظام ذو المحولات الثلاثة المنفصلة تحسينات واضحة. فالملخص الذي تم تدريبه على النصوص العامة والعلمية أنتج ملخصات كانت أقرب بكثير إلى الأمثلة التي كتبها البشر مقارنة بالنسخة متعددة المهام. وبالمثل، فإن محول الإجابة على الأسئلة المدرب خصيصاً على الأسئلة القائمة على السياق كان أفضل في العثور على الإجابات الصحيحة داخل النص. وأشار الباحثون إلى أن مهمة الإجابة على الأسئلة المفتوحة كانت أكثر عدم استقراراً؛ فبينما كان أحد إصدارات المحول يؤدي بشكل أفضل في درجات الحاسوب، كان الإصدار الآخر أفضل في التعامل مع الأسئلة الأطول والأكثر تعقيداً دون نفاد المساحة أو التكرار.
ولضمان متانة نظامهم، اختبر الباحثون النظام على مجموعة من الأمثلة لم يسبق للنموذج رؤيتها من قبل. وقاسوا النجاح باستخدام عدة طرق معيارية، بما في ذلك مدى مطابقة مخرجات الكمبيوتر للإجابة البشرية كلمة بكلمة ومدى تشابه المعنى العام. وأظهرت النتائج أن نهجهم المتخصص حسن الأداء في غالبية اللغات الأربع والعشرين المختبرة. فبالنسبة للتلخيص، حسن النظام جودة مخرجاته عبر جميع اللغات. وبالنسبة للأسئلة القائمة على السياق، تحسن الأداء في تسع عشرة لغة من أصل خمس وعشرين لغة مختبرة. وظلت الأسئلة المفتوحة هي المنطقة الأكثر صعوبة، حيث تباينت النتائج اعتماداً على طول السؤال وطريقة تقييم الإجابة. وبسبب حالة عدم اليقين هذه، قرر الفريق تقديم ثلاث نسخ مختلفة من نظامهم للمسابقة، تستخدم جميعها نفس أدوات التلخيص والإجابة على السياق القوية، ولكن كل منها يستخدم استراتيجية مختلفة للأسئلة المفتوحة.
تسلط هذه الدراسة الضوء على مسار عملي للمضي قدماً في بناء ذكاء اصطناعي متعدد اللغات وفعال. فمن خلال الحفاظ على أساس واحد مشترك وإضافة أدوات صغيرة مخصصة للمهام، تمكن الباحثون من إنشاء نظام يتفوق على نهج "الحجم الواحد للجميع" دون الحاجة إلى موارد حوسبة هائلة. لقد أثبتوا أنه بالنسبة لمهام مثل تلخيص الأوراق العلمية أو الإجابة على الأسئلة بناءً على نص، فإن التخصص هو المفتاح. ومع ذلك، فقد أقروا أيضاً بأن التوليد مفتوح النهايات يظل تحدياً معقداً حيث لا تتوافق طرق التقييم الآلي دائماً مع الحكم البشري. ويشير العمل إلى أنه بينما قد لا نملك بعد إجابة عالمية مثالية لتوليد الإجابات، يمكننا بناء أدوات متخصصة عالية الفعالية تعمل بشكل جيد ضمن مجالاتها المحددة، مما يوفر طريقة أكثر موثوقية وكفاءة للتفاعل مع التكنولوجيا عبر لغات العالم الكثيرة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.