💬 NLP

No Optimal Language Set Exists for Multilingual Instruction Tuning: Insights from a Linguistically-Informed Study

تقيم هذه الورقة بشكل منهجي استراتيجيات اختيار اللغة القائمة على الأسس اللغوية لضبط النماذج اللغوية متعددة اللغات، وتجد أنه لا توجد مجموعة لغات مثالية عالمية، حيث يعتمد الأداء بشكل كبير على مهام ونماذج محددة، مع أن إضافة المزيد من اللغات غالباً ما يؤدي إلى "لعنة تعدد اللغات".

المؤلفون الأصليون: Gürkan Soykan, Gözde Gül Şahin

نُشر 2026-07-28

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Gürkan Soykan, Gözde Gül Şahin

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل عالم الذكاء الاصطناي كأنه مكتبة ضخمة وجائعة. في السنوات الأخيرة، قام العلماء بتعليم هذه الأدمغة الرقمية اتباع التعليمات، ليس فقط بلغة واحدة مثل الإنجليزية، بل بعشرات أو حتى مئات اللغات. يُسمى هذا "الضبط الدقيق للتعليمات متعدد اللغات". فكر في الأمر كتدريب موظف جديد يحتاج للتحدث مع عملاء من كل بلد على وجه الأرض. الهدف هو جعل الموظف ذكيًا بما يكفي لفهم طلب بالفرنسية، والإجابة بالسواحيلية، وشرح نكتة باليابانية، كل ذلك دون أن يصاب بالارتباك.

ومع ذلك، هناك عقبة. المكتبة لديها مساحة رفوف محدودة (قدرة حوسبية) ووقت محدود لتدريب الموظف. إذا حاولت حشر كل لغة في جدول التدريب، فقد يصاب الموظف بالإرهاق ويبدأ في نسيان كيفية التحدث بأي منها بشكل جيد. يُعرف هذا باسم "لعنة تعدد اللغات". وبسبب ذلك، تساءل العديد من الباحثين: هل توجد "وصفة سحرية" لاختيار المجموعة المثالية من اللغات؟ ربما إذا اخترنا لغات موزعة جغرافيًا، أو لغات تبدو مختلفة تمامًا عن بعضها البعض، يمكننا إنشاء موظف فائق الذكاء يعمل بشكل مثالي للجميع، في كل مكان. إنها فكرة مفعمة بالأمل: ابحث عن المزيج المثالي، وستحصل على أفضل ذكاء اصطناعي ممكن.

هذه الورقة البحثية، التي تحمل عنوان "لا توجد مجموعة لغات مثالية للضبط الدقيق متعدد اللغات"، تدخل المختبر لاختبار هذا الأمل تحديدًا. وضع الباحثان، غوركان سويكان وغوزدي غول شاهين، سلسلة من التجارب لمعرفة ما إذا كان بإمكانهما العثور على تلك الوصفة السحرية. لقد أخذا ثلاثة أنواع مختلفة من نماذج الذكاء الاصطناعي (فكر فيها كأنها ثلاثة متدربين مختلفين بأساليب تعلم مختلفة) وحاولا تعليمها باستخدام استراتيجيات متنوعة "مستوحاة لغويًا". كانت هذه الاستراتيجيات تشبه طرقًا مختلفة لاختيار فريق: فريق واحد تم اختياره بناءً على مكان انتشار اللغات على الخريطة (الجغرافيا)، وآخر بناءًا على كيفية بناء اللغات قواعديًا (النمط اللغوي)، وأخرى بناءً على مدى تشابه معانيها أو كيفية تعلمها بواسطة الحواسيب. وقاموا بمقارنة هذه الاختيارات الذكية مقابل اختيار "عشوائي" بسيط، مثل سحب الأسماء من قبعة.

كانت النتائج بمثابة تحول غير متوقع في الحبكة. وجد المؤلفان أنه لا يوجد "فريق واحد أفضل" من اللغات يفوز في كل مرة. الأمر ليس كالعثور على مفتاح عالمي يفتح كل الأبواب. بدلاً من ذلك، كان الخيار الأفضل يعتمد كليًا على نموذج الذكاء الاصطناعي المحدد الذي تقوم بتدريبه وعلى المهمة المحددة التي تطلبها منه. فبالنسبة لنموذج واحد، كان اختيار اللغات بناءً على الجغرافيا رائعًا؛ وبالنسبة لآخر، كان اختيار اللغات بناءً على القواعد أفضل. وفي بعض الأحيان، كانت الاختيارات "الذكية" تؤدي لنتائج أسوأ من مجرد اختيار اللغات عشوائيًا!

كما اكتشفت الدراسة وجود حد صارم. عندما استمروا في إضافة المزيد من اللغات إلى مزيج التدريب، لم يتحسن أداء الذكاء الاصطناعي للأبد. بمجرد وصولهم إلى نقطة معينة —حوالي 13 أو 14 لغة— بدأ الأداء في الانخفاض فعليًا. إنه يشبه محاولة تناول بوفيه مفتوح: الأطباق القليلة الأولى لذيذة، ولكن إذا استمررت في تكديم المزيد من الطعام في طبقك، فستشعر في النهاية بالشبع لدرجة تمنعك من الاستمتاع بأي منها. هذا أكد "لعنة تعدد اللغات": مع وجود وقت تدريب ثابت، فإن إضافة الكثير من اللغات يضر بقدرة الذكاء الاصطناعي على تعلمها جميعًا بشكل جيد.

علاوة على ذلك، وجد الباحثون أن ما ينجح مع نموذج ذكاء اصطناعي واحد قد يكون سيئًا للغاية لنموذج آخر. فالاستراتيجية التي جعلت نموذجًا واحدًا أكثر ذكاءً قد تجعل نموذجًا آخر أقل ذكاءً. كما لاحظوا أن تعليم الذكاء الاصطناعي بلغة واحدة فقط (مثل الفيتنامية) كان في بعض الأحيان بنفس جودة، أو حتى أفضل من، تعليمه بمزيج من لغات عديدة، اعتمادًا على النموذج.

في النهاية، تشير الورقة إلى أن البحث عن "مجموعة لغات مثالية" واحدة هو طريق مسدود. لا يوجد حل واحد يناسب الجميع. يبدو أن النهج الأفضل يتطلب مزيدًا من الحذر: اختيار مجموعة متنوعة من حوالي 10 إلى 15 لغة هو رهان آمن عادةً، ولكن يجب أن تكون مستعدًا لاختبار تركيبات مختلفة لكل نموذج جديد ولكل مهمة جديدة. يحذر المؤلفون من أن مجرد حساب متوسط الدرجات عبر اختبارات مختلفة قد يكون مضللاً، حيث يخفي حقيقة أن استراتيجية ما قد تكون رائعة لوظيفة معينة ولكنها سيئة للغاية لوظيفة أخرى. لذا، بينما لا يمكننا العثور على وصفة سحرية، فإننا نعلم أن كوننا مدركين ومفكرين في كيفية اختيار لغاتنا —ومعرفة متى نتوقف عن إضافة المزيد— هو المفتاح لبناء ذكاء اصطناعي متعدد اللغات أفضل وأكثر فائدة.

ملخص تقني: لا توجد مجموعة لغات مثالية لضبط التعليمات متعدد اللغات

بيان المشكلة

يهدف ضبط التعليمات متعدد اللغات (MIT) إلى تحسين الأداء عبر اللغات للنماذج اللغوية الكبيرة (LLMs)، ولكنه يواجه ثلاثة تحديات رئيسية: لعنة تعدد اللغات (حيث يتدهور الأداء لكل لغة مع تقسيم قدرة النموذج بين لغات أكثر)، وندرة البيانات، والتكاليف الحسابية العالية. تشير فرضية سائدة إلى أن الاختيار الدقيق لمجموعة فرعية متنوعة لغوياً من اللغات من شأنه أن ينتج نماذج متفوقة عالمياً، وتعمم بشكل أفضل عبر المهام واللغات مقارنة بالاختيار العشوائي أو الضبط أحادي اللغة. ومع ذلك، لم تبحث الدراسات السابقة بشكل منهجي فيما إذا كانت استراتيجيات الاختيار المستندة إلى المعرفة اللغوية تؤدي إلى استراتيجية MIT مثالية عالمياً تحت ميزانيات حسابية ثابتة.

المنهجية

يجري المؤلفون تقييماً منهجياً لمختلف استراتيجيات اختيار اللغة مقابل خط أساس عشوائي عبر ثلاث عائلات من النماذج وخمسة معايير قياسية متعددة اللغات.

مجموعة البيانات: تستخدم الدراسة Bactrian-X، وهي مجموعة بيانات تعليمات متوازية متعددة اللغات تحتوي على 3.4 مليون زوج من (التعليمات-الاستجابة) عبر 5 2 لغة.
الإعداد التجريبي:
- التحكم في الميزانية: اتباعاً لمنهج Chen et al. (2023a)، تم تثبيت إجمالي ميزانية التدريب عند 67,000 عينة لكل تجربة. بالنسبة للمجموعات الفرعية المكونة من 14 لغة، يعادل ذلك حوالي 4,786 عينة لكل لغة.
- استراتيجيات الاختيار: يختار المؤلفون مجموعات فرعية مكونة من 14 لغة باستخدام تجميع $k$ $k$ -means ( $k=14$ $k = 14$ ) على فضاءات سمات مختلفة:
  - GEO: المتجهات الجغرافية.
  - TYPO: المتجهات النمطية (Typological).
  - SEM: تضمينات النمطية الدلالية.
  - LEARN: متجهات اللغة المتعلمة.
  - FAM: لغة واحدة لكل عائلة لغوية.
  - RND: الاختيار العشوائي (خط الأساس).
  - ALL: جميع اللغات الـ 52 (تُستخدم لاختبار حدود الميزانية).
- النماذج: يتم ضبط ثلاث عائلات من النماذج للتعليمات باستخدام تقنية LoRA:
  - mGPT-1.3B
  - mT5-XL-3.7B
  - BLOOM (بنسخ 1.7B، 3B، و7B)
- التقييم: يتم تقييم النماذج بنمط "الصفر محاولة" (zero-shot) على خمسة معايير: XNLI, PAVS-X, XCOPA, XStoryCloze, و XWinograd.
- الدقة الإحصائية: يتم تشغيل كل تكوين بثلاث بذور عشوائية (random seeds). يتم تقييم الدلالة عبر اختبارات t المزدوجة، مع قياس حجم التأثير باستخدام معامل Cohen's $d_z$ .

النتائج الرئيسية

1. لا توجد استراتيجية مثالية عالمية

النتيجة المركزية هي أنه لا توجد استراتيجية اختيار لغة واحدة تتفوق باستمرار على غيرها عبر جميع النماذج والمهام.

الأداء يعتمد بشكل كبير على المهمة والنموذج. على سبيل المثال، تتصدر استراتيجية GEO نموذج BLOOM-7B في مهمة XStoryCloze، بينما تحقق TYPO أفضل متوسط لنموذج BLOOM-7B بشكل عام. تحقق FAM أفضل أداء متوسط لنموذج mT5-xl، بينما تتصدر GEO أو TYPO لنموذج mGPT في مهام فهم اللغة الطبيعية (NLU).
التحسينات مقارنة بخط الأساس العشوائي (RND) غالباً ما تكون غير ذات دلالة إحصائية. لوحظت مكاسب معنوية فقط في تركيبات محددة من (النموذج-المهمة) (مثل GEO مقابل RND لنموذج mGPT في XNLI)، لكن هذه النتتائج لم تعمم.
في بعض التكوينات، كان أداء المجموعات الفرعية المستندة إلى المعرفة اللغوية أسوأ بكثير من خط الأساس العشوائي، مما يشير إلى أن الاختيار المستند إلى المعرفة قد يؤدي لنتائج عكسية.

2. عودة ظهور لعنة تعدد اللغات

يؤدي زيادة عدد اللغات بما يتجاوز عتبة معينة إلى تدهور الأداء.

بالنسبة لنموذج BLOOM-7B، يصل الأداء إلى ذروته عند 13–14 لغة وينخفض باستمرار مع زيادة عدد اللغات لتصل إلى 5 2 (إعداد "ALL").
إعداد "ALL" لم يحقق أبداً أفضل متوسط أداء لأي من النموذجين المختبرين، مما يؤكد أنه تحت ميزانية حسابية ثابتة، يكون تعظيم عدد اللغات ضاراً.

3. التعميم المعتمد على النموذج

يختلف التعميم عبر اللغات للغات غير المرئية (اللغات الموجودة في المعايير ولكنها غير موجودة في المجموعة التدريبية) بشكل كبير حسب بنية النموذج.

بينما حسنت المجموعات الفرعية المستندة إلى المعرفة اللغوية الأداء بشكل عام للنموذج الأساسي في mGPT و mT5-xl و BLOOM-3B، إلا أن النتائج تباينت بالنسبة لنماذج BLOOM الأكبر (7B)، حيث تحسن نموذجان فقط من أصل خمسة فوق النموذج الأساسي.
يشير هذا إلى وجود تفاعل غير بسيط بين تكوين مجموعة بيانات ما قبل التدريب واختيار المجموعات الفرعية؛ فالاستراتيجية الفعالة لتوزيع ما قبل تدريب نموذج معين قد تكون ضارة لنموذج آخر.

4. حجم النموذج والمنافسة أحادية اللغة

آثار النطاق (Scale Effects): تتغير ترتيبات الاستراتيجيات مع زيادة حجم النموذج. على سبيل المثال، تتفوق GEO عند مقاييس 3B و 7B، بينما تبدأ FAM بقوة عند 1.7B ثم تتراجع. لا توجد استراتيجية تظل الأفضل بشكل موحد مع زيادة النطاق.
أحادي اللغة مقابل متعدد اللغات: في دراسة حالة عن اللغة الفيتنامية، جاء الضبط أحادي اللغة (67 ألف عينة) في المرتبة الأولى لنموذج mT5 والثانية لنموذج mGPT، محققاً أداءً منافساً لأفضل المجموعات الفرعية متعددة اللغات. وهذا يتحدى الافتراض بأن المجموعات الفرعية متعددة اللغات هي الأفضل دائماً.

5. دور التداخل (Overlap)

تحلل الدراسة التداخل بين مجموعات بيانات ما قبل التدريب، والمجموعات التدريبية الفرعية، ولغات التقييم.

يمتلك BLOOM تداخلاً صغيراً بين مجموعة بيانات ما قبل التدريب ولغات تقييم XNLI (8/15)، وسجلت معظم المجموعات الفربية المستندة إلى المعرفة أداءً أقل بكثير من خط الأساس العشوائي في XNLI لنموذج BLOOM-7B.
يغطي mGPT 14/15 من لغات XNLI في مرحلة ما قبل التدريب، وسجلت المجموعات المستندة إلى المعرفة أداءً أعلى بكثير هناك.
ومع ذلك، فإن التداخل وحده لا يملي النتائج؛ فقد حسنت GEO أداء XStoryCloze بشكل كبير في كلا النموذجين رغم اشتراكهما في عدد قليل من لغات التقييم، مما يشير إلى أن مجموعات لغات المعايير نفسها تتقاطع بشكل ضئيل، مما يجعل المثالية العالمية مستحيلة هيكلياً.

الأهمية والآثار المترتبة

تجادل الورقة بضرورة انتقال المجال بعيداً عن البحث عن مجموعة لغات "مثالية واحدة تناسب الجميع" لضبط التعليمات متعدد اللغات.

تحذير منهجي: إن الإبلاغ عن درجات إجمالية واحدة عبر المهام والنماذج هو أمر مضلل للغاية. فالاستراتيجية التي تبدو متفوقة في الإجمالي قد تؤدي أداءً ضعيفاً جداً في مهام محددة (على سبيل المثال، حققت FAM أفضل متوسط لـ mT-xl ولكن أسوأ درجة في XNLI). يحث المؤلفون المجتمع على الإبلاغ عن تفاصيل كل مهمة وكل نموذج مع فترات الثقة وتجنب التعميم من معايير محدودة.
خلاصة عملية: رغم عدم وجود مثالية عالمية، فإن الاختيار المستند إلى المعرفة اللغوية (خاصة GEO و TYPO) يعد بمثابة خيار افتراضي أكثر أماناً من الاختيار العشوائي، خاصة عند مقاييس النماذج الكبيرة. بالنسبة للممارسين، فإن الفكرة الرئيسية هي استهداف 10–15 لغة متنوعة لغوياً بدلاً من تعظيم عدد اللغات، حيث إن إضافة المزيد من اللغات بعد هذه العتبة يفعل "لعنة تعدد اللغات" تحت الميزانيات الثابتة.
النتائج السلبية كإرشاد: يُعزى غياب الفائز العالمي إلى ثلاثة عوامل متراكمة: عدم تطابق مجموعة بيانات ما قبل التدريب، وقيود التوافق بين المهمة واللغة، وحساسية البذور (seeds). تحذر هذه النتائج من التوصيفات العالمية البسيطة لعمليات تنسيق بيانات MIT وتبرز الحاجة إلى تقييم خاص بكل مهمة ونموذج مع التقارير الإحصائية السليمة.

يخلص المؤلفون إلى أنه بينما يتفوق الاختيار المستند إلى المعرفة اللغوية عموماً على الاختيار العشوائي في المتوسط، فإن تعقيد التفاعلات بين بنية النموذج، وبيانات ما قبل التدريب، ومتطلبات المهام يمنع وجود مجموعة لغات مثالية واحدة لجميع السيناريوهات.