Tucano 2 Cool: Better Open Source LLMs for Portuguese
تقدم الورقة البحثية "Tucano 2"، وهي مجموعة مفتوحة المصدر بالكامل من النماذج اللغوية الكبيرة ذات المعلمات التي تتراوح بين 0.5 و3.7 مليار، للغة البرتغالية، وتتميز بمجموعات بيانات ووصفات تدريب محسنة تحقق أداءً هو الأفضل في فئته على معايير اللغة، مع توفير موارد شاملة وقابلة لإعادة الإنتاج للمجتمع.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم طالب عبقري كيف يتحدث، ويكتب، ويفكر باللغة البرتغالية. لكن العقدة تكمن في أن معظم أفضل المعلمين والكتب المدرسية في العالم مكتوبة باللغة الإنجليزية، والقليل من المصادر المتاحة للغة البرتغالية إما قديمة جداً، أو باهظة الثمن، أو محجوبة خلف أبواب مغلقة.
هذه الورقة البحثية، "Tucano 2"، تشبه مجموعة من المعلمين المتفانين (من جامعة بون ومشروع Polyglot) الذين قرروا بناء مدرسة مفتوحة المصالمدر خاصة بهم لتعليم اللغة البرتغالية. لم يكتفوا ببناء فصل دراسي فحسب؛ بل بنوا المنهج الدراسي بأكمله، والكتب المدرسية، ونظام التقييم، وأدلة تدريب المعلمين، ثم قدموا كل ذلك مجاناً.
إليك قصة كيف فعلوا ذلك، مقسمة إلى أجزاء بسيطة:
1. المشكلة: "الفجوة اللغوية"
تخيل الإنترنت كمكتبة ضخمة. بالنسبة للغة الإنجليزية، المكتبة تفيض بملايين الكتب عالية الجودة. أما بالنسبة للغة البرتغالية، فالمكتبة أصغر بكثير، والعديد من الكتب غير مرتبة، ومليئة بالأخطاء، أو مكتوبة بطريقة يصعب على الكمبيوتر فهمها.
- الطريقة القديمة: تبني شركات التكنولوجيا الكبرى نماذج "متعددة اللغات" ضخمة (مثل السكين السويسري متعدد الاستخدامات) تحاول التحدث بعشر لغات في وقت واحد. هي جيدة، لكنها ليست "عظيمة" في اللغة البرتغالية لأنها تضطر لتشتيت قدراتها الذهنية بشكل كبير.
- طريقة Tucano: أرادوا بناء متخصص — خبير "برتغالي فقط" يعرف اللغة من الداخل والخارج، دون الحاجة لأن يكون خبيراً في كل شيء.
2. المكونات: "GigaVerbo-v2" (كتاب الطبخ)
لتعليم الكمبيوتر، أنت بحاجة إلى بيانات. أنشأ الفريق مجموعة بيانات ضخمة تسمى GigaVerbo-v2.
- المواد الخام: قاموا بجمع النصوص البرتغالية من الويب، لكن الإنترنت مليء بالرسائل المزعجة والنفايات.
- الفلتر (المصفاة): استخدموا "فلتر ذكي" (مدعوم بذكاء اصطناعي يعمل كحكم) لفرز الكتب الجيدة عن السيئة. بحثوا عن الجودة التعليمية (هل هذا كتاب مدرسي جيد؟) والسمية (هل هذا المحتوى مسيء أو ضار؟).
- الخلطة السرية (البيانات الاصطناعية): أدركوا أن بعض المواضيع (مثل الرياضيات المتقدمة أو البرمجة) كانت مفقودة. لذا، استخدموا نماذج ذكاء اصطناعي قوية أخرى لـ كتابة دروس برتغالية جديدة عالية الجودة لسد تلك الفجوات تحديداً. الأمر يشبه استئجار كاتب شبح لكتابة الفصول المفقودة في كتاب مدرسي.
3. العقل: "زراعة التوكينيزر" (Tokenizer Transplantation)
تخيل أن لديك قاموساً يحتوي على 150,000 كلمة، لكنك تحتاج فقط إلى 50,000 كلمة للتحدث بالبرتغالية بطلاقة. استخدام القاموس الضخم يجعل الكمبيوتر بطيئاً وغير متزن.
- الحيلة: أخذوا نموذج ذكاء اصطناعي قوي ومُدرب مسبقاً (من عائلة Qwen) وأجروا له "عملية زراعة دماغ". استبدلوا قاموسه الضخم والمبعثر بقاموسهم الخاص والفعال للغة البرتغالية.
- النتيجة: احتفظ النموذج بكل الذكاء الذي كان يمتلكه بالفعل، ولكنه أصبح أسرع وأكثر كفاءة في التحدث بالبرتغالية، مثل استبدال حقيبة ظهر ثقيلة وغير مريحة بحقيبة مخصصة وأنيقة ومناسبة تماماً للجسم.
4. التدريب: "النظام الغذائي ثلاثي المراحل"
لم يكتفوا بتغذية النموذج ببيانات عشوائية، بل صمموا "نظاماً غذائياً" (وصفة تدريب) يتكون من ثلاث مراحل:
- الإحماء: تغذيته بمحتوى تعليمي عالي الجودة لبناء أساس قوي.
- الاستقرار: إضافة تنوع أكبر، بما في ذلك البيانات الاصطناعية ومهام الاستنتاج المنطقي.
- الصقل: التركيز بشدة على البيانات البرتغالية الصافية لصقل اللكنة والقواعد اللغوية.
- وضع "التفكير": أنشأوا أيضاً نسخة خاصة من النموذج تتعلم "التفكير قبل التحدث". فعند سؤاله عن مسألة رياضية صعبة، لا يقوم بمجرد التخمين؛ بل يكتب خطوات استنتاجه (مثل إظهار خطوات الحل في حصة الرياضيات) قبل إعطاء الإجابة النهائية.
5. النتائج: هزيمة العمالقة
اختبروا نماذجهم الجديدة (التي تتراوح أحجامها من 0.5 مليار بارامتر إلى 3.7 مليار بارامتر) مقابل نماذج أخرى.
- المفاجأة: على الرغم من أن نماذجهم كانت أصغر من "العمالقة" الضخمة متعددة اللغات، إلا أنها تفوقوا عليها في المهام المتعلقة باللغة البرتغالية.
- لماذا؟ لأنهم كانوا متخصصين. الطبيب المتخصص يعرف عن القلب أكثر مما يعرفه طبيب عام يعرف القليل عن كل شيء.
- نماذج "Instruct" مقابل "Think":
- Instruct: رائعة في اتباع الأوامر، وكتابة الأكواد، وتلخيص النصوص.
- Think: رائعة في حل الألغاز المنطقية المعقدة والرياضيات، وكل ذلك مع التفكير والاستنتاج بالكامل باللغة البرتغالية.
6. الوعد بـ "المصدر المفتوح"
الجزء الأكثر أهمية في هذه الورقة ليس النماذج فحسب، بل هو الشفافية.
- معظم شركات الذكاء الاصطناعي تقول: "ثقوا بنا، نموذجنا جيد"، لكنهم يخفون البيانات والشيفرة البرمجية.
- فريق Tucano قال: "إليكم الوصفة، وإليكم المكونات، وإليكم الكود، وإليكم فاتورة الكهرباء". لقد نشروا كل شيء حتى يتمكن أي شخص، في أي مكان، من التعلم منها، أو تحسينها، أو بناء نسخته الخاصة.
تشبيه الصورة الكبيرة
تخيل عالم الذكاء الاصطناعي كسباق.
- عمالقة التكنولوجيا الكبرى يقودون سيارات فورمولا 1 ضخمة ومكلفة، مصممة للسباق على أي مضمار (أي لغة)، لكنها ثقيلة وبطيئة على الطرق المتعرجة والخاصة باللغة البرتغالية.
- فريق Tucoma بنى دراجة نارية خفيفة الوزن ومصممة خصيصاً. لم يكن لديهم المحرك الأكبر، لكنهم ضبطوا الإطارات، ونظام التعليق، والوقود خصيصاً للطريق البرتغالي.
- النتيجة: على المضمار البرتغالي، تتجاوز الدراجة النارية سيارة الفورمولا 1. ولأنهم شاركوا المخططات، يمكن للجميع الآن بناء دراجاتهم النارية الخاصة.
باخت-صار: تثبت هذه الورقة أنك لا تحتاج إلى مليارات الدولارات لبناء ذكاء اصطناعي رائع للغة معينة. أنت فقط بحاجة إلى بيانات عالية الجودة، وهندسة ذكية، والالتزام بمشاركة عملك مع العالم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.