Nanbeige4.2-3B: Unlocking Agentic Capabilities in a Compact Mode
تقدم الورقة البحثية Nanbeige4.2-3B، وهو نموذج وكيل عام مدمج بـ 3 مليارات معلمة تم تدريبه مسبقاً على 28 تريليون رمز باستخدام بنية المحول الحلقي (Looped Transformer) وتدريب متقدم على التعلم المعزز (RL)، والذي يتفوق بشكل كبير على نماذج أكبر مثل Qwen3.5-9B وGemma4-12B عبر مختلف اختبارات الوكلاء مع الحفاظ على قدرات استدلال قوية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً تكون فيه الحواسيب مثل مكتبات ضخمة وذكية للغاية. لفترة طويلة، كانت الطريقة الوحيدة للحصول على إجابة جيدة حقاً من هذه المكتبات هي جعلها أكبر فأكبر، عبر حشوها بالمزيد والمزيد من الكتب (البيانات) والمزيد والمزيد من الأرفف (المعلمات/Parameters). كانت الفكرة بسيطة: إذا أردت عبقرياً، فأنت بحاجة إلى دماغ ضخم. ولكن ماذا لو كان بإمكانك بناء عبقري صغير بحجم الجيب؟ هذا هو السؤال الكبير في مجال الذكاء الاصطناعي حالياً: هل يمكننا صنع نماذج ذكاء اصطناعي صغيرة وفعالة تكون بارعة في حل المشكلات المعقدة تماماً مثل العمالقة الضخمة التي تستهلك الكثير من الطاقة؟
لفهم التحدي، فكر في نموذج الذكاء الاصطناعي كطالب. الطالب "الاستنتاجي" (Reasoning) جيد في الرياضيات والألغاز المنطقية، بينما الطالب "الوكيل" (Agentic) جيد في القيام بالأشياء فعلياً—مثل استخدام الآلة الحاسبة، أو البحث في الإنترنت، أو كتابة تقرير. عادةً، يكون الطلاب الصغار بارعين في شيء واحد لكنهم سيئون جداً في الآخر. قد يكونون عباقرة في الرياضيات لكنهم لا يستطيعون استخدام الكمبيوتر، أو قد يكونون جيدين في الضغط على الأزرار لكنهم لا يستطيعون فهم المنطق الكامن وراء المهمة. الهدف من هذا البحث هو معرفة ما إذا كان بإمكاننا تدريب طالب صغير واحد ليكون سيداً في كل من المنطق والعمل، دون الحاجة إلى دماغ ضخم للقيام بذلك.
إليك Nanbeige4.2-3B، وهو نموذج جديد من مختبر Nanbeige LLM يحاول حل هذا اللغز. فكر في هذا النموذج كـ "وكيل عام مدمج"—دماغ صغير بـ 3 مليارات معلمة، يرفض أن يكون محدوداً بحجمه. اكتشف الباحثون أنك لست بحاجة لجعل النموذج أكبر لجعله أكثر ذكاءً؛ بل تحتاج فقط لتعليمه كيف يستخدم دماغه بكفاءة أكبر.
السر الخفي: الدماغ "الحلقي" (Looped Brain)
الخدعة الأولى التي يستخدمها Nanbeige4.2-3B هي حيلة معمارية ذكية تسمى المحول الحلقي (Looped Transformer). تخيل نموذج الذكاء الاصطناعي القياسي كخط تجميع في مصنع يتكون من 30 محطة. تمر قطعة من البيانات (مثل سؤال) عبر المحطة 1، ثم 2، ثم 3، وصولاً إلى المحطة 30، ثم تنتهي العملية. لجعل المصنع أكثر ذكاءً، تقوم عادةً بإضافة المزيد من المحطات، مما يجعل المصنع ضخماً ومكلفاً.
ومع ذلك، قرر Nanbeige إبقاء المصنع صغيراً ولكن جعل العمال يعملون بجهد أكبر. بدلاً من إضافة محطات جديدة، قاموا ببناء "حلقة". بعد أن تمر البيانات عبر المحطات الثلاثين مرة واحدة، يتم إرسالها مرة أخرى إلى البداية لتمر عبر نفس المحطات الثلاثين للمرة الثانية. الأمر يشبه طالباً يقرأ فقرة صعبة، ثم يعيد قراءتها ليلتقط التفاصيل التي فاتته في المرة الأولى. تسمح هذه "الحلقة" للنموذج بمعالجة المعلومات بعمق أكبر دون إضافة أي أجزاء جديدة إلى الدماغ. وقد وجد البحث أن تدريب النموذج من الصفر باستخدام هذه الحلقة (بدلاً من مجرد إضافة حلقة إلى نموذج موجود بالفعل) كان هو المفتاح لجعل الأمر ينجح.
تدريب العبقري الصغير
بمجرد بناء الدماغ، كان عليهم تعليمه. لم يكتفِ الباحثون بتغذية النموذج بحقائق عشوائية؛ بل أنشأوا معسكراً تدريبياً صارماً يتكون من ثلاث مراحل متميزة، تماماً مثل جدول تدريب فريق رياضي.
المرحلة 1: التأسيس (ما قبل التدريب - Pre-training)
قبل تعلم أداء المهام، قرأ النموذج مكتبة ضخمة مكونة من 28 تريليون توكن (الـ "توكن" هو قطعة من النص، مثل كلمة أو جزء من كلمة). لقد قاموا بضبط قائمة القراءة هذه خصيصاً لتشمل الكثير من الرياضيات والبرمجة والعلوم، لضمان امتلاك النموذج لعمود فقري منطقي قوي.
المرحلة 2: تمارين الممارسة (الضبط الدقيق الخاضع للإشراف - Supervised Fine-Tuning)
بعد ذلك، علموا النموذج كيفية القيام بالأشياء فعلياً. أنشأوا مجموعة ضخمة من "المسارات" (Trajectories)—وهي سجلات خطوة بخطوة لكيفية حل المشكلات. لم تكن هذه مجرد أسئلة بسيطة؛ بل كانت سيناريوهات معقدة مثل إصلاح برنامج كمبيوتر معطل، أو تنظيم مكتب فوضوي، أو استخدام مجموعة من الأدوات المختلفة للعثور على معلومات.
- الاستراتيجية: بدأوا بمشكلات منطقية قصيرة (سياق 64K) وانتقلوا تدريجياً إلى مهام أطول وأكثر تعقيداً (تصل إلى 256K توكن).
- الفلتر (المصفاة): لم يقبلوا أي إجابة فحسب. إذا ارتكب النموذج خطأ في منتصف مهمة طويلة، فقد علموه كيفية التعافي. استخدموا "قناع الفقدان" (Loss Mask) ليقولوا للنموذج: "مهلاً، لقد أخطأت في الخطوة 3، لكن لا تنسَ ما حدث هناك حتى تتمكن من إصلاحه في الخطوة 4". هذا علّم النموذج أن يكون مرناً، وليس مثالياً فحسب.
المرحة 3: صافرة المدرب (التعلم التعزيزي - Reinforcement Learning)
أخيراً، استخدموا تقنية تسمى التعلم التعزيزي (RL) لصقل سلوك النموذج. هذا يشبه مدرباً يراقب لاعباً ويعطي نقاطاً للحركات الجيدة ويخصم نقاطاً للحركات السيئة.
- منع الثرثرة: لاحظوا أن النموذج أحياناً يعلق في حلقات مفرغة، ويكرر نفسه أو يتحدث للأبد. قاموا بتدريبه على التوقف عند انتهاء المهمة، مما جعل إجاباته أقوى وأكثر كفاءة.
- "التحكم في الطول": بالنسبة لمشكلات الرياضيات الصعبة، تركوا للنموذج وقتاً طويلاً للتفكير كما يقتضي الأمر. ولكن بالنسبة للمشكلات الأسهل، قاموا بمعاقبته إذا استغرق وقتاً طويلاً. هذا أجبر النموذج على أن يكون موجزاً عندما يستطيع، وشاملاً عندما يتطلب الأمر ذلك.
- مكافآت الأداء: منحوا النموذج نقاطاً إضافية لاستخدام الأدوات بشكل صحيح، وخصموا منه النقاط عند تكرار نفس الخطأ مرتين. ساعد هذا في استقرار أدائه في المهام الطويلة والمعقدة.
النتائج: صغير ولكن قوي
إذاً، هل يعمل هذا النموذج الصغير ذو الـ 3 مليارات معلمة حقاً؟ تشير النتائج إلى أنه قوي بشكل مفاجئ. عند اختباره مقابل نماذج أكبر بكثير، لم يكتفِ Nanbeige4.2-3B بمجرد الصمود؛ بل تفوق عليها في كثير من الأحيان.
- هزيمة العمالقة: في الاختبارات التي تقيس مدى قدرة النموذج على العمل كمساعد شخصي (التعامل مع المهام المكتبية، استخدام الأدوات، والبرمجة)، تفوق Nanbeige4.2-3B على نماذج تمتلك 9 مليارات و12 مليار معلمة. على سبيل المثال، في اختبار SWE-bench Verified (اختبار لإصلاح أخطاء البرمجيات)، سجل 63.6%، متفوقاً على نموذج Qwen3.5 الذي يمتلك 9 مليارات معلمة (53.1%)، وعلى نموذج Gemma4 الذي يمتلك 12 مليار معلمة (44.2%).
- قوة الاستنتاج: لم يضحِّ بقوة دماغه بسبب حجمه. في اختبارات الرياضيات والعلوم الصعبة مثل GPQA-Diamond، سجل 87.4%، وهي نسبة أعلى من النماذج الأكبر.
- الاستخدام في العالم الحقيقي: عند وضعه في إعداد "مساعد شخصي" حقيقي يسمى OpenClaw، تعامل مع المهام اليومية، وسير العمل المكتبي، والبحث العميق بشكل أفضل من النماذج الأكبر، مما يثبت أنه ليس مجرد تجربة مخبرية بل أداة عملية.
ماذا يعني هذا؟
تجادل الورقة البحثية صراحةً ضد فكرة أنه يجب عليك جعل النماذج أكبر لجعلها أكثر ذكاءً. وهي تشير إلى أنه مع البنية الصحيحة (الحلقة)، والبيانات الصحيحة (28 تريليون توكن من المزيج عالي الجودة)، وطريقة التدريب الصحيحة (التعلم التعزيزي المرحلي)، يمكن لنموذج صغير أن يحقق قدرات "وكيلة" (Agentic) كان يُعتقد سابقاً أنها تتطلب أدمغة ضخمة.
ومع ذلك، يلاحظ المؤلفون بحذر أن هذا إنجاز خاص بهذا النموذج وهذه البنية. هم لا يدعون أن هذا يحل جميع مشاكل الذكاء الاصطناعي للأبد. بدلاً من ذلك، يقترحون أن هذا النهج يفتح باباً جديداً: يمكننا الآن بناء مساعدين ذكاء اصطناعي مدمجين وفعالين يعملون محلياً على أجهزة الكمبيوتر الشخصية، قادرين على التعامل مع وظائف متعددة الخطوات ومعقدة دون الحاجة إلى كمبيوتر خارق في السحابة. المستقبل، كما يقترحون، قد لا يتعلق ببناء أدمغة أكبر، بل بتعليم الأدمغة الأصغر كيف تفكر في حلقات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.