Cross-Tokenizer On-Policy Distillation via Byte-Prefix Marginalization
تقدم هذه الورقة البحثية طريقة "تجزئة بادئة البايت" (BPM)، وهي طريقة استخلاص معرفة جديدة تعتمد على السياسة الموحدة عبر أجهزة الترميز (cross-tokenizer on-policy distillation)، تعمل على إعادة التعبير عن توزيعات النموذج المعلم عبر مساحة بايت مشتركة للحفاظ على الكتلة الاحتمالية وتحسين أداء النموذج الطالب عبر معايير الرياضيات والبرمجة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً حيث تُبنى عقول ذكاء اصطناعي عملاقة وعبقرية بواسطة مهندسين مختلفين، كل منهم يستخدم لغته الفريدة في التفكير. قد يتحدث أحد المهندسين بجمل طويلة وانسيابية، بينما يقطع آخر أفكاره إلى مقاطع صغيرة وسريعة الإيقاع. هذا هو واقع "نماذج اللغات الكبيرة" (LLMs) الحديثة. إنها ذكية للغاية، لكنها غالباً ما تتحدث لغات "رموز" (tokens) مختلفة. الرمز هو مجرد قطعة من النص — مثل كلمة، أو جزء من كلمة، أو حتى حرف واحد — يستخدمه الكمبيوتر لمعالجة المعلومات.
الآن، تخيل أنك تريد بناء طالب ذكاء اصطناعي أصغر، وأسرع، وأرخص يمكنه التعلم من هؤلاء المعلمين العمالقة. يُسمى هذا "التقطير" (distillation). عادةً، ستجعل الطالب ينسخ إجابات المعلم فحسب. ولكن هنا تكمن المشكلة: إذا كان المعلم والطالب يتحدثان لغات رموز مختلفة، فإن النسخ واللصق المباشر يصبح مستحيلاً. الأمر يشبه محاولة تعليم طالب يتحدث الإنجليزية فقط عبر تسليمه كتاباً مدرسياً مكتوباً بالكامل بلغة من الرموز التعبيرية والرموز. يرى الطالب الرموز، لكنه لا يعرف أي رمز يطابق أي كلمة إنجليزية. إذا حاولت فرض مطابقة، فقد تعلم الطالب بالخطأ أن صورة قطة تعني "تفاحة"، أو والأسوأ من ذلك، قد تلقي بنصف حكمة المعلم بعيداً لأنها لا تتناسب مع قاموس الطالب.
يتناول هذا البحث هذا الصداع تحديداً. أراد الباحثون معرفة: هل يمكننا تعليم طالب ذكاء اصطناعي التعلم من معلم يتحدث لغة "رموز" مختلفة تماماً، دون فقدان أي من عبقرية المعلم أو تعليمه عبثاً عن طريق الخطأ؟
الحل: مترجم "بادئة البايت" (Byte-Prefix)
قدم المؤلفون، وهم فريق من KwaiKAT وجامعة الأكاديمية الصينية للعلوم، طريقة جديدة ذكية تسمى تهميش بادئة البايت (Byte-Prefix Marginalization - BPM). لفهم كيفية عملها، دعونا نترك الرياضيات المعقدة جانباً ونفكر في كيفية رؤية أجهزة الكمبيوتر للنصوص في الواقع.
على الرغم من أن نماذج الذكاء الاصطناعي المختلفة تقطع النص إلى "رموز" (chunks) ذات أحجام مختلفة، إلا أنها جميعاً تتفق على البايتات (bytes) الأساسية. البايتات هي وحدات البناء الصغيرة وغير المرئية للنص — وهي الأصفار والآحاد الخام التي تشكل كل حرف، ومسافة، وعلامة ترقيم. وسواء رأى الذكاء الاصطناعي كلمة "unbelievable" كرمز واحد ضخم، أو قسمها إلى "un" و "bel" و "ievable"، فإنهم جميعاً يتفقون على أن البايتات الخاصة بـ "un" تأتي أولاً، تليها بايتات "bel"، وهكذا.
أدرك المؤلفون أنه بدلاً من محاولة مطابقة الرموز المختلفة والمبعثرة، يمكنهم ترجمة حكمة المعلم إلى "لغة البايت" المشتركة هذه أولاً. إليكم كيف يعمل نظام BPM خطوة بخ بخطوة:
- خريطة البايت: تخيل أن تنبؤ المعلم التالي هو سحابة من الاحتمالات. يقول المعلم: "هناك احتمال بنسبة 30% أن الكلمة التالية هي 'unbelievable'".
- المطابقة الأطول: ينظر مُجزئ الرموز الخاص بالطالب إلى بايتات "unbelievable" ويسأل: "ما هو أطول جزء من قاموسي يتناسب مع بداية هذه البايتات؟" ربما يمتلك الطالب رمزاً لـ "un" ورمزاً آخر لـ "belie".
- النقل: يأخذ نظام BPM احتمال الـ 30% الخاص بـ "unbelievable" من المعلم ويسلمه إلى رمز الطالب "un" (أو "belie"، أيهما يمثل المطابقة الأطول). الأمر يشبه القول: "إذا كان المعلم يعتقد أن 'unbelievable' مرجحة، فيجب أن يعتقد الطالب بالتأكيد أن 'un' مرجحة، لأن 'un' هي الجزء الأول من تلك الكلمة".
- شبكة الأمان: ماذا لو قال المعلم شيئاً لا يمكن لقاموس الطالب حتى أن يبدأ به؟ لا يقوم نظام BPM بمجرد رمي هذا الاحتمال؛ بل يضعه في "سلة متبقية" (residual bucket) خاصة، مما يضمن الحفاظ على 100% من كتلة احتمال المعلم. لا شيء يضيع.
تخلق هذه الطريقة هدفاً مثالياً "محافظاً على الكتلة". فهي تضمن أن يتعلم الطالب بالضبط ما قصده المعلم، حتى لو كانوا يتحدثون لغات مختلفة، طالما أنهم يتفقون على البايتات.
فخ "المساحة البيضاء" والإصلاح
ومع ذلك، اكتشف الباحثون مشكلة غريبة ومراوغة. عندما يكتب المعلم والطالب الأكواد البرمجية، أحياناً يكون "الرمز" التالي مجرد مجموعة من المسافات أو علامات التبويب (الإزاحة). ولأن المجزئات المختلفة تقطع المسافات بشكل مختلف، فقد يقول المعلم: "أنا أضيف ثلاث مسافات"، بينما يرى مُجزئ الطالب أن هذا عبارة عن "رمز مسافة واحد كبير".
إذا حاول الطالب نسخ احتمال رمز المسافة الدقيق للمعلم، فسيصاب بالارتباك. سيبدأ في تعلم "أسلوب التقطيع" الخاص بالمعلم للمسافات بدلاً من المنطق الفعلي للكود. وجد المؤلفون أنه في بعض الحالات، تسبب هذا الارتباك في انهيار كود الطالب تماماً — حيث انخفضت قدرته على كتابة برامج تعمل من 49% إلى نسبة كارثية بلغت 9%.
ولإصلاح ذلك، أضافوا "قناع مساحة بيضاء" (whitespace mask) بسيطاً. إنه يشبه الحكم الذي يقول: "مهلاً، إذا كانت الخطوة التالية هي مجرد مسافات، فلا تحاول نسخ احتمال رمز المسافة الدقيق للمعلم. فقط تجاهل هذا الجزء من الدرس". هذه القاعدة الصغيرة أنقذت الموقف، ومنعت الانهيار وسمحت للطالب بالتركيز على منطق الكود الفعلي.
النتائج: طلاب أذكى، أسرع
اختبر الفريق هذه الطريقة من خلال أخذ ثلاثة معلمين مختلفين من عمالقة الذكاء الاصطناعي (Qwen3-32B، و GLM-Z1-9B، و MiniMax-M2.7) ومحاولة تعليمهم لنموذج طالب واحد أصغر (Qwen3.5-2B). كان لهؤلاء المعلمين لغات رموز مختلفة جداً، مما جعل المهمة صعبة للغاية.
قارنوا طريقة BPM الجديدة بطرق أخرى موجودة للتعامل مع المجزئات المختلفة. وكانت النتائج واضحة:
- درجات أفضل: في ستة اختبارات معيارية صعبة في الرياضيات والبرمجة، تفوق الطلاب المدربون بطريقة BPM باستمرار على الطرق الأخرى. لقد حسنوا متوسط الدرجات بمقدار 3.7 إلى 6.6 نقطة مقارنة بأقوى المحاولات السابقة.
- سد الفجوة: نجحت الطريقة في سد 33.5% إلى 43.9% من فجوة الأداء بين الطالب الصغير والمعلم العملاق. هذه حصة ضخمة من قدرة دماغ المعلم تم نقلها إلى الطالب.
- القوة والمتانة: عملت الطريقة بشكل جيد حتى عندما كان المعلم والطالب مختلفين جداً (مثل معلم MiniMax)، مما أثبت أن نهج "بادئة البايت" هو مترجم عالمي.
لماذا يهم هذا الأمر؟
يشير هذا البحث إلى أننا لسنا بحاجة إلى إجبار جميع نماذج الذكاء الاصطناعي على استخدام نفس القاموس للتعلم من بعضها البعض. من خلال استخدام لغة "البايت" المشتركة كجسر، يمكننا مزج وتوفيق أفضل المعلمين من عائلات مختلفة وتعليمهم لطلاب أكفاء دون فقدان أي معرفة. إنه يشبه إدراك أنه بينما يتحدث الجميع لهجات مختلفة، فإنهم جميعاً يتفقون على الأبجدية. إذا علمت الطالب قراءة الأبجدية أولاً، يمكنك تعليمه أي شيء، بغض النظر عن هوية المعلم.
أظهر المؤلفون أن هذا النهج ليس مجرد فكرة نظرية بل هو أداة عملية تعمل اليوم، مما يساعد في إنشاء نماذج ذكاء اصطناعي أصغر، وأسرع، وأذكى يمكنها حل مشكلات الرياضيات والبرمجة المعقدة دون الحاجة إلى قوة الحوسبة الهائلة لمعلميها العمالقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.