← أحدث الأبحاث
💬 NLP

SimpleOPD: Simple Tokenizer-Agnostic On-Policy Distillation for Long-Context Reasoning

تقدم الورقة البحثية SimpleOPD، وهو إطار عمل للتقطير في السياسة (on-policy distillation) غير مرتبط بنوع الـ tokenizer، يعمل على محاذاة الامتدادات النصية المشتركة ويستخدم فقدان KL مرجعي للطالب لتقطير قدرات الاستدلال البرهاني ذات السياق الطويل بفعالية من المعلمين الأقوياء إلى الطلاب ذوي السياق القصير، مما يحقق مكاسب أداء كبيرة في الاختبارات المرجعية الرياضية والعلمية.

المؤلفون الأصليون: Haonan He, Haodi Lei, Yun Luo, Haoran Zhang, Shunkai Zhang, Yizhuo Li, Shengji Tang, Zhilin Wang, Runzhe Zhan, Lei Bai, Ganqu Cui, Fangchen Yu, Yafu Li, Peng Ye, Ning Ding, Yu Cheng

نُشر 2026-08-17
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Haonan He, Haodi Lei, Yun Luo, Haoran Zhang, Shunkai Zhang, Yizhuo Li, Shengji Tang, Zhilin Wang, Runzhe Zhan, Lei Bai, Ganqu Cui, Fangchen Yu, Yafu Li, Peng Ye, Ning Ding, Yu Cheng

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم بروفيسور عبقري ومسهب في الكلام كيف يشرح فكرة معقدة لطالب سريع البديهة لا يملك سوى دفتر ملاحظات صغير جداً. هذا هو عالم الذكاء الاصطناعي، وتحديداً مجال "نماذج اللغات الكبيرة" (LLMs). هذه النماذج هي برامج حاسوبية مدربة على فهم وتوليد اللغة البشرية. أحياناً، يكون لدينا نموذج "معلم" ذكي للغاية في حل المشكلات الصعبة، مثل البراهين الرياضية، لكنه يفكر في جمل ضخمة ومتشعبة. ثم لدينا نموذج "طالب" أصغر حجماً، وأسرع، وذاكرته أقصر. الهدف هو نقل ذكاء المعلم إلى الطالب.

لفترة طويلة، حاول العلماء القيام بذلك من خلال جعل المعلم يكتب الإجابات ويقوم الطالب ببساطة بنسخها. لكن هذا يشبه مطالبة طالب بحفظ قاموس دون فهم الكلمات؛ فهذا لا يعلمه دائماً كيف يفكر. لقد غيرت طريقة أحدث وأذكى تسمى "التقطير في السياسة المتبعة" (On-Policy Distillation - OPD) قواعد اللعبة. فبدلاً من مجرد النسخ، يحاول الطالب حل مشكلة ما، بينما يراقب المعلم عملية تفكير الطالب في الوقت الفعلي، ويقدم تصحيحات وتوجيهات عند كل خطوة من خطواته. الأمر يشبه مدرباً يقف بجانب رياضي، يصحح له وضعية جسمه أثناء الجري، بدلاً من مجرد عرض فيديو لركض مثالي له لاحقاً. ومع ذلك، هناك عقبة: إذا كان المعلم والطالب يتحدثان "لغات" مختلفة (أي يستخدمان طرقاً مختلفة لتقسيم الكلمات إلى أجزاء، تسمى "المجزئات" أو الـ tokenizers)، أو إذا كان المعلم معتاداً على كتابة الروايات بينما لا يملك الطالب مساحة سوى لتغريدة، فإن عملية التدريب قد تسوء. قد يصاب الطالب بالارتباك، أو يبدأ في الثرثرة بلا نهاية، أو ينهار لأن التعليمات لا تتناسب مع مساحته.

تعالج هذه الورقة البحثية، التي تحمل عنوان SimpleOPD، هذا الموقف الفوضوي تحديداً. أراد الباحثون أخذ نموذج معلم فائق الذكاء وذو سياق طويل (يُدعى SU-01) يتفوق في البراهن الرياضية، وتعليم نماذج طلابية أصغر، حتى تلك التي تستخدم "لغات" داخلية (مجزئات) مختلفة تماماً، ولديها حدود ذاكرة أقصر بكثير. لقد اكتشفوا أن مجرد ترك المعلم يدرب الطالب غالباً ما يؤدي إلى نتائج عكسية. فقد كان الطالب يصاب بالارتباك، ويبدأ في كتابة استجابات تطول بشكل لا يمكن السيطرة عليه (انفجار في الطول)، وفي النهاية ينفد منه المساحة، مما يؤدي إلى قطع إجاباته قبل اكتمالها.

ولحل هذه المشكلة، ابتكر الفريق نهجاً ذكياً "غير مرتبط بالمجزئ" (tokenizer-agnostic). فبدلاً من إجبار المعلم والطالب على الاتفاق على أي جزء بالضبط من الكلمة ينظرون إليه، اتفقوا على النظر إلى النص الفعلي الموجود على الصفحة. فإذا قال المعلم "math" وقال الطالب "mat" و "h"، فقد أدركوا أن هذه مجرد طرق مختلفة لكتابة نفس الصوت. لقد قاموا بمواءمة التدريس بناءً على النص المشترك، متجاهلين الاختلافات التقنية في كيفية تقطيع الحواسيب للكلمات. لكنهم لم يتوقفوا عند هذا الحد؛ فمن أجل منع الطلاب من الثرثرة، قدموا شبكتي أمان. أولاً، أخبروا المعلم أن يتوقف عن إلحاحه على الطالب بشأن متى يتوقف عن الكلام (تجاهل رموز التوقف المحددة)، حتى لا يرتبك الطالب حول موعد الانتهاء. ثان، أضافوا "فحص واقع" لطيف (KL loss) يذكر الطالب بالبقاء قريباً من ذاته الأصلية والمنطقية، مما يمنعه من الانجراف بعيداً نحو حلقات مفرغة ولا نهائية.

كانت النتائج مبهرة. لم تكتفِ النماذج الطلابية باستخدام هذه الطريقة بالنسخ فحسب، بل تعلمت التفكير والتحليل. على سبيل المثال، شهد أحد النماذج الطلابية، وهو Intern-S2-Preview، قفزة في درجته في اختبار برهان رياضي صعب (ProofBench) بمقدار 22.8 نقطة، حيث ارتفع من 21.70 إلى 44.50 في التجارب الأساسية. وفي إعداد تقييمي محدد باستخدام Gemini-2.5-Pro كحكم، أظهر النموذج مكسباً أكبر، حيث ارتفع من 34.0 إلى 55.2. كان هذا التحسن كبيراً لدرجة أنه تجاوز أداء نماذج أخرى قوية جداً ومغلقة المصدر مثل Gemini-2.5-Pro. تشير الورقة البحثية إلى أن هذه التقنية تعمل جيداً ليس فقط في الرياضيات، بل تساعد أيضاً الطلاب على تعميم مهاراتهم الجديدة إلى المسائل العلمية التي لم يروها من قبل. باختصار، أثبت SimpleOPD أنه يمكنك تعليم عقل صغير قصير الذاكرة كيف يفكر مثل عبقري ضخم ومسهب في الكلام، حتى لو كانوا يتحدثون لغات تقنية مختلفة، طالما أنك تمنحهم مساحة نصية مشتركة وبعض القواعد لإبقائهم من الاستمرار في الكلام للأبد.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💬 cs.CL →