Data Repetition Beats Data Scaling in Long-CoT Supervised Fine-Tuning
تُثبت هذه الورقة أنه، خلافاً للحدس السائد، فإن الضبط الدقيق الخاضع للإشراف على بيانات تسلسل الأفكار يحقق أداءً استدلالياً فائقاً من خلال التدريب المتكرر على مجموعات بيانات أصغر حتى يتم الوصول إلى مرحلة الحفظ الكامل، بدلاً من التوسع في حجم مجموعة البيانات لدورة تدريبية واحدة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم طالب عبقري لكنه مشتت الذهن كيفية حل الألغاز الصعبة للغاية، مثل المسائل الرياضية المعقدة أو الأسئلة العلمية العميقة. في عالم الذكاء الاصطناي، هذا الطالب هو "نموذج لغوي"، وهو برنامج كمبيوتر يتعلم من خلال قراءة النصوص. ولجعل هذه النماذج جيدة في التفكير المنطقي، يستخدم العلماء عملية تسمى "الضبط الدقيق الخاضع للإشراف" (SFT). فكر في هذا الأمر كأنك تعطي الطالب مجموعة من الحلول النموذجية المكتوبة بواسطة معلم بارع. يقرأ الطالب هذه الأمثلة ويحاول تقليد عملية التفكير، خطوة بخوة، حتى يتمكن من حل مسائل مماثلة بمفرده.
لفترة طويلة، كانت القاعدة الذهبية في تعلم الآلة هي "الأكثر هو الأفضل". والمنطق وراء ذلك بسيط: إذا كنت تريد للطالب أن يتعلم جيداً، فعليك إعطاؤه مكتبة ضخمة من الكتب الفريدة. فكلما زادت الأمثلة المختلفة التي يراها، زادت قدرته على التعميم في مواقف جديدة. الأمر يشبه الاعتقاد بأن قراءة 10,000 قصة مختلفة دائماً أفضل من قراءة نفس الـ 100 قصة مراراً وتكراراً. ولكن ماذا لو كانت هذه القاعدة خاطئة؟ ماذا لو كان السر في هذا النوع المحدد من تدريب "التفكير المنطقي" ليس في امتلاك مكتبة أكبر، بل في فهم أعمق لمكتبة أصغر؟ هذا هو السؤال الذي تتناوله ورقة بحثية جديدة من مؤتمر COLM 2026، والتي تتحدى افتراضاتنا الأساسية حول كيفية تعلم الذكاء الاصطناعي للتفكير.
قرر الباحثون وراء هذه الدراسة اختبار قاعدة "الأكثر هو الأفضل" عبر إجراء سلسلة من التجارب المنضبطة. أخذوا نموذج ذكاء اصطناعي قياسي ودربوه على بيانات "سلسلة الأفكر" (Chain-of-Thought) — وهي مسارات تفكير مفصلة وطويلة حيث يتعلم النموذج التفكير في المشكلة قبل الإجابة. وضعوا ميزانية صارمة: مقدار ثابت من "الجهد الحوسبي" (مثل عدد محدد من الساعات المسموح للطالب بالدراسة فيها). ثم قارنوا بين استراتيجيتين. الاستراتيجية (أ) كانت إعطاء الطالب كومة ضخمة من الأمثلة الفريدة (51,200 عينة) ولكن السماح له بقراءة الكومة بأكملها مرة واحدة فقط. أما الاستراتيجية (ب) فكانت إعطاء الطالب كومة صغيرة من الأمثلة (لا تتجاوز 200 أو 400 عينة) ولكن السماح له بقراءة هذه الكومة الصغيرة نفسها مرات عديدة، تصل إلى 128 مرة.
كانت النتائج مفاجئة ومنافية للمنطق. وجدت الورقة البحثية أن الطالب الذي قرأ الكومة الصغيرة مراراً وتكراراً (الاستراتيجية ب) أصبح أفضل بكثير في حل المشكلات الجديدة والصعبة من الطالب الذي هرع عبر المكتبة الضخمة لمرة واحدة فقط. في الاختبارات الصعبة مثل مسابقات AIME الرياضية واختبار GPQA العلمي، تفوق النموذج الذي تدرب على 400 عينة فقط لـ 128 حقبة (epoch) على النموذج الذي تدرب على 51,200 عينة لحقبة واحدة فقط بفارق هائل — حيث تحسنت الدقة بنسبة تتراوح بين 12 إلى 26 نقطة مئوية. يبدو الأمر كما لو أن الطالب الذي حفظ بعض القصص الرئيسية بدقة مثالية يمكنه حل الألغاز الجديدة بشكل أفضل من الطالب الذي تصفح آلاف الكتب بسرعة.
استكشفت الورقة البحثية أيضاً لماذا يحدث هذا وما هي حدوده. اكتشفوا أن التحسن لم يأتِ من تعلم حقائق جديدة، بل من "حفظ" النموذج لهيكل التفكير. ومع تكرار النموذج للبيانات الصغيرة، وصل في النهاية إلى نقطة يمكنه فيها التنبؤ بالكلمة التالية في أمثلة التدريب بدقة شبه مثالية (100%). وبمجرد أن وصل النموذج إلى حالة "الحفظ الكامل" لبيانات التدريب، توقف أداؤه في الاختبارات الجديدة عن التحسن واستقر. وهذا يشير إلى أنه بالنسبة لهذا النوع المحدد من التدريب، فإن الهدف ليس رؤية أكبر عدد ممكن من الأمثلة المختلفة، بل استيعاب نمط التفكير حتى يصبح طبيعة ثانية.
ومن المثير للاهتمام، تحقق الباحثون مما إذا كان هذا "التكرار" قد تسبب في جعل النموذج ينسى كل ما عرفه سابقاً (وهي مشكلة تسمى "النسيان الكارثي"). ووجدوا أن تكرار البيانات الصغيرة تسبب في نسيان أقل مما حدث عند قراءة المجموعة الضخمة لمرة واحدة. يبدو أنه من خلال الممارسة العميقة لهيكل التفكير، أصبح النموذج أكثر ثقة في منطقه الخاص، مما ساعده على الالتزام بالمهمة دون فقدان معرفته العامة.
ومع ذلك، فإن المؤلفين حذرون من اعتبار هذا "حلاً سحرياً" لكل شيء. فقد استبعدوا صراحة فكرة أن هذا يعمل مع كل أنواع البيانات؛ فعلى سبيل المثال، إذا كان المعلم الذي يقدم الأمثلة ضعيفاً أو كانت الأمثلة خاطئة، فإن الفوائد تتغير. كما أشاروا إلى أنه بينما تعد "ميزة التكرار" قوية، فإن السبب الدقيق لكون حفظ بيانات التدريب يساعد في التعميم لا يزال لغزاً. هم يقترحون أن النموذج قد يكون يطلق العنان لقدرات كامنة لديه بالفعل، بدلاً من تعلم شيء جديد تماماً.
باختًا، تشير هذه الورقة البحثية إلى أنه لتعليم الذكاء الاصطناي التفكير المنطقي، قد نضيع وقتنا في محاولة إيجاد مجموعات بيانات أكبر وأكبر. بدلاً من ذلك، قد نحصل على نتائج أفضل من خلال أخذ مجموعة صغيرة وعالية الجودة من أمثلة التفكير المنطقي وترك النموذج يدرسها حتى يعرفها من الداخل والخارج. يقترح المؤلفون قاعدة عملية جديدة: استمر في التدريب على مجموعة البيانات الصغيرة حتى يتمكن النموذج من التنبؤ بنص التدريب بشكل مثالي، ثم توقف. وبينما لم يشرحوا تماماً "السبب" وراء هذه الظاهرة، فقد أظهروا أنه في بعض الأحيان، في عالم الذكاء الاصطناي، تكون قراءة نفس الصفحة 100 مرة أكثر قوة من تصفح 100 صفحة مختلفة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.