Refining Over Resampling: Test-Time Self-Correction for LLM Reasoning
تقترح هذه الورقة إطار عمل "العرض-العمق" (breadth-depth) الخالي من الموثّق، والذي يعزز استدلال النماذج اللغوية الكبيرة عبر استخدام الحوسبة أثناء وقت الاختبار لتنقيح مسارات عشوائية متنوعة بشكل تكراري من خلال النقد الذاتي والتصحيح الذاتي، محققاً أداءً فائقاً عبر العديد من الاختبارات المعيارية الرياضية مقارنة بطرق أخذ العينات التقليدية وطرق الاختيار القائمة على الموثّق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول حل لغز رياضي صعب للغاية، مثل أحجية تتطلب سلسلة طويلة من المنطق لحلها. لديك صديق ذكي جداً (نموذج لغوي كبير، أو LLM) يمكنه التحدث معك. عادةً، عندما تسأل هذا الصديق سؤالاً، فإنه يعطيك إجابة واحدة فوراً. لكن في بعض الأحيان، قد يتعثر في الخطوة الأولى ويستمر في ارتكاب نفس الخطأ طوال الطريق حتى النهاية.
لإصلاح ذلك، جرب العلماء حيلتين رئيسيتين. الأولى هي "إعادة أخذ العينات" (resampling): وهي أن تطلب من صديقك تجربة اللغز عشر مرات واختيار الإجابة التي تظهر أكثر من غيرها. الأمر يشبه سؤال عشرة أشخاص مختلفين لحل نفس الأحجية ومعرفة من يتفقون فيما بينهم. الحيلة الثانية هي استخدام "المُحقِّق" (verifier): وهو معلم منفصل وصارم جداً يقوم بتقييم كل إجابة ليرى أيها الأفضل. لكن المشكلة تكمن في أنه عند طلب عشر إجابات، قد تحصل فقط على عشر نسخ مختلفة قليلاً من نفس الفكرة الخاطئة، والاعتماد على معلم يعني أن عليك الوثوق في أن هذا المعلم ليس مرتبكاً أو منحازاً.
هذه الورقة البحثية، بعنوان "التحسين فوق إعادة أخذ العينات" (Refining Over Resampling)، تقترح طريقة ثالثة. بدلاً من مجرد طلب المزيد من التخمينات أو استئجار معلم، يقترح المؤلفون تعليم الذكاء الاصطناٍ ليكون محرراً لنفسه. إنهم يتركون الذكاء الاصطناعي يولد بضعة أفكار أولية مختلفة، ثم لكل فكرة، يسمحون للذكاء الاصطناعي بالتوقف، ونقد عمله الخاص، وإيجاد أخطائه، وإصلاحها قبل تقديم الإجابة النهائية. الأمر يشبه إعطاء صديقك فرصة ثانية للتفكير، ليس عبر الطلب منه أن يبدأ من جديد، بل بقول: "مهلاً، لقد ارتكبت خطأً صغيراً في الخطوة الثالثة؛ دعنا نصلح ذلك ونواصل العمل".
المشكلة: "غرفة الصدى" و"أرضية الهلوسة"
لاحظ الباحثون شيئاً غريباً يحدث عندما يطلبون من نماذج الذكاء الاصطناٍ حل المسائل الرياضية عبر مجرد توليد المزيد والمزيد من الإجابات. أطلقوا على ذلك "تشبع التنوع" (diversity saturation). تخيل أنك تسأل مجموعة من الأصدقاء لتخمين عدد حبات الفاصوليا في جرة. إذا سألت عشرة أشخاص، فقد تحصل على عشر تخمينات مختلفة. ولكن إذا سألت مئة شخص، فقد تجد أن تسعين منهم يخمنون أرقاماً قريبة جداً من بعضها البعض لأنهم جميعاً رأوا نفس الدليل "الواضح" (ولكن الخاطئ). كان الذكاء الاصطناعي يفعل الشيء نفسه: كان يستمر في توليد تنويعات لنفس المسارات الخاطئة القليلة، مما يهدر قدرته الذهنية في التكرار بدلاً من إيجاد حلول جديدة.
علاوة على ذلك، كان هناك "أرضية الهلوسة" (hallucination floor). حتى لو كان الذكاء الاصطناعي يعرف الإجابة الصحيحة في أعماقه، فقد يتعثر بالصدفة في خطأ حسابي صغير أو زلة منطقية أثناء كتابتها. وبما أن كل تخمين كان يتم بشكل مستقل، فإن كل تخمين كان معرضاً بنفس القدر للتعثر في ذلك النوع من الأخطاء. لم يساعد طلب المزيد من التخمينات لأن ذلك لم يصلح "التعثر"، بل أعطاك فقط المزيد من حالات التعثر.
الحل: الاتساع والعمق
ابتكر المؤلفون استراتيجية يسمونها "تحسين الاتساع والعمق" (Breadth-Depth Refinement). فكر في الأمر كاستكشاف متاهة.
الاتساع (Breadth) يتعلق بمد الشبكة على نطاق واسع. بدلاً من السير في مسار واحد، يولد الذكاء الاصطناعي عدة مسارات بداية مختلفة (تسمى "rollouts"). هذا يضمن عدم بقائهم جميعاً عالقين في نفس "غرفة الصدى" للأفكار الخاطئة.
العمق (Depth) هو السحر الحقيقي. بمجرد حصولهم على هذه المسارات المختلفة، لا يكتفون باختيار الأفضل منها فوراً. بدلاً من ذلك، يأخذون كل مسار ويمررونه عبر حلقة من التحسين الذاتي.
- المولد (The Generator): يكتب الذكاء الاصطناعي الجزء التالي من الحل.
- الناقد (The Critic): يتوقف الذكاء الاصطناعي ويعمل كمحرر صارم، يقرأ ما كتبه للتو ويقول: "مهلاً، هذا الحساب لا يستقيم"، أو "هذا المنطق غير منطقي".
- المصحح (The Corrector): يستمع الذكاء الاصطناعي للناقد ويعيد كتابة ذلك الجزء المحدد لإصلاح الخطأ.
يقومون بهذه الحلقة عدة مرات (تسمى "العمق") لكل مسار. أخيراً، يأخذون جميع الإجابات المصقولة والمصححة ذاتياً، ويتركونها تصوت. الإجابة التي تفوز بالتصويت هي الإجابة النهائية.
ما وجدوه
اختبر الفريق هذه الفكرة على بعض المسابقات الرياضية الصعبة، مثل AIME (الامتحان الأمريكي المتقدم في الرياضيات) ومجموعة بيانات MATH500. وقارنوا طريقتهم بالطرق القديمة: مجرد التخمين مرة واحدة (Greedy)، أو التخمين ثماني مرات والتصويت (Majority Voting)، أو التخمين ثماني مرات وترك "معلم" ذكاء اصطناٍ يختار الفائز (Verifier-based Best-of-N).
كانت نتائجهم واعدة للغاية. تفوقت طريقتهم باستمرار على الطرق الأخرى. على سبيل المثال، عندما استخدموا نموذج ذكاء اصطناٍ أصغر وأقل قوة يسمى Qwen2.5-1.5B، حصلت طريقة "المعلم" القديمة على حوالي 29.6% من الأسئلة الصحيحة في MATH500. ولكن مع طريقة "التحرير الذاتي" الجديدة، قفزت دقة نفس النموذج إلى 58.0%. هذا يقرب من الضعف! وفي اختبار AMC (مسابقة الرياضيات الأمريكية)، انتقل نفس النموذج الصغير من 25.0% إلى 32.5%.
وحتى مع النماذج الأكبر والأذكى، حسنت طريقتهم النتائج، وإن كانت المكاسب أقل قليلاً لأن النماذج الذكية كانت تقوم بعمل جيد بالفعل بمفردها.
لماذا تنجح (ولما لماذا هي مختلفة)
الرؤية الجوهرية هنا هي أن الذكاء الاصطناٍ لا يحتاج إلى معلم خارجي ليخبره بما هو خطأ؛ إذ يمكنه تعلم رصد أخطائه الخاصة إذا أعطيته الهيكل المناسب. تشير الورقة إلى أن خطوة "الناقد" حاسمة؛ فعندما أزالوا الجزء الذي يقوم فيه الذكاء الاصطناٍ بنقد عمله صراحةً، انخفضت الدرجات. اتضح أن مجرد طلب "المحاولة مرة أخرى" من الذكاء الاصطناٍ ليس كافياً؛ بل يجب إخباره بما يجب إصلاحه.
أيضاً، هذه الطريقة "لا تتطلب تدريباً" (training-free). لم يضطروا لتعليم الذكاء الاصطناٍ أي شيء جديد أو عرض آلاف الأمثلة عليه لكيفية تصحيح نفسه. لقد استخدموا فقط القدرات الذهنية الموجودة لدى الذكاء الاصطناٍ بطريقة أذكى أثناء الاختبار.
المقايضة
هناك تكلفة، رغم ذلك. تتطلب هذه الطريقة المزيد من قوة الكمبيوتر والوقت. ولأن الذكاء الاصطناٍ يجب أن يولد، وينتقد، ويعيد الكتابة عدة مرات لكل مسألة، فإنه يستخدم المزيد من "الحوسبة" (المصطلح التقني لقوة دماغ الكمبيوتر) مقارنة بمجرد التخمين مرة واحدة. ومع ذلك، فقد حسب المؤلفون أن التحسن في الدقة يستحق مقدار العمل الإضافي الذي يقوم به، خاصة بالنسبة للنماذج الصغيرة التي تعاني للحصول على الإجابة الصحيحة من المحاولة الأولى.
في النهاية، تشير الورقة إلى أنه عندما نريد من الذكاء الاصطناٍ أن يكون أكثر ذكاءً، فلا ينبغي لنا فقط أن نطلب منه أن يحاول بجهد أكبر أو نطلب المزيد من التخمينات. يجب أن نمنحه الوقت والهيكل ليفكر، ويراجع عمله، ويصلح أخطاءه الخاصة قبل أن يسلمنا الإجابة النهائية. إنه تحول من مبدأ "الكثرة أفضل" إلى "الجودة أفضل".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.