Test-Time Scaling in Reasoning LLMs: Inference Regimes, Evaluation, and Reproducibility

تخيل أنك تحاول حل لغز صعب حقاً، مثل مسألة رياضية معقدة أو لغز منطقي مخادع. لديك صديق فائق الذكاء (نموذج لغوي كبير، أو LLM) يعرف الكثير من الحقائق ولكنه أحياناً يعلق أو يرتكب خطأً سخيفاً عندما يفكر بسرعة كبيرة. في عالم الذكاء الاصطناعي، هناك فكرة متنامية تسمى "توسيع نطاق وقت الاختبار" (test-time scaling). فكر في الأمر كمنح صديقك المزيد من الوقت، أو المزيد من الورق، أو المزيد من الفرص للتفكير قبل أن يعطيك الإجابة النهائية. بدلاً من مجرد طرح السؤال مرة واحدة وأخذ أول إجابة تخطر بباله، قد تطلب منه أن يفكر بصوت عالٍ، أو يحاول حل المسألة بثلاث طرق مختلفة، أو حتى يراجع عمله. السؤال الكبير الذي يطرحه الباحثون هو: هل منح الكمبيوتر المزيد من "وقت التفكير" يجعله أكثر ذكاءً حقاً، أم أنه يجعله يتحدث أكثر فقط؟

لفترة طويلة، كان العلماء يختبرون هذا من خلال السماح لنماذج الذكاء الاصطناعي بتوليد إجابات متعددة واختيار الأفضل من بينها، أو السمابح لها بالبحث عبر مسارات مختلفة للوصول إلى الحل. ولكن هنا تكمن المشكلة، فالجميع يلعب بقواعد مختلفة قليلاً. فبعض الباحثين يسمحون للذكاء الاصطناعي بتجربة 100 إجابة مختلفة واختيار الفائز؛ والبعض الآخر يسمح له بتغيير رأيه في منتصف الجملة؛ والبعض الآخر يتركه يبحث مثل المحقق الذي يبحث عن أدلة. ولأن الجميع يستخدمون "كتيبات قواعد" مختلفة، فقد كان من الصعب جداً المقارنة بين من هو الأفضل فعلياً. الأمر يشبه محاولة مقارنة سرعة سيارة سباق، ودراجة هوائية، ومركبة فضائية بمجرد النظر إلى المسافة التي قطعتها، دون معرفة كم استهلكت من الوقود أو نوع المضمار الذي سلكته. تأتي هذه الورقة البحثية لتقول: "مهلاً لحظة، نحن بحاجة إلى التوقف عن خلط هذه الأمور والبدال على قياسها بشكل صحيح".

إن مؤلفي هذه الورقة، وهم فريق من جامعة كيس ويسترن ريزيرف، يقومون أساساً ببناء "كتيب قواعد" جديد لكيفية اختبار آلات التفكير هذه. ويجادلون بأن "توسيع نطاق وقت الاختبار" ليس شيئاً واحداً، بل هو في الواقع ثلاث استراتيجيات مختلفة تماماً، وعلينا التعامل مع كل منها على حدة. أولاً، هناك طريقة "المسار الواحد" (Single-Track)، حيث يفكر الذكاء الاصطناعي في مسار واحد طويل، وربما يصحح نفسه أثناء المضي قدماً، مثل المتنزه الذي يستمر في السير في نفس المسار ولكنه يتوقف لتصحيح منعطف خاطئ. ثانياً، هناك طريقة "مستوى الأوراق" (Leaf-Level)، حيث يقوم الذكاء الاصطناعي بتوليد مجموعة كاملة من الإجابات النهائية المختلفة تماماً (مثل الخباز الذي يصنع 100 رغيف خبز) ثم يختار الأفضل في النهاية. ثالثاً، هناك طريقة "مستوى البادئة" (Prefix-Level)، وهي تشبه مستكشف الأشجار؛ حيث يتفرع الذكاء الاصطناعي إلى اتجاهات عديدة، ويتحقق من أي الفروع تبدو واعدة، ويقطع النهايات المسدودة قبل أن يكمل الرحلة حتى.

تجد الورقة أن معاملة كل هذه الطرق كشيء واحد هو خطأ. فإذا قلت فقط "لقد استخدمنا المزيد من القدرة الحوسبية"، فلن تعرف كيف تم استخدام هذه القدرة. يوضح المؤلفون أن الطريقة التي يتم بها حساب التكلفة ("الميزانية") والطريقة التي يتم بها اختيار الإجابة النهائية لا تقل أهمية عن النموذج نفسه. على سبيل المثال، اكتشفوا أنه في بعض الأحيان، مجرد توليد الذكاء الاصطناعي لمزيد من الإجابات لا يعني بالضرورة أن الإجابة النهائية التي ستختارها ستكون أفضل. في الواقع، إذا كانت الطريقة المستخدمة لاختيار الفائز معيبة، فإن إضافة المزيد من الإجابات يمكن أن يجعل النتيجة النهائية أسوأ، تماماً مثل وجود مائة شخص يصوتون على فيلم ولكن باستخدام آلة تصويت معطلة تختار الأسوأ.

ولإصلاح هذا الارتباك، لم يكتفِ الفريق بالحديث عن ذلك فحسب، بل قاموا بالعمل الشاق. لقد أنشأوا مكتبة جديدة ضخمة تضم أكثر من مليوني مسار استدلالي (فكر في الأمر كمكتبة عملاقة لكل خطوة اتخذها الذكاء الاصطناعي أثناء حل المشكلات) تغطي الرياضيات والعلوم والألغاز المنطقية. واستخدموا هذه المكتبة لاختبار 27 نموذجاً مختلفاً من نماذج الذكاء الاصطناعي مفتوحة المصدر. وتشير نتائجهم إلى أنه بينما يمكن لمنح الذكاء الاصطناعي المزيد من الوقت للتفكير أن يساعده في العثور على الإجابة الصحيحة في كثير من الأحيان (وهذا ما يسمونه "الاكتشاف" - discovery)، إلا أنه لا يعني دائماً أن الذكاء الاصطناعي سيعرف كيفية اختيار تلك الإجابة الصحيحة من بين المجموعة (وهذا ما يسمونه "الاختيار" - selection). وجدوا أنه بالنسبة لبعض النماذج، ارتفعت فرصة العثور على إجابة صحيحة من حوالي 56% إلى 82% بمجرد السماح لها بالمحاولة مرات أكثر، لكن فرصة أن تكون كل محاولة من تلك المحاولات صحيحة تماماً انخفضت بشكل كبير. وهذا يعني أن الذكاء الاصطناعي يصبح أفضل في العثور على الكنز، ولكن يصبح من الصعب معرفة أي خريطة هي الحقيقية.

كما تؤكد الورقة أنه لا يمكننا فقط النظر إلى النتيجة النهائية والقول بأن المهمة انتهت. لفهم ما إذا كان الذكاء الاصطناعي يصبح أكثر ذكاءً حقاً، نحتاج إلى معرفة بالضبط كيف تم اختباره: ما هي المطالبات (prompts) المستخدمة، وكم عدد المرات التي حاول فيها، وكيف تم اختيار الإجابة النهائية، وحتى التفاصيل الدقيقة لكيفية تشغيل الكمبيوتر. ويجادلون بأنه بدون هذه التفاصيل، فإن مقارنة نماذج الذكاء الاصطناعي المختلفة تشبه مقارنة التفاح بالبرتقال. ومن خلال توفير إطار عمل واضح لكيفية قياس "ميزانيات التفكير" هذه وإصدار مجموعتهم البيانية الضخمة للجميع، يأملون في وقف حالة الارتباك ومساعدة المجال بأكمله على المضي قدماً بنتائج واضحة وعادلة وقابلة للتكرار. باختصار، هم يخبروننا أنه لبناء ذكاء اصطناعي ذكي حقاً، نحتاج إلى التوقف عن التخمين حول كيفية تفكيرهم والبدء في قياس ذلك بمسطرة، وليس بالتخمين.