Thinking Hard, Not Smart: Reasoning Models Fail to Ration Test-Time Compute Across Questions
تقدم هذه الورقة إطار تقييم يحاكي نمط الامتحانات، يكشف أن نماذج الاستدلال الحالية تفشل في تخصيص ميزانية حوسبة وقت الاختبار المشتركة بشكل استراتيجي عبر أسئلة متعددة، بل تتصرف كحلّالات تسلسلية جشعة تعطي الأولوية لترتيب العرض على حساب صعوبة السؤال أو قيمته.
تخيل أنك تجلس في مكتبة ضخمة وعالية التقنية، حيث الكتب مكتوبة بواسطة حواسيب فائقة الذكاء تسمى "نماذج الاستدلال". هذه الحواسيب مذهلة في حل الألغاز، لكن لديها سمة غريبة: كلما زادت صعوبة اللغز، زاد مقدار "تفكيرها" قبل الإجابة. عملية التفكير هذه تكلف شيئاً يسمى "الحوسبة" (compute)، وهي تشبه إمداداً محدوداً من الطاقة أو حداً زمنياً صارماً في اختبار ما. لطالما عرف العلماء أنه إذا منحت الحاسوب مزيداً من الوقت للتفكير في مسألة واحدة صعبة، فإنه سيصبح أفضل في حلها. ولكن برز سؤال جديد: ماذا يحدث عندما تعطي الحاسوب مجموعة كاملة من الألغاز المختلفة، ولكن مع حد زمني واحد مشترك للمجموعة بأكملها؟ هل يمكن للحاسوب أن يقرر أي الألغاز تستحق استهلاك طاقته عليها، أم أنه يندفع ببساء عبرها بالترتيب الذي تظهر به، مهدرًا وقته على المسائل السهلة لينفد منه الوقود قبل أن يصل إلى المسائل الصعبة؟ هذا هو اللغز الكبير الذي يحاول الباحثون حله، لأنه إذا لم تتمكن هذه الحواسيب الذكية من إدارة طاقتها الخاصة عبر مجموعة من المهام، فقد تفشل في مواقف العالم الحقيقي حيث تحتاج إلى التوفيق بين العديد من الوظائف في وقت واحد.
هذه الورقة البحثية، التي تحمل عنوان "التفكير بجهد، لا بذكاء"، تغوص في تلك المشكلة تحديداً. قام الباحثون بإعداد "امتحان" رقمي لعدة من أكثر نماذج الاستدلال تقدماً في العالم. وبدلاً من إعطاء كل سؤال حداً زمنياً خاصاً به، أعطوا الامتحان بأكمله ميزانية مشتركة من "رموز التفكير" (tokens) (وهي وحدة من الجهد الحاسوبي). تضمن الامتحان أسئلة متفاوتة الصعوبة، بعضها يستحق نقاطاً أكثر من غيرها، وكان على النماذج معرفة كيفية تقسيم طاقتها المحدودة لتحقيق أعلى درجة إجمالية. كانت النتائج صادمة نوعاً ما: لقد فشلت النماذج في التصرف كطلاب استراتيجيين في الامتحان. فبدلاً من تخطي سؤال صعب ومنخفض النقاط لتوفير الطاقة لسؤال سهل وعالي النقاط، تصرفت مثل طالب جشع يقرأ الأسئلة من الأعلى إلى الأسفل فقط. لقد بذلت جهداً هائلاً في الأسئلة الأولى، وغالباً ما نفدت منها الرموز قبل أن تصل حتى إلى نهاية الورقة، بغض النظر عن عدد النقاط التي قد تكون الأسئلة اللاحقة مستحقة لها.
وجدت الدراسة أن هذه النماذج هي استراتيجيات "عمياء عن الموقع". فهي لا تبدو مهتمة بما إذا كان السؤال مصنفاً كـ "صعب" أو "سهل"، أو ما إذا كان يستحق 20 نقطة أو 5 نقاط. إنها تتبع فقط ترتيب تقديم الأسئلة. إذا كان السؤال هو الأول، فإنها تسكب كل طاقتها فيه؛ وإذا كان الأخير، فإنها غالباً ما تتجاهله تماماً. اختبر الباحثون ذلك عن طريق تغيير ترتيب الأسئلة وتغيير قيم نقاطها، لكن النماذج لم تتكيف. حتى عندما أعطت الأبحاث النماذج أمراً (prompt) خاصاً يطلب منها "التخطيط مسبقاً" و"التخصيص بحكمة"، لم تغير النماذج عاداتها، بل اكتفت بنشر نفس غياب الاستراتيجية بشكل أكثر توازناً. تشير الورقة إلى أنه بينما تتحسن هذه النماذج في "التفكير بجهد" في مسألة واحدة، إلا أنها لم تتعلم بعد كيف "تفكر بذكاء" بشأن المسائل التي تستحق التفكير فيها.
لجعل الأمر أكثر وضوحاً، تخيل أن لديك حقيبة ظهر بحد أقصى للوزن يبلغ 10 أرطال، وأنت في سوق للسلع المستعملة (flea market) يوجد به 20 قطعة. بعض القطع ثقيلة لكنها ذات قيمة عالية (قيمة عالية، تكلفة عالية)، وبعضها خفيف لكن قيمته ضئيلة (قيمة منخفضة، تكلفة منخفضة)، وبعضها ثقيل لكنه بلا قيمة. المتسوق الذكي سينظر إلى القائمة بأكملها، ويختار القطع التي تعطي أفضل "قيمة مقابل كل رطل"، ويملأ حقيبته ليحصل على أكبر قدر من المال. لكن نماذج الذكاء الاصطناعي هذه تصرفت مثل متسوق يلتقط أول قطعة يراها، ثم الثانية، ثم الثالثة، ويحشرها في الحقيبة حتى تصبح ثقيلة جداً بحيث لا يستطيع حملها. وبحلول الوقت الذي وصل فيه إلى نهاية الطابور، لم يعد لديه مساحة لأفضل الصفقات. وجد الباحثون أنه مع زيادة عدد الأسئلة (أو القطع) من 5 إلى 20، ساء أداء النماذج في تغطية القائمة بأكملها. على سبيل المثال، مع 20 سؤالاً، قامت النماذج بعمل جاد على حوالي 4 إلى 8 أسئلة فقط، تاركة البقية دون مساس تماماً.
نظرت الورقة أيضاً فيما إذا كانت النماذج تتفاعل مع صعوبة الأسئلة. وتبين أنها تقضي بالفعل وقتاً أطول في الأسئلة الصعبة، ولكن فقط بعد أن تبدأ فيها بالفعل. فهي لا تنظر إلى سؤال صعب وتقول: "هذا يبدو صعباً، سأتخطاه لأوفر الطاقة لما بعده". بل تغوص فيه، وتدرك أنه صعب، وتستمر في العمل حتى ينفد منها الجهد. وهذا ما يسميه المؤلفون التفكير "الاستجابي" (reactive) بدلاً من التفكير "الاستباقي" (prospective). إنها جيدة في حل المشكلة بمجرد البدء فيها، لكنها سيئة في اتخاذ القرار بشأن أي المشكلات يجب أن تبدأ بها في المقام الأول.
ومن المثير للاهتمام أن الباحثين اختبروا ذلك في كل من المسائل الرياضية ومسائل البرمجة، وكانت النتائج هي نفسها. سواء كانت المهمة حل معادلة أو كتابة برنامج حاسوبي، تصرفت النماذج مثل قطار على مسار ثابت: تتحرك للأمام، سؤالاً تلو الآخر، حتى ينفد الوقود. لم تقفز عن مساراتها للوصول إلى المحطات الأسهل أو الأكثر قيمة. وتخلص الدراسة إلى أن القدرة على إدارة ميزانية مشتركة عبر مهام متعددة هي مهارة متميزة تفتقر إليها النماذج الحالية. إنها تعرف كيف تفكر بجهد، لكنها لم تكتشف بعد كيف توزع تفكيرها بحكمة. هذا ليس مجرد خلل بسيط؛ بل يشير إلى أنه بينما نطلب من هذه النماذج القيام بمهام أكثر تعقيداً ومتعددة الخطوات، فقد نحتاج إلى تعليمها نوعاً جديداً من "ما وراء المعرفة" (metacognition) — أي القدرة على التفكير في طريقة تفكيرها وإدارة مواردها، وليس فقط حل اللغز الذي أمامها.
ملخص تقني: التفكير بعمق، لا بذكاء
بيان المشكلة
تستفيد نماذج لغة الاستدلال الحالية بشكل متزايد من حساب وقت الاختبار (test-time compute) لتحسين الأداء في المسائل الفردية. ومع ذلك، فإن التقييمات الحالية تقيم هذه النماذج سؤالاً تلو الآخر، حيث تخصص ميزانية مستقلة لكل منها. هذا الإعداد يفشل في استيعاب قيد حاسم في النشر الواقعي: تخصيص الميزانية العالمية (global budget allocation). فعندما تتنافس مسائل متعددة على ميزانية استدلال واحدة محدودة (مثل حد عدد الرموز "tokens" أو قيد زمن الاستجابة)، يجب على النموذج اتخاذ قرارات استراتيجية حول كيفية توزيع موارد الحوسبة الخاصة به. يجب عليه تحديد المسائل التي تستحق المحاولة، ومتى يجب التخطي أو التأجيل، وكم مقدار الجهد الذي يجب بذله في كل مسألة لتعظيم إجمالي الدرجة.
تفترض الورقة أنه بينما قد تكون النماذج قادرة على "التفكير بعمق" (thinking hard) في مسألة واحدة، إلا أنها تفتقر إلى التحكم الميتا-معرفي (metacognitive control) لـ "التفكير بذكاء" (think smart) عبر مجموعة من المسائل المتنافسة. وتحديداً، ليس من الواضح ما إذا كانت النماذج قادرة على تقدير قيمة السؤال بالنسبة لتكلفته وتعديل استراتيجية الاستدلال ديناميكياً لتحسين المنفعة العالمية، على غرار حل مسألة "الخريطة" (knapsack problem) حيث الأوزان (التكاليف) ليست معروفة صراحة.
المنهجية
إطار التقييم: إعداد "الامتحان"
قدم المؤلفون إطار تقييم بنمط الامتحان لاستقصاء تخصيص الميزانية المشتركة.
المهمة: يُعرض على النموذج N من الأسئلة في آن واحد، ولكل منها قيمة نقاط مرئية (vi).
القيد: يتلقى النموذج ميزانية واحدة مشتركة قدرها B من رموز الاستدلال (reasoning tokens) للامتحان بأكمله.
الهدف: تعظيم إجمالي الدرجة (مجموع النقاط للأسئلة المجابة بشكل صحيح).
الآلية: يولد النموذج مسار استدلال واحداً للامتحان بأكمله. لا يفرض "البرومبت" (prompt) ترتيباً معيناً. بعد مرحلة الاستدلال، يُطلب من النموذج تقديم الإجابات النهائية بناءً على المسار.
مجموعة البيانات والإنشاء
المصدر: تستخدم التجارب الأولية Omni-MATH (Gao et al., 2024).
المتغيرات: يتم إنشاء الامتحانات مع N∈{5,10,20} سؤالاً.
مخططات تسجيل النقاط: لاختبار الحساسية للقيمة، يغير المؤلفون تعيينات النقاط:
ثابتة: جميع الأسئلة تستحق 10 نقاط.
عشوائية: الدرجات من 1 إلى 15، مستقلة عن الصعوبة.
متوافقة: الأسئلة الأصعب تحصل على درجات أعلى.
معكوسة: الأسئلة الأسهل تحصل على درجات أعلى.
الترتيب: تُعرض الأسئلة بترتيب عشوائي، أو تصاعدي الصعوبة، أو تنازلي الصعوبة لفصل موقع العرض عن الصعوبة الجوهرية.
النماذج التي تم تقييمها
تغطي الدراسة مجموعة من النماذج مفتوحة الأوزان والنماذج الرائدة (frontier models):
مفتوحة الأوزان: DeepSeek-R1-Distill-Qwen (7B, 14B) و Qwen3 (8B, 14B, 32B).
نماذج الـ API: DeepSeek-V4 Flash و Pro (نسخ تجريبية).
التعميم: يتم التحقق من النتائج على نطاق استدلال الأكواد باستخدام CRUXEval-O.
المقاييس
لتحليل سلوك التخصيص، يعرّف المؤلفون:
جهد الرموز (ti): إجمالي عدد رموز الاستدلال المنسوبة للسؤال i.
مجموعة العمل (W): الأسئلة التي تتلقى جهداً جوهرياً (تُعرف بأنها ≥200 رمز أو ≥2 من مقاطع الاستدلال).
ترتيب الحل: تسلسل الأسئلة التي يتم معالجتها جوهرياً في W، ويتم تحديده بواسطة المركز الثقلي المرجح بالرموز لمقاطع الاستدلال الخاصة بها.
تحليل الارتباط: يتم حساب ارتباطات "سبيرمان" بين سلوكيات التخصيص (الجهد، الترتيب) والإشارات (موقع العرض، الصعوبة، قيمة النقاط). تُستخدم الارتباطات الجزئية للتحكم في المتغيرات المربكة بين الموقع والصعوبة.
هيمنة الموقع: أقوى مؤشر لكل من الجهد وترتيب الحل هو موقع العرض. تعطي النماذج الأولوية للأسئلة بناءً على الترتيب الذي تظهر به في "البرومبت".
إهمال الأسئلة اللاحقة: مع زيادة عدد الأسئلة (N)، يتركز الاستدلال بشكل متزايد على بداية الامتحان. الارتباط بين موقع العرض وجهد الرموز سلبي بقوة (ρ≈−0.48 عند N=20)، بينما الارتباط بين الموقع وترتيب الحل إيجابي بقوة (ρ≈+0.68).
عدم الحساسية للقيمة: تظهر النماذج حساسية ضئيلة لقيم النقاط المذكورة. يظل الارتباط بين الجهد/الترتيب وقيم النقاط قريباً من الصفر في جميع الظروف.
2. التعامل مع الصعوبة بشكل تفاعلي، وليس استباقياً
لا تخصص النماذج المزيد من الحوسبة للأسئلة الصعبة قبل محاولتها.
بينما تتلقى الأسئلة الأصعب بالفعل المزيد من الرموز، إلا أن هذا تأثير تفاعلي: بمجرد دخول النموذج في سؤال صعب، يستمر في الاستدلال حتى تنفد الميزانية أو تُحل المسألة. يضعف هذا التأثير مع اشتداد ضيق الميزانية (أي مع زيادة N)، مما يشير إلى أن النماذج لا يمكنها تحديد المسائل عالية التكلفة مسبقاً لتخطيها أو تأجيلها.
3. ضغط الميزانية يضاعف الفشل
تقلص التغطية: مع نمو طول الامتحان، تنخفض نسبة الأسئلة التي تتلقى جهداً جوهرياً (التغطية) بشكل رتيب. بالنسبة لـ N=20، تنخفض التغطية إلى حوالي 40% للنماذج المفتوحة وإلى أدنى مستوياتها عند 23% لنماذج الـ API.
معدل الصفر من الرموز: يحصل جزء كبير من الأسئلة (يصل إلى 69% لـ DSV4-F عند N=20) على صفر من رموز الاستدلال، مما يعني أنه يتم تجاهلها فعلياً.
4. مطالبات التخطيط لا تحل المشكلة
التعليمات الصريحة بـ "تخطيط التخصيص" أو "مراعاة الصعوبة والتكلفة" تحسن التغطية (تحاول النماذج أسئلة أكثر) ولكنها تفشل في إحداث تحديد أولويات واعٍ بالقيمة.
لا تزال النماذج تتبع ترتيب العرض ولا تكيف استراتيجيتها عندما يتم إعادة ترتيب أو إعادة تسعير الأسئلة أو صعوباتها.
5. التعميم على استدلال الأكواد
تمتد نفس الأنماط السلوكية (الحل المدفوع بالموقع، عدم الحساسية للقيمة) إلى مهام استدلال الأكواد في CRUXEval-O، مما يشير إلى أن هذا قصور جوهري في بنيات الاستدلال الحالية وليس مجرد أثر مرتبط بنطاق معين.
المساهمات
إطار التقييم: تقدم الورقة إطار عمل مضبوطاً بنمط "الامتحان" لدراسة الاستدلال ذو الميزانية المشتركة، مما يميزه عن تقييمات السؤال الواحد التقليدية.
التحليل القائم على المسار: توفر تحليلاً دقيقاً قائماً على المسار (trace-based analysis) للجهد الفعلي للاستدلال وترتيب الحل، مما يكشف الفجوة بين قدرة الاستدلال على مستوى الكائن والتحكم الاستراتيجي.
الأدلة التجريبية: تثبت أن نماذج الاستدلال الحالية، رغم قدرتها على حل المسائل المعقدة فردياً، تفشل في إظهار التحكم الميتا-معرفي المطلوب لتخصيص الحوسبة استراتيجياً عبر المهام المتنافسة.
الأهمية والادعاءات
تخلص الورقة إلى أن التخصيص العالمي للميزانية هو قدرة متميزة لا تلتقطها التقييمات التقليدية. يجادل المؤلفون بأن النماذج الحالية "تعرف كيف تفكر بعمق في السؤال الذي أمامها، ولكن ليس كيف تقرر أي سؤال يستحق التفكير فيه".
تشير النتائج إلى أن مجرد زيادة حجم نماذج الاستدلال أو تحسين الأداء لكل سؤال لن يكون كافياً للسيناريوهات ذات الموارد العالمية المحدودة. إن عدم القدرة على تقنين الحوسبة استراتيجياً — وتحديداً الفشل في تحديد الأولويات بناءً على القيمة والنزعة لتركيز الجهد في البداية بغض النظر عن قيمة السؤال — يمثل عائقاً كبيراً أمام نشر نماذج الاستدلال في البيئات المقيدة بالتكلفة أو متعددة المهام. لا تقترح الورقة حلاً، بل تسلط الضوء على هذا كتحدٍ حرج وغير معالج في هذا المجال.