Rethinking Inference-Time Scaling: Efficiency Limits and Linguistic Signals

تخيل أنك تحاول حل لغز صعب للغاية، مثل مسألة رياضية معقدة أو أحجية تتطلب تفكيراً عميقاً. لديك طريقتان رئيسيتان للحصول على الإجابة. الطريقة الأولى هي استئجار عبقري فائق الذكاء قضى سنوات في دراسة اللغز؛ قد يحل اللغز فوراً لأن الإجابة موجودة بالفعل "داخل" رأسه. الطريقة الثانية هي أخذ شخص عادي وإعطاؤه كمية هائلة من الوقت والورق، وتقول له: "استمر في تجربة تخمينات مختلفة، واكتبها جميعاً، وتحقق منها، وأعد كتابتها حتى تصل إلى الحل الصحيح". تُسمى هذه الطريقة الثانية "الحوسبة أثناء الاستدلال" (Inference-Time Compute - ITC). وهي الفكرة القائلة بأننا إذا ضخينا ما يكفي من القدرة الحوسبية والوقت في لحظة طرح السؤال، يمكننا جعل نموذج "غبي" يتصرف كنموذج "ذكي".

لفترة من الوقت، أمل الباحثون في أن تكون هذه الطريقة "القائمة على القوة الغاشمة" بديلاً عن الحاجة إلى تدريب نماذج فائقة الذكاء. فكروا قائلين: "لماذا ندرب عبقرياً إذا كان بإمكاننا فقط جعل شخص عادي يفكر بجدية أكبر؟". لكن هناك عقبة: التفكير بجدية يستغرق وقتاً وطاقة. السؤال الكبير الذي يطرحه الجميع هو: هل هناك حد لكيفية مساعدة التفكير العميق؟ هل يمكن لشخص عادي، مهما أعطيته من وقت، أن يضاهي حقاً العبقري الذي وُلد بالمعرفة؟ يبحث هذا البحث في هذا السؤال تحديداً، مستقصياً ما إذا كان بإمكاننا ببساال "حوسبة" طريقنا نحو استدلال أفضل، أم أن بعض الأشياء تتطلب التعلم مسبقاً.

---

"أرضية الاستدلال": لماذا يضع التفكير العميق سقفاً للقدرات

وضع مؤلفو هذا البحث اختبارات لتحديد حدود استراتيجية "التفكير بجدية أكبر" هذه. لقد قارنوا بين نوعين من نماذج الذكاء الاصطناعي: النماذج العامة الأغراض (التي تشبه "الأشخاص العاديين" الجيدين في أشياء كثيرة ولكن ليس مدربين خصيصاً على المنطق العميق) والنماذج المحسنة للاستدلال (التي تشبه "العباقرة" الذين تم تدريبهم خصيصاً، غالباً باستخدام التعلم المعزز، لحل المشكلات الصعبة).

لقد وضعوا هذه النماذج تحت الاختبار في بعض أصعب الألغاز الرياضية والعلمية المتاحة، مثل مجموعة بيانات MATH 500 (مسائل رياضيات صعبة للمرحلة الثانوية) وAIME (مسابقة رياضيات مرموقة). وجربوا استراتيجيات "تفكير" متنوعة لتعزيز الأداء، مثل:

• التصويت بالأغلبية (Majority Voting): طلب من النموذج توليد 100 إجابة مختلفة واختيار الإجابة التي تظهر أكثر من غيرها.
• أفضل من N (Best of N): توليد العديد من الإجابات واختيار أفضل واحدة منها.
• المراجعات المتتالية (Sequential Revisions): توليد إجابة، ثم نقدها، ثم إعادة كتابتها، وتكرار هذه الدورة مراراً وتكراراً.
• خليط الوكلاء (Mixture of Agents): جعل عدة "وكلاء افتراضيين" يعملون معاً لحل المشكلة.

إليكم الاكتشاف الكبير: هناك "أرضية استدلال" (Reasoning Floor).

تخيل شخصاً عادياً يحاول حل مسألة رياضية. مهما حاول، ومهما كتب من مسودات، أو مهما طلب المساعدة من أصدقائه، فإنه سيصطدم بحائط. يمكنه أن يتحسن، لكنه لن يستطيع أبداً الوصول إلى مستوى العبقري الذي تم تدريبه خصيصاً للرياضيات. وجد البحث أنه حتى لو منحت نموذجاً عام الأغراض عشرة أضعاف القدرة الحوسبية (رتبة مقدار كاملة) مقارنة بنموذج محسن للاستدلال، فإنه لا يزال غير قادر على اللحاق به. فالنماذج "العبقرية" (مثل DeepSeek-R1) قد استوعبت منطق كيفية التفكير داخلياً، بينما النماذج "العادية" هي مجرد تخمين وتحقق.

يشير المؤلفون إلى أن استيعاب بروتوكولات الاستدلال (تعلم كيفية التفكير داخل دماغ النموذج) هو شرط مسبق لفعالية التوسع. لا يمكنك مجرد "حوسبة" طريقك نحو مستوى جديد من الذكاء إذا لم يكن الأساس موجوداً.

الفائز المفاجئ: القليل يعني الكثير

عندما نظر الباحثون إلى النماذج المحسنة للاستدلال (العباقرة)، وجدوا شيئاً غير متوقع. كانوا يتوقعون أنه كلما زادت استراتيجية التفكير تعقيداً، كانت النتيجة أفضل. ظنوا أن النموذج الذي يقضي وقتاً في مراجعة عمله، والتحقق من منطقه، والتحدث مع نفسه، سيكون هو البطل.

لكن البيانات أظهرت عكس ذلك. التصويت بالأغلبية البسيط تفوق باستمرار على الطرق المعقدة والمبتكرة.

فكر في الأمر كفصل دراسي. إذا طلبت من طالب ذكي حل مسألة، فقد يحلها بشكل صحيح من المرة الأولى. أما إذا طلبت منه حلها، ثم إعادة كتابتها، ثم إعادة كتابتها مرة أخرى، فقد يبدأ في الشك في نفسه ويرتكب أخطاء. الطرق "المبتكرة" مثل المراجعات المتتالية أو خليط الوكلاء غالباً ما تسببت في "انحراف الاستدلال" (reasoning drift)، حيث يتشتت النموذج بسبب الإفراط في التفكير ويبتعد عن المسار الصحيح.

بالنسبة للنماذج المحسنة للاستدلال، كانت الاستراتيجية الأكثر كفاءة هي ببساطة توليد مجموعة من الإجابات واختيار الإجابة الأكثر شيوعاً. كان الأمر يشبه سؤال حشد من الأذكاء عن إجابة ما؛ فالأغلبية كانت دائماً على صواب تقريباً، ومحاولة جعلهم "يتناظرون" أو "يراجعون" إجاباتهم لم تكن سوى إضاعة للوقت والطاقة.

الدليل السري: كيف تكتشف الكذبة دون التحقق من الرياضيات

الجزء الأكثر مرحاً وفائدة في البحث هو اكتشاف "الإشارة اللغوية للصحة" (Linguistic Signal of Correctness).

لاحظ الباحثون نمطاً غريباً في النصوص التي تولدها نماذج الاستدلال. عندما يحصل النموذج على الإجابة الصحيحة، غالباً ما يكون الرد أقصر وأكثر مباشرة. إنه يذهب مباشرة إلى صلب الموضوع. ولكن عندما يحصل النموذج على إجابة خاطئة، فإنه يميل إلى أن يكون أطول، وأكثر إسهاباً، ومليئاً بـ "علامات التفكير".

هذه العلامات هي كلمات مثل "ومع ذلك"، "بدلاً من ذلك"، "ربما"، "دعنا نعتبر"، أو "من ناحية أخرى". يطلق البحث على هذه الكلمات اسم "التحوط" (hedging) و**"توكنات التفكير" (thinking tokens)**.

تخيل طالباً يؤدي امتحاناً:

• الطالب الصحيح: يكتب حلاً واضحاً وموجزاً. "الإجابة هي 42. وإليك السبب."
• الطالب المرتبك: يكتب فقرة طويلة مليئة بـ "أظن"، "ربما"، "ولكن ماذا لو"، و"دعنا نجرب هذه الطريقة الأخرى". إنه يسهب في الشرح لأنه غير متأكد.

وجد البحث أنه بالنسبة للنماذج المحسنة للاستدلال، فإن الإطناب (الثرثرة) هو علامة على الفشل. كلما زاد "تحوط" النموذج أو "تفكيره بصوت عالٍ" بطريقة فوضوية، زاد احتمال كونه مخطئاً. وهذا أمر بالغ الأهمية لأنه يعني أنه يمكننا رصد الإجابة السيئة بمجرد قراءة أسلوب النص، دون الحاجة إلى التحقق من الرياضيات أو تشغيل برنامج منفصل للتحقق منها.

اختبر المؤلفون ذلك عبر تدريب مصنف بسيط (برنامج حاسوبي صغير) للنظر في هذه العلامات اللغوية. ووجدوا أنه بمجرد عد كلمات "التفكير" في الاستجابة، يمكنهم التنبؤ بما إذا كانت الإجابة صحيحة أم خاطئة بدقة عالية (درجة F1 بلغت 0.7469 لنموذج واحد و 0.8637 لآخر). يعمل هذا كإشارة "صفر حوسبة" (zero-compute signal)، مما يعني أنه يمكنك تشخيص جودة الإجابة فوراً دون إنفاق أي أموال أو وقت إضافي.

ماذا يعني هذا للمستقبل

يخلص البحث إلى أنه بينما يمكننا جعل الذكاء الاصطناعي أكثر ذكاءً من خلال منحه مزيداً من الوقت للتفكير، إلا أن هناك حدوداً صلبة.

1. لا يمكنك استبدال التدريب بمجرد التفكير: سيصطدم النموذج العام دائماً بـ "أرضية استدلال" لا يمكنه اختراقها، مهما ضخخت من قدرة حوسبية.
2. البساطة غالباً ما تكون أفضل: بالنسبة للنماذج الذكية، فإن أفضل طريقة للحصول على إجابة جيدة هي ببساطة سؤالهم عدة مرات واختيار الإجابة الأكثر شيوعاً، بدلاً من إجبارهم على المراجعة وإعادة الكتابة بلا نهاية.
3. الأسلوب يخبر بالحقيقة: يمكننا استخدام الطريقة التي يكتب بها النموذج (قصير ومباشر مقابل طويل ومتردد) كوسيلة مجانية وفورية للتحقق مما إذا كان يقول الحقيقة أم لا.

يشير هذا البحث إلى أن مستقبل الذكاء الاصطناعي لا يقتصر فقط على جعل النماذج أكبر أو منحها مزيداً من الوقت للتفكير. بل يتعلق ببناء نماذج تمتلك "المنطق الداخلي" الصحيح منذ البداية، ثم استخدام حيل بسيطة وفعالة للحصول على أفضل النتائج. إنه تذكير بأنه في بعض الأحيان، أذكى شيء يمكنك فعله هو التوقف عن الإفراط في التفكير والاعتماد فقط على حدسك.