Decomposing Reasoning Efficiency in Large Language Models

ملخص تقني: تفكيك كفاءة الاستنتاج في النماذج اللغوية الكبيرة

1. بيان المشكلة

مع تحول النماذج اللغوية الكبيرة (LLMs) من توسيع نطاق مرحلة ما قبل التدريب إلى توسيع نطاق الحوسبة أثناء الاستنتاج (مثل o1 وo3 من OpenAI، وDeepSeek-R1)، ظهر توتر حرج بين الدقة وتكلفة الرموز (tokens). وبينما تضحي النماذج بمزيد من رموز الاستنتاج مقابل دقة أعلى، فإن التقييمات القياسية عادة ما تكتفي بالإبلاغ عن الدقة النهائية فقط. وهذا يحجب "فجوة الكفاءة" — وهي التمييز بين الرموز المنفقة على الاستنتاج المثمر مقابل الرموز المهدرة من خلال "الإفراط في التفكير"، أو الهلوسة، أو التكرار اللانهائي، أو الإسهاب اللفظي المفرط. وتفشل المقاييس الحالية في التمييز بين أنماط الفشل هذه أو تطبيع استخدام الرموز مقابل التعقيد الجوهري للمهمة.

2. المنهجية

يقترح المؤلفون إطار عمل متعدد المستويات، اختياري الأثر (trace-optional)، يقوم بتفكيك كفاءة الرموز إلى عوامل قابلة للتفسير وتراكمية. تُعرف الكفاءة ($E_0$) بأنها العدد المتوقع للإجابات الصحيحة لكل 1,000 رمز يتم توليده. يعمل إطار العمل عند ثلاثة مستويات من التفصيل:

• المستوى الأول: التفكيك على مستوى النتيجة (خالٍ من الأثر/Trace-Free)
  باستاستخدام الإجابة النهائية وعدد الرموز وعلم القطع (truncation flag) فقط، يفكك المؤلفون الكفاءة إلى:

  • المتانة ضد القطع ($r_{ctx}$): احتمال إكمال النموذج للمهمة ضمن ميزانية الرموز.
  • متانة المنطق ($r_{logic}$): احتمال الصحة، بشرط عدم تعرض النموذج للقطع.
  • الإسهاب اللفظي ($E[T]$): إجمالي استخدام الرموز المتوقع.
  • الصيغة الرياضية: $\log E_0 = \log r_{ctx} + \log r_{logic} - \log E[T] + \text{const}$.

• المستوى الثاني: الإسهاب المطبع مع عبء العمل (المدرك للبيانات الوصفية/Metadata-Aware)
  لمنع معاقبة النماذج بسبب حل مهام أصعب، يقوم المؤلفون بتطبيع الإسهاب اللفظي باستخدام وسيط عبء العمل ($W$) المستمد من البيانات الوصفية للمعايير (مثل عدد العمليات المنطقية المطلوبة). وهم يفككون الإسهاب إلى:

  • متوسط عبء التعبير اللفظي ($\bar{V}_O$): الرموز المستخدمة لكل وحدة عمل.
  • معامل الاقتران ($\kappa$): يلتقط كيفية توسع العبء مع تعقيد المهمة (على سبيل المثال، ما إذا كان النموذج "يفرط في الاستثمار" في الرموز مع زيادة صعوبة المهام).

• المستوى الثالث: تفكيك جودة الأثر (المعتمد على الأثر/Trace-Visible)
  عند توفر آثار الاستنتاج (reasoning traces)، يستخدم المؤلفون استدلالات حتمية قائمة على الأنطولوجيا (لتجنب تكلفة استخدام نموذج لغوي كبير كحكم) لتقسيم الإسهاب اللفظي إلى:

  • جودة الأثر ($q_{trace}$): كثافة رموز "الإشارة" (المستندة إلى المهمة، غير المتكررة، وليست مجرد نسخ للمدخلات).
  • عبء إشارة الإسهاب ($\bar{V}_{Osig}$): الرموز المتبقية حتى بعد حساب إشارات الجودة العالية.

3. المساهمات الرئيسية

1. إطار تشخيص هرمي: منهجية تسم تتيح للباحثين تحديد سبب عدم كفاءة النموذج (على سبيل المثال، هل هو "ثرثار" ولكنه ذكي، أم "موجز" ولكنه غير منطقي؟).
2. تطبيع عبء العمل: طريقة لمقارنة الكفاءة عبر مهام ذات صعوبات متفاوتة من خلال ربط أعداد الرموز بالتعقيد الجوهري للمشكلة.
3. مقاييس أثر حتمية: مقاييس خفيفة تعتمد على الإحصاء السطحي (التجذر، التكرار، نسخ المدخلات) تميز بين "الاستنتاج المنخرط" و"الحلقات التدهورية".
4. تكامل معيار CogniLoad: استخدام معيار اصطناعي يوفر البيانات الوصفية الهيكلية اللازمة لتمكين عمليات التفكيك هذه.

4. النتائج الرئيسية

قيم المؤلفون 25 نموذجاً على معيار CogniLoad، ووجدوا ما يلي:

• تباين التصنيفات: تصنيفات الدقة والكفاءة لا ترتبط ببعضها تماماً (معامل سبيرمان $\rho = 0.63$). يمكن للنموذج أن يكون عالي الدقة ولكنه غير كفء للغاية.
• محركات عدم الكفاءة: معظم فجوات الكفاءة مدفوعة بـ متانة المنطق (النماذج التي تكون موجزة ولكن خاطئة) أو عبء التعبير اللفظي (النماذج التي تكون صحيحة ولكن مسهبة بشكل مفرط).
• تباين الإسهاب اللفظي: يختلف متوسط عبء التعبير اللفظي بمقدار 9 أضعاف عبر النماذج، مما يظهر ارتباطاً ضئيلاً مع حجم النموذج.
• تحديد أنماط الفشل:
  • الحلقات التدهورية (Degenerate Looping): انخفاض $q_{trace}$ (مثل DeepSeek-R1-Distill-Qwen-1.5B) يشير إلى نماذج عالقة في دورات متكررة وغير معلوماتية.
  • الحلقات المرتكزة (Anchored Looping): تجذر عالٍ مع تكرار عالٍ (مثل Phi-4-reasoning) يشير إلى نماذج تكرر نفس الحقائق.
  • المسهب المنخرط (Verbose-but-Engaged): عبء إشارة عالٍ مع جودة أثر عالية (مثل EXAONE-Deep-32B) يشير إلى نماذج تستنتج جيداً ولكنها تستخدم الكثير من "الحشو" أو الخطوات الزائدة.
• تعقيد المهمة: طول المهمة ($N$) هو المحرك الرئيسي لفقدان الكفاءة، حيث تنخفض الكفاءة بنسبة 70-90% مع زيادة طول المهمة.

5. الأهمية

ينقل هذا العمل مجال تقييم النماذج اللغوية الكبيرة من التركيز على النتيجة (هل أجاب بشكل صحيح؟) إلى التركيز على العملية (كم كلف الوصول إلى الإجابة الصحيحة؟). ومن خلال توفير "ملف تعريف الاختناقات" لمختلف النماذج، يتيح إطار العمل إجراء تدخلات مستهدفة:

• النماذج المحدودة بالمنطق: تحتاج إلى تدريب أفضل على الاستنتاج، وليس عقوبات على الطول.
• النماذج المحدودة بالإسهاب اللفظي: هي مرشحة لتقنيات فك التشفير القابلة للتحكم في الطول.
• النماذج المحدودة بالسياق: تتطلب استراتيجيات أفضل لاكتشاف الحلقات أو تقسيم المهام.

في نهاية المطيط، يوفر هذا البحث خارطة طريق لتطوير أنظمة استنتاج أكثر استدامة، وفعالية من حيث التكلفة، وقدرة، من خلال تحسين جودة حوسبة وقت الاستنتاج بدلاً من مجرد تحسين كميتها.