LLMs Faithfully and Iteratively Compute Answers During CoT: A Systematic Analysis With Multi-step Arithmetics

إليك ملخص تقني مفصل لورقة البحث بعنوان: "LLMs Faithfully and Iteratively Compute Answers During CoT: A Systematic Analysis With Multi-step Arithmetics" (النماذج اللغوية الكبيرة تحسب الإجابات بأمانة وتكرار أثناء سلسلة التفكير: تحليل منهجي عبر الحسابات متعددة الخطوات).

1. بيان المشكلة

تتناول الورقة سؤالاً جوهرياً في قابلية التفسير للنماذج اللغوية الكبيرة (LLMs): هل شرح "سلسلة التفكير" (Chain-of-Thought - CoT) هو انعكاس أمين لعملية الاستدلال الداخلية للنموذج، أم أنه مجرد "تفسير لاحق" (post-hoc rationalization)؟

على وجه التحديد، تحقق الورقة في سؤالين فرعيين:

1. توقيت التحديد: في أي نقطة خلال عملية التوليد "يقرر" النموذج داخلياً الإجابة النهائية؟ هل يتم تحديدها قبل بدء سلسلة التفكير (أثناء مرحلة قراءة المدخلات)، أم يتم حسابها بشكل تكراري أثناء توليد سلسلة التفكير؟
2. الأمانة السببية: هل تؤثر نص سلسلة التفكير (CoT) سببياً على الإجابة النهائية، أم أن النموذج يقوم ببساطة بتوليد شرح بليغ ليتناسب مع إجابة محددة مسبقاً؟

إذا تم تحديد الإجابة قبل توليد سلسلة التفكير، فإن سلسلة التفكير تكون غير أمينة (تفسير "لاحق"). أما إذا تم اشتقاق الإجابة أثناء توليد سلسلة التفكير، فإن سلسلة التفكير تكون أمينة.

2. المنهجية

استخدم المؤلفون إطار عمل تجريبي مضبوطاً باستخدام مهام حسابية اصطناعية متعددة الخطوات لعزل آليات الاستدلال عن ضوضاء اللغة الطبيعية.

أ. تصميم مجموعة البيانات والمهام

• الحساب الاصطناعي: قاموا بإنشاء مجموعة بيانات من المسائل الحسابية متعددة الخطوات (مثلاً: $A = 1 + B, B = 2 + 3, A = ?$).
• مستويات التعقيد: تم تصنيف المهام إلى 5 مستويات بناءً على:
  • عدد الخطوات (#Step): عدد العمليات المطلوبة.
  • عدد المكدس (#Stack): عدد المتغيرات التي لا يمكن حلها فوراً (تتطلب "مكدساً" أو حلاً مؤجلاً).
  • المشتتات (#Dist): وجود معادلات مشتتة غير ذات صلة بالإجابة النهائية.
• النماذج المختبرة: تم تقييم تسعة نماذج مختلفة، بما في ذلك Qwen2.5 (7B, 14B, 32B, Math), Yi1.5, Llama 3.1/3.2, و Mistral-Nemo.

ب. المسبار الخطي (التحليل الارتباطي)

لتحديد متى يتم تشفير الإجابة في الحالات المخفية للنموذج:

• المسابير (Probes): تم تدريب مصنفات خطية للتنبؤ بقيمة متغيرات محددة (مثل $A, B$) من الحالات المخفية للنموذج ($h_{t,l}$) عند كل موضع رمز $t$ وطبقة $l$.
• المقياس ($t^*$): حدد المؤلفون $t^*$ كأول موضع رمز يحقق فيه المسبار دقة عالية (عتبة $\tau = 0.9$).
• المقارنة: قارنوا بين الدقة في مرحلة المدخلات ($t < 0$، قبل سلسلة التفكير) مقابل مرحلة سلسلة التفكير/المخرجات ($t \ge 0$).

ج. التدخل السببي (ترقيع التنشيط - Activation Patching)

لإثبات السببية بين الحالات الداخلية والمخرجات:

• التقنية: ترقيع التنشيط. استبدل المؤلفون الحالات المخفية من تشغيل "نظيف" (حل المشكلة $X$) بحالات مخفية من تشغيل "مختلف" (حل المشكلة $Y$) عند مواضع شبكية محددة (المعادلات والطبقات).
• الهدف: إذا أدى ترقيع الحالة المخفية عند خطوة معينة في سلسلة التفكير إلى تغيير الإجابة النهائية لتتطابق مع المشكلة "المُرقّعة"، فهذا يثبت أن الحالة المخفية عند تلك الخطوة تحدد المخرج سببياً.
• الأهداف: اختبروا التدخلات على المدخلات، خطوات سلسلة التفكير المتوسطة، وتوليد الإجابة النهائية.

3. النتائج الرئيسية

أ. توقيت اشتقاق الإجابة (نتائج المسبار)

• عدم التحديد المسبق: لجميع النماذج ومستويات التعقيد (باستثناء الحالات البديهية ذات 0 خطوة)، فشلت المسابير في التنبؤ بدقة بالإجابة النهائية خلال مرحلة المدخلات ($t < 0$). كانت الدقة ($Acc_{\prec CoT}$) منخفضة باستمرار (غالباً أقل من 30-40%).
• الحساب التكراري: ارتفعت الدقة ($Acc_{\succ CoT}$) لتصل إلى ما يقرب من 100% أثناء توليد سلسلة التفكير.
  • يقوم النموذج بحساب الإجابات الفرعية (مثل حساب $B=5$) ويشفرها في الحالات المخفية أثناء توليد النص "$B=5$".
  • يتم اشتقاق الإجابة النهائية بشكل تدريجي، وليس استرجاعها من حالة محسوبة مسبقاً.

ب. الأمانة السببية (نتائج التدخل)

• سلسلة التفكير تقود الإجابة: أدى التدخل في الحالات المخفية المقابلة لـ توليد سلسلة التفكير (تحديداً الخطوات الأخيرة) بنجاح إلى تغيير الإجابة النهائية لتتطابق مع المدخل المُرقّع.
• عدم جدوى المدخلات: لم يكن للتدخل في الحالات المخفية المقابلة لـ المدخلات/بيان المشكلة (المرحلة الأولى) أي تأثير يُذكر على الإجابة النهائية أو خطوات سلسلة التفكير المتوسطة.
• الانحياز للحداثة (Recency Bias): يتبع الرسم البياني السببي انحيازاً قوياً للحداثة. تعتمد الإجابة النهائية بشدة على خطوات سلسلة التفكير السابقة مباشرة (مثل حساب $B$)، والتي تعتمد بدورها على الخطوة التي سبقتها. النموذج لا "يتذكر" بيان المشكلة الأصلي بطريقة تملي الإجابة مباشرة دون معالجة سلسلة التفكير الوسيطة.

ج. المتانة

• ثبتت هذه النتائج عبر أحجام نماذج مختلفة (من 3B إلى 34B)، وببنيات مختلفة (Qwen, Llama, Mistral)، ومع تباين تعقيدات المهام.
• حتى عندما فشلت النماذج في حل مسألة ما (دقة منخفضة)، كان التمثيل الداخلي للإجابة "الصحيحة" غائباً، مما يشير إلى أن النموذج لا يهلوس بإجابة ثم يحاول تبريرها؛ بل إنه إذا لم يستطع حساب الإجابة، فإنه لا يملك التمثيل الخاص بها.

4. المساهمات الرئيسية

1. دليل على الأمانة: تقدم الورقة دليلاً تجريبياً قوياً على أن سلسلة التفكير (CoT) في الحسابات متعددة الخطوات هي أمينة. سلسلة الاستدلال ليست تفسيراً لاحقاً، بل هي سجل أمين للحساب التكراري الداخلي للنموذج.
2. الرؤية الآلية: تكشف الورقة أن النماذج اللغوية الكبيرة لا "تعرف" الإجابة عند قراءة المطالبة (Prompt). بدلاً من ذلك، تقوم بـ حساب آني، حيث تُحدث حالتها الداخلية مع كل رمز (Token) يتم توليده في سلسلة الاستدلال.
3. إطار عمل منهجي: تجمع الدراسة بين المسبار الخطي (لاكتشاف متى تظهر المعلومة) وترقيع التنشيط (للتحقق من التأثير السببي) في بيئة اصطناعية مضبوطة، مما يوفر مخططاً قوياً لتحليل الاستدلال في النماذج اللغوية الكبيرة.
4. اكتشاف الانحياز للحداثة: يسلط التحليل الضوء على "انحياز للحداثة" في التدفق السببي للاستدلال، حيث يعتمد النموذج على النتائج الوسيطة الأخيرة المخزنة في نص سلسلة التفكير بدلاً من إعادة قراءة بيان المشكلة الأصلي.

5. الأهمية والآثار المترتبة

• الثقة في CoT: بالنسبة للمهام التي تتطلب استدلالاً خطوة بخطوة (مثل الرياضيات أو المنطق)، يمكن للمستخدمين أن يكون لديهم ثقة أكبر في أن شرح سلسلة التفكير يعكس عملية اتخاذ القرار الفعلية للنموذج، وليس مجرد تبرير ملفق.
• التصحيح والضبط (Debugging and Alignment): بما أن الإجابة تُحسب تكرارياً، فإن الأخطاء في سلسلة التفكير (مثل خطوة وسيطة خاطئة) تؤدي مباشرة إلى الخطأ النهائي. هذا يشير إلى أن تحسين توليد سلسلة التفكير (مثل التصحيح الذاتي أو التحسين في صياغة المطالبات) هو مسار قابل للتطبيق لتحسين أداء النموذج، لأن سلسلة التفكير هي آلية الحساب.
• القيود: يشير المؤلفون إلى أن هذه النتائج خاصة بالمهام التي تتطلب استدلالاً صريحاً. بالنسبة لاسترجاع الحقائق البسيطة أو المهام التي يسهل التنبؤ بإجابتها من المطالبة وحدها، فقد يظل السلوك "اللاحق" (الملاحظ في دراسات أخرى) قائماً. ومع ذلك، بالنسبة للاستدلال المعقد، فإن آلية "الحساب الأمين" هي المهيمنة.

في الختام، تفند الورقة الفرضية القائلة بأن النماذج اللغوية الكبيرة تحدد الإجابات مسبقاً وتولد سلسلة التفكير كمجرد إجراء شكلي. بدلاً من ذلك، تثبت أن سلسلة التفكير هي محرك الحساب، وأن الحالة الداخلية للنموذد تتطور بأمانة جنباً إلى جنب مع النص المولد للوصول إلى الحل.