ملخص تقني: الوعي بالخطأ الخفي في استدلال سلسلة الأفكار (Chain-of-Thought)

1. بيان المشكلة

يعمل أسلوب "سلسلة الأفكار" (CoT) بناءً على افتراض ضمني: وهو أن النص الذي تولده النماذج اللغوية الكبيرة (LLMs) يعكس بصدق عملياتها الحسابية الداخلية. فإذا كتب النموذج "3 × 5 = 15"، يُفترض أنه قام بحساب هذه الحقيقة داخلياً وسيبني عليها الاستدلالات اللاحقة. ومع ذلك، أظهرت الدراسات السلوكية السابقة أن تفسيرات "سلسلة الأفكار" يمكن توجيهها بواسطة إشارات غير ذات صلة أو بترها دون تغيير الإجابة النهائية، مما يشير إلى غياب الصدق (Faithfulness).

تتناول هذه الورقة فجوة حرجة: فبينما توجد اختبارات سلوكية، لم تكن هناك مقارنة مباشرة بين ما "تقوله" النماذج (السطح النصي) وما "تمثله داخلياً" (الحالات الخفية) أثناء عملية الاستدلال. وتحديداً، يبحث المؤلفون فيما إذا كانت النماذج تمتلك وعياً داخلياً بأخطاء استدلالها الخاصة التي تظل خفية عن النص المولد، وما إذا كان يمكن استغلال هذه الإشارة الداخلية سببياً لتصحيح تلك الأخطاء.

2. المنهجية

يستخدم المؤلفون نهجاً تمثيلياً، حيث يتم تدريب مجسات خطية (Linear Probes) على الحالات الخفية المستخرجة أثناء توليد "سلسلة الأفكية"، وذلك للكشف عن أخطاء الاستدلال.

• تدريب المجس (Probe Training): بالنسبة لنموذج $M$ يحتوي على $L$ من الطبقات، يستخرج المؤلفون الحالة الخفية $h^{(l)}_T$ عند آخر موضع للرمز (Token) $T$ في مسار كامل لـ "سلسلة الأفكار". يقومون بتدريب مجس انحدار لوجستي للتنبؤ بما إذا كان المسار سيؤدي إلى إجابة خاطئة ($y=1$). هدف التدريب هو دالة احتمالية لوغاريتمية منتظمة باستخدام 100 مسألة من مجموعة MATH-500، وهي منفصلة عن مجموعات التقييم.
• مقاييس التقييم: المقياس الأساسي هو المساحة تحت منحنى خصائص تشغيل المستقبِل (AUROC) للكشف عن الخطأ.
• المقارنات المرجعية (Baselines): تتم مقارنة أداء المجس مع:
  • الثقة المنطوقة (اليقين الذي يبلغ عنه النموذج ذاتياً).
    টি الاتساق الذاتي (Self-consistency): (التصويت بالأغلبية عبر توليدات متعددة).
  • البحث عن الاتساق التبايني (CCS): وهي طريقة غير خاضعة للإشراف للكشف عن الحقيقة.
  • مصنفات السطح النصي (Text-surface classifiers): (TF-IDF + انحدار لوجستي) المدربة على النص المولد.
• تجارب التدخل (Intervention Experiments): لاختبار السببية، يتم تطبيق أربع استراتيجيات تدخل متميزة على النماذج التي تظهر درجات عالية في الكشف عن الخطأ:
  1. توجيه التنشيط (Activation Steering): طرح اتجاه الخطأ المتعلم من الحالات الخفية أثناء التوليد.
  2. أفضل من N (Best-of-N Selection): توليد مسارات متعددة واختيار المسار الذي يسجل أدنى درجة خطأ متوقعة.
  3. التصحيح الذاتي (Self-Correction): استخدام المجس لتمييز الأخطاء وحث النموذج على المراجعة.
  4. رقعة التنشيط (Activation Patching): استبدال الحالات الخفية من مسار خاطئ بحالات من مسار صحيح (أو مزجها) لمعرفة ما إذا كان المخرج سيصبح صحيحاً.

تشمل الدراسة ثلاث عائلات من النماذج (Qwen, Llama, Phi)، وتتدرج في الحجم من 1.5 مليار إلى 72 مليار معلمة، وتتضمن نموذج DeepSeek-R1 المدرب بالتعزيز (RL).

3. النتائج الرئيسية

أ. الإشارة موجودة وتظهر مبكراً

تحقق المجسات الخطية درجات AUROC عالية للتنبؤ بصحة المسار، متفوقة بشكل كبير على الثقة المنطوقة والمقارنات المرجعية الأخرى.

• الأداء: في نموذج Qwen2.5-3B، حقق المجس 0.953 AUROC، مقارنة بـ 0.674 للثقة المنطوقة و0.823 للاتساق الذاتي (بتكلفة توليد 5 أضعاف).
• الكشف المبكر: الإشارة قابلة للكشف منذ خطوة الاستدلال الأولى (0.79 AUROC)، قبل ظهور أي خطأ في النص.
• القوة عبر المقاييس: الإشارة صامدة عبر مختلف الأحجام (1.5B–72B) وعائلات النماذج. والجدير بالذكر أن نموذج 72B حقق 0.977 AUROC، بينما حقق نموذج DeepSeek-R1-7B المقطر بالتعزيز 0.852 AUROC.

ب. الإشارة خفية (التستر)

هناك فجوة كبيرة بين الكشف الداخلي والتعبير الخارجي.

• فجوة التستر (The Concealment Gap): حقق مصنف السطح النصي 0.59 AUROC فقط في الخطوة الأولى، بينما حقق مجس الحالة الخفية 0.79 AUROC. تؤكد هذه الفجوة البالغة 0.20 نقطة أن النموذج يخفي وعيه الداخلي بالخطأ.
• عدم تطابق الثقة: تعبر المسارات الخاطئة عن ثقة منطوقة عالية (4.55/5)، وهي متقاربة جداً مع المسارات الصحيحة (4.87/5).
• المنطقة غير المخلصة (Unfaithful Region): 65% من المسارات الخاطئة تقع في منطقة "الثقة العالية ودرجة الخطأ الداخلية العالية"، مما يشير إلى أن النموذج واثق في استدلاله المعيب.

ج. الإشارة تشخيصية وليست سببية

على الرغم من قدرة النموذج على الكشف عن الأخطاء داخلياً، إلا أن استراتيجيات التدخل الأربع فشلت في تحسين الدقة، وفي بعض الحالات، أدت إلى تراجع الأداء.

• توجيه التنشيط: طرح اتجاه الخطأ أدى إلى مكاسب هامشية (+4% كحد أقصى) أو تراجع الأداء (−6% لنموذج 3B مع التوجيه القوي).
• اختيار أفضل من N: اختيار المسارات بناءً على درجة الخطأ للمجس لم يكن أفضل من الاختيار العشوائي، وتراجع بشكل كبير عن التصويت بالأغلبية.
• التصحيح الذاتي: حث النموذج على المراجعة بناءً على إشارات المجس أدى فعلياً إلى تقليل الدقة (−3%).
• رقعة التنشيط: استبدال الحالات الخفية من مسار خاطئ بحالات من مسار صحيح دمر تماسك المخرج، مما أدى بالدقة إلى 0% في نموذج 3B. يشير هذا إلى أن إشارة الخطأ هي "قراءة تشخيصية" لجودة الحوسبة، وليست "رافعة سببية" يمكن تعديلها لإعادة توجيه عملية الاستدلال.

4. المساهمات الرئيسية

1. تحديد الوعي بالخطأ الخفي: تثبت الورقة وجود فجوة قوية تبلغ 0.20 AUROC بين الكشف عبر الحالات الخفية والكشف عبر السطح النصي عبر 9 نماذج (1.5B–72B) وثلاث عائلات. وهذا يثبت أن النماذج تكتشف أخطاءها داخلياً بينما تخفيها خارجياً.
2. التمييز بين التشخيص والسببية: من خلال تجارب التدخل الأربعة، يوضح المؤلفون أن تمثيلات الخطأ أثناء الاستدلال تختلف جوهرياً عن تمثيلات المعرفة الواقعية. فبينما يمكن تحديد وتعديل المعرفة الواقعية (مثل ROME أو ITI)، فإن إشارات الخطأ في الاستدلال هي قراءات تشخيصية لا يمكن التلاعب بها سببياً لإصلاح مسار الاستدلال.
3. التوصيف الزمني: تحدد الدراسة نظامين زمنيين لترميز الخطأ: النظام المحمل في المقدمة (حيث يلتزم النموذج بمسار معيب مبكراً، كما في نماذج 3B) والنظام التراكمي (حيث تتراكم إشارات الخطأ مع زيادة الأدلة، كما في نماذج 7B).

5. الأهمية والادعاءات

ترسم الورقة حدوداً لـ "تفسير الآليات" (Mechanistic Interpretability). ويجادل المؤلفون بأن "تشبيه ميزان الحرارة" ينطبق هنا: فالمجس يعمل كميزان حرارة يمكنه قراءة "درجة الحرارة" (الجودة) للحوسبة، لكنه لا يستطيع "علاج" الحمى (إصلاح الخطأ).

• الآثار الأمنية: تدقيق مسارات "سلسلة الأفكار" غير موثوق لمراقبة السلامة لأن إشارات الخطأ غير مرئية في النص المولد.
• محدودية الأدوات الحالية: الأدوات الناجحة في تعديل المعرفة الواقعية (مثل رقعة التنشيط) غير فعالة في جودة الاستدلال لأن الاستدلال ينبثق من حوسبة موزعة ومتعددة الطبقات بدلاً من كونه ميزة واحدة قابلة للتعديل.
• الاتجاه المستقبلي: سد الفجوة بين الكشف والتصحيح يتطلب على الأرجال أهداف تدريب جديدة تعلم النماذج كيف "تتصرف" بناءً على إشارات الخطأ الداخلية، بدلاً من مجرد حملها كقراءات سلبية.

تخلص الورقة إلى أنه بينما تمتلك النماذج اللغوية الكبيرة إشارات تنبؤية بإخفاقاتها، فإن هذه الإشارات هي ظواهر ثانوية (Epiphenomenal) لعملية الاستدلال نفسها، وتمثل عائقاً أساسياً أمام النهج الحالي للتصحيح الذاتي والتعديل الآلي للاستدلال.