💬 NLP

How Do Answer Tokens Read Reasoning Traces? Self-Reading Patterns in Thinking LLMs for Quantitative Reasoning

تستقصي هذه الورقة كيفية انتباه رموز الإجابة في النماذج اللغوية الكبيرة التي تعتمد على التفكير إلى مسارات الاستدلال أثناء المهام الكمية، حيث تحدد نمط "القراءة الذاتية الحميدة" المرتبط بالصحة، وتستفيد من هذه الرؤية لاقتراح طريقة توجيه خالية من التدريب تعمل على تحسين الدقة عبر توجيه الاستدلال نحو انتباه منظم ومرتكز على الأدلة.

المؤلفون الأصليون: Haoyang Chen, Yi Liu, Jianzhi Shao, Tao Zhang, Chengfu Huo, Wei Hu

نُشر 2026-04-22

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Haoyang Chen, Yi Liu, Jianzhi Shao, Tao Zhang, Chengfu Huo, Wei Hu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك صديقًا عبقريًا لكنه مشتت الذهن قليلاً، يحاول حل مسألة رياضية معقدة. قبل أن يعطيك الإجابة النهائية، يكتب دفتر ملاحظات طويلًا وفوضويًا يحتوي على أفكاره، وحساباته، ولحظات مثل "انتظر، دعني أتحقق من ذلك مجددًا". هذا هو بالضبط ما تفعله نماذج "الذكاء الاصطناعي المفكر" الحديثة: إنها تولد أثر استدلال (دفتر الملاحظات) قبل إنتاج الإجابة (النتيجة النهائية).

هذه الورقة البحثية تطرح سؤالاً رائعاً: كيف يقرأ جزء "الإجابة" في الذكاء الاصطناعي هذا الدفتر الفوضوي فعلياً؟

اكتشف الباحثون أنه عندما يصيب الذكاء الاصطناعي في الإجابة، فإنه يقرأ ملاحظاته بطريقة محددة وواثقة للغاية. وعندما يخطئ، فإنه يقرأها بطريقة مرتبكة وفوضوية. ثم قاموا ببناء أداة تجبر الذكاء الاصطناعي على قراءة ملاحظاته بالطريقة "الواثقة"، مما يجعله أكثر ذكاءً.

إليك التفاصيل باستخدام تشبيهات بسيطة:

1. الطريقتان في القراءة: "المرشد السياحي" مقابل "السائح التائه"

وجد الباحثون نمطين متميزين في كيفية نظر "الإجابة" (الرموز الناتجة عن الإجابة) إلى رموز "الاستدلال" (الرموز التي سبقتها):

نمط القراءة "المفيد" (الجيد) (المرشد السياحي الواثق):
- الانجراف الأمامي: تخيل مرشداً سياحياً يسير عبر متحف. بينما يشرح المعرض، يتحرك بثبات للأمام، مشيراً إلى اللوحة التالية، ثم التي تليها. إنه لا يعود باستمرار إلى المدخل. والذكاء الاصطناعي يفعل ذلك أيضاً: بينما يكتب الإجابة، يتحرك انتباهه بسلاسة نحو الأمام عبر خطوات الاستدلال، متبعاً التدفق المنطقي.
- المرتكزات الدلالية: يتوقف المرشد أيضاً ليشير إلى أهم الأشياء: التمثال الرئيسي، القطعة الأثرية النادرة، علامة الخروج. والذكاء الاصطناعي يفعل ذلك أيضاً من خلال التركيز المتكرر على الأجزاء الرئيسية من ملاحظاته، مثل قواعد المسألة أو الحساب النهائي، متجاهلاً الأفكار الفوضوية مثل "انتظر، ربما...".
- النتيجة: هذا النمط يشير إلى اليقين الداخلي. الذكاء الاصطناعي يعرف أن لديه المسار الصحيح وهو فقط يقوم بتدوينه.
نمط القراءة "غير المستقر" (السيئ) (السائح التائه):
- الانتباه المشتت: تخيل سائحاً تائهاً. إنه يدور في دوائر، ينظر إلى السقف، ثم إلى الأرض، ثم يعود إلى الغرفة الأولى، ثم يقفز إلى متجر الهدايا. يتنقل انتباه الذكاء الاصطناعي عشوائياً، وينظر إلى أجزاء غير ذات صلة من الاستدلال أو يعلق في حلقات مفرغة.
- غياب التركيز: إنه لا يركز على الحقائق الرئيسية. الأمر يشبه محاولة قراءة خريطة أثناء هز الكاميرا.
- النتيجة: هذا يشير إلى عدم اليقين المعرفي. الذكاء الاصطناعي يخمن ولا يثق في ملاحظاته الخاصة.

2. الحل: درجة "جودة القراءة الذاتية" (SRQ)

أنشأ الباحثون نظام تسجيل يسمى SRQ لقياس مدى جودة قراءة الذكاء الاصطناعي لملاحظاته:

الدرجة الهندسية: هل يتحرك انتباه الذكاء الاصطناعي في خط مستقيم وسلس نحو الأمام؟ (مثل سهم مستقيم مقابل خط متعرج).
الدرجة الدلالية: هل ينظر الذكال الاصطناعي إلى الأجزاء المهمة من الملاحظات (القواعد، الاستنتاج) أم إلى الضجيج فقط؟

إذا كانت الدرجة عالية، فإن الذكاء الاصطناعي "يقرأ جيداً". وإذا كانت منخفضة، فإنه "يقرأ بشكل سيء".

3. الخدعة السحرية: توجيه الذكاء الاصطناعي

عادةً، لجعل الذكاء الاصطناعي أكثر ذكاءً، يجب عليك إعادة تدريبه من الصفر، وهو أمر يستغرق شهوراً وأجهزة كمبيوتر ضخمة. تقترح هذه الورقة طريقة لا تتطلب إعادة تدريب:

فكر في عقل الذكاء الاصطناعي كسيارة. لم يقم الباحثون بإعادة بناء المحرك؛ بل أضافوا فقط تصحيح توجيه بنظام GPS.

نظروا في آلاف الأمثلة حيث قرأ الذكاء الاصطناعي ملاحظاته "جيداً" (SRQ مرتفع) وحيث قرأها "بشكل سيء" (SRQ منخفض).
حسبوا الفرق في نشاط دماغ الذكاء الاصطناعي بين هاتين الحالتين.
أنشأوا "متجه توجيه" (دفعة بسيطة).
النتيجة: عندما يبدأ الذكاء الاصطناعي في توليد إجابة، يقومون بتطبيق هذه الدفعة. الأمر يشبه لف عجلة القيادة بلطف لإبقاء السيارة على المسار المستقيم والواثق، ومنعها من التيه في منطقة "السائح التائه".

4. لماذا يهم هذا الأمر؟

إنه يعمل: عندما طبقوا هذه "الدفعة"، ارتفقت دقة الذكاء الاصطناعي في المسائل الرياضية بشكل ملحوظ (بنسبة 2-3% تقريباً، وهي نسبة ضخمة في عالم الذكاء الاصطناعي).
إنه سريع: لم يحتاجوا لإعادة تدريب النموذج. لقد قاموا فقط بتغيير طريقة تفكيره أثناء توليد الإجابة.
إنه عالمي: نجح الأمر مع أنواع مختلفة من المسائل الرياضية ومختلف نماذج الذكاء الاصطناعي.

التشبيه الشامل للصورة الكبيرة

تخيل طالباً يؤدي امتحاناً.

قبل: يكتب الطالب مسودة طويلة وفوضوية. وعندما يصل إلى الإجابة النهائية، يصاب بالذعر، ويعيد قراءة مسودته عشوائياً، ويصاب بالارتباك، ويكتب الإجابة الخاطئة.
بعد (باستخدام طريقة هذه الورقة): يُعطى الطالب "مدرباً ذهنيًا" يقول له: "توقف عن الذعر. انظر إلى مسودتك. اتبع الخطوات التي كتبتها للتو. ركز على الصيغة الرئيسية التي وجدتها. أنت تعرف الإجابة، فقط اكتبها بثقة".

الطالب لا يتعلم رياضيات جديدة؛ هو فقط يتعلم كيف يثق في عمله ويقرأه بشكل أفضل. هذا هو بالضبط ما تعلمه هذه الورقة للذكاء الاصطناعي ليفعله.

إليك ملخص تقني مفصل للورقة البحثية بعنوان: "كيف تقرأ توكنات الإجابة مسارات الاستدلال؟ أنماط القراءة الذاتية في النماذج اللغوية الكبيرة المفكرة في الاستدلال الكمي".

1. بيان المشكلة

تنتج النماذج اللغوية الكبيرة (LLMs) "المفكرة"، مثل DeepSeek-R1 وسلسلة Qwen، مسارات استدلال صريحة قبل إنتاج الإجابة النهائية. وبينما ركزت الأبحاث السابقة على توجيه مسارات الاستدلال هذه (مثل جعلها أكثر صدقاً أو إيجازاً)، إلا أن هناك فجوة كبيرة في فهم كيف تقوم توكنات (tokens) الإجابة فعلياً بقراءة ودمج مسار الاستدلال السابق.

يتحرى المؤلفون ما إذا كانت الآلية التي تتبع بها توكنات الإجابة مسارات توكنات الاستدلال ترتبط بصحة الحل. وتحديداً، يتساءلون:

هل تُظهر توكنات الإجابة في الحلول الصحيحة نمط انتباه متميزاً ومنظماً مقارنة بالحلول الخاطئة؟
هل يمكن قياس سلوك "القراءة الذاتية" هذا كمياً واستخدامه كإشارة لتوجيه النموذج نحو نتائج أكثر موثوقية دون الحاجة لإعادة التدريب؟

2. المنهجية

أ. التحليل التجريبي لأنماط القراءة الذاتية

قام المؤلفون بتحليل آليات الانتباه لثلاثة نماذج لغوية كبيرة مفكرة رائدة (R1-Distill-Llama-8B، وR1-Distill-Qwen-7B، وQwen3-4B-Thinking) في مهام الاستدلال الكمي (GSM8K، وMATH500). وركزوا على الانتباه من الإجابة إلى الاستدلال (answer-to-reasoning attention) في طبقات المحولات (transformer layers) المتوسطة إلى المتأخرة.

وقد حددوا نمط "القراءة الذاتية الحميدة" (Benign Self-Reading) الذي يرتبط ارتباطاً وثيقاً بالحلول الصحيحة، ويتميز بسمتين:

مركز الانتباه المندفع للأمام (Forward-Drifting Attention Centroid): مع فك تشفير الإجابة، ينتقل "تركيز القراءة" (مركز الانتباه) لتوكنات الإجابة تدريجياً من المواقع المبكرة إلى المواقع المتأخرة في مسار الاستدلال. يشير هذا إلى أن النموذج يتبع مسار حل منطقي وخطي بدلاً من التخبط.
تركيز المرتكزات الدلالية (Semantic Anchor Concentration): تركز توكنات الإجابة بشكل متكرر على مرتكزات دلالية رئيسية (مثل قيود المسألة، خطط الحل، خطوات التحقق، والنتائج النهائية) بدلاً من توزيع الانتباه بشكل مشتت أو التركيز على أجزاء ضوضائية أو غير ذات صلة من المسار.

وعلى العكس من ذلك، أظهرت الحلول الخاطئة أنماط انتباه مشتتة، وغير منتظمة، وغير مندفعة للأمام، مما يشير إلى عدم اليقين المعرفي وعدم الالتزام بمسار حل محدد.

ب. مقياس جودة القراءة الذاتية (SRQ)

لصياغة هذه الملاحظات بشكل رسمي، اقترح المؤلفون مقياس جودة القراءة الذاتية (Self-Reading Quality - SRQ)، الذي يجمع بين الأبعاد الهندسية والدلالية:

البعد الهندسي (التحكم في العملية):
- يقيس مدى سلاسة الاندفاع الأمامي لمركز الانتباه.
- تشمل المقاييس: معامل ارتباط بيرسون بين موضع الإجابة وموضع الاستدلال ( $SRQ_{corr}$ )، والانحراف عن القطر ( $SRQ_{diag}$ )، والاتساق الأمامي المحلي ( $SRQ_{local\_cover}$ ).
البعد الدلالي (مراقبة المحتوى):
- يقيس ما إذا كان الانتباه يتركز على "توكنات جيدة" (القيود، الخطوات الصحيحة) مقابل "توكنات سيئة" (الأخطاء، المسارات المضللة).
- تشمل المقاييس: نسبة الانتباه على التوكنات الجيدة/السيئة ( $SRQ^{\pm}_{think}$ )، جودة الدعم لتوكنات الإجابة ( $SRQ^{\pm}_{ans}$ )، والتركيز على الحدود (بداية ونهاية الاستدلال).

ج. طريقة التوجيه الخالية من التدريب

بناءً على درجات SRQ، طور المؤلفون طريقة توجيه التنشيط الخالية من التدريب:

اختيار العينات: قاموا بتصنيف الحلول الصحيحة والخاطئة حسب درجات SRQ الخاصة بها. اختاروا أفضل 80% من الحلول الصحيحة (SRQ مرتفع) وأدنى 80% من الحلول الخاطئة (SRQ منخفض) لتشكيل مجموعات تباينية.
بناء المتجهات: باستخدام تقنيات هندسة التنشيط القياسية (مثل CAA، وConceptor، وPCA-CAA)، قاموا بحساب متجهات التوجيه ( $v = \mu_{+} - \mu_{-}$ ) من العينات عالية الجودة مقابل منخفضة الجودة المختارة.
التدخل أثناء الاستنتاج: أثناء عملية الاستنتاج، يتم إضافة هذه المتجهات إلى الحالات المخفية (hidden states) للنموذج (تحديداً في مرحلة توليد الإجابة، واختيارياً في مرحلة الاستدلال) لتوجيه النموذج نحو أنماط "القراءة الذاتية الحميدة".

3. المساهمات الرئيسية

اكتشاف القراءة الذاتية الحميدة: تحدد الورقة نمط انتباه مستقراً ومنظماً في النماذج اللغوية المفكرة، حيث تتبع توكنات الإجابة مسار الاستدلال بشكل منهجي وتراجع الأدلة الرئيسية. يُفسر هذا النمط كعلامة سلوكية على اليقين المعرفي الداخلي.
التوجيه المدفوع بـ SRQ: يقترح المؤلفون طريقة توجيه جديدة خالية من التدريب مدفوعة بدرجات SRQ، والتي تضفي طابعاً رسمياً على جودة القراءة الذاتية. توجه هذه الطريقة النماذج بعيداً عن أنماط القراءة غير المنظمة وغير المستقرة.
القدرة على التعميم والمتانة: ثبت أن الطريقة متوافقة مع آليات التوجيه المختلفة (CAA، Conceptor، PCA-CAA) وفعالة عبر بنيات نماذج مختلفة (Llama، Qwen) وفي اختبارات استدلال متنوعة (GSM8K، MATH500، SVAMP، AIME).

4. النتائج التجريبية

مكاسب الدقة: حسنت طريقة توجيه SRQ الدقة باستمرار عبر جميع النماذج والبيانات المختبرة.
- في GSM8K، تراوحت التحسينات بين 1.1% و2.6% فوق النماذج الأساسية. على سبيل المثال، تحسن نموذج R1-Distill-Llama-8B من 85.8% إلى 88.4% (باستخدام CAA) ووصل إلى 88.4% مع SRQ+CAA.
- في MATH500 (وهو اختبار أصعب)، لوحظت مكاسب مماثلة، حيث تحسن R1-Distill-Llama-8B بنسبة 2.3%.
- في SVAMP، أظهرت الطريقة نجاحاً في الانتقال (transfer)، حيث حسنت الدقة بنسبة تصل إلى 2.5% دون إعادة التدريب على بيانات SVAMP.
المقارنة مع SOTA: تفوقت الطة على تقنيات التوجيه الأخرى الموجهة للاستدلال مثل RepE، وSAE-free، وSEAL.
التعميم: حسنت الطريقة الأداء في المهام المعقدة مثل AIME24-25، مع مكاسب تصل إلى 6.6 نقطة على النموذج الأساسي، مما مكنها من حل المزيد من المسائل ذات مستوى المسابقات.
اليقين المعرفي: أظهرت النماذج الموجهة بواسطة SRQ ثقة أعلى في الاستنتاج (احتمالية التوكنات المولدة)، مما يؤكد أن الطريقة تحفز حالة من اليقين الداخلي الأعلى.
دراسات الاستئصال (Ablation Studies): أدى حذف أي من البعد الهندسي أو الدلالي لـ SRQ إلى تقليل الأداء، وكان للبعد الهندسي تأثير أقوى قليلاً.
الحفاظ على التأمل (Reflection): لم تقمع طريقة التوجيه قدرة النموذج على إجراء التصحيح الذاتي أو التأمل الضروري (مثل "انتظر"، "دعني أتحقق")، بل قللت فقط من التردد الزائد.

5. الأهمية

الفهم الآلي (Mechanistic Insight): تقدم الورقة فهماً آلياً أعمق لكيفية توليد النماذج اللغوية المفكرة للإجابات، كاشفةً أن عملية "القراءة" لتوكنات الإجابة هي عامل حاسم في الصحة.
المواءمة الفعالة: توفر نهجاً عالي الكفاءة خالياً من التدريب لتحسين أداء الاستدلال. على عكس الضبط الدقيق (fine-tuning)، تتطلب هذه الطة فقط التلاعب بالتنشيط أثناء الاستنتاج، مما يجعلها قابلة للتوسع ومنخفضة التكلفة.
القياس المعرفي: تتوافق النتائج مع النظريات المعرفية حول "ما وراء المعرفة" (metacognition)، حيث تعمل "مرحلة الإجابة" كمراقب على مستوى "ما وراء المستوى" (meta-level) يتحكم في عملية الاستدلال ويتحقق من صحتها.
الاتجاهات المستقبلية: تشير هذه الدراسة إلى أن مراقبة وتوجيه دمج الاستدلال (القراءة الذاتية) لا يقل أهمية عن توجيه توليد الاستدلال نفسه، مما يفتح آفاقاً جديدة لتحسين الموثوقية في مهام الاستدلال المعقدة.