💬 NLP

Self-Verification Dilemma: Experience-Driven Suppression of Overused Checking in LLM Reasoning

تحدد هذه الورقة أن نماذج الاستدلال الكبيرة تنخرط تكراراً في خطوات تحقق ذاتي غير منتجة، وتقترح إطار عمل وقت الاختبار مدفوعاً بالخبرة يستفيد من النتائج التاريخية لكبح عمليات التحقق الزائدة هذه، مما يقلل بشكل كبير من استهلاك الرموز (tokens) مع الحفاظ على الدقة أو تحسينها.

المؤلفون الأصليون: Quanyu Long, Kai Jie Jiang, Jianda Chen, Xu Guo, Leilei Gan, Wenya Wang

نُشر 2026-02-04

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Quanyu Long, Kai Jie Jiang, Jianda Chen, Xu Guo, Leilei Gan, Wenya Wang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "معضلة التحقق الذاتي: كبح عمليات التحقق المفرطة الناتجة عن الخبرة في نماذج اللغة الكبيرة (LLM) أثناء الاستنتاج"، مقسمة إلى مفاهيم بسيطة مع تشبيهات إبداعية.

المشكلة الكبرى: الطالب "كثير التفكير"

تخيل طالباً عبقرياً يؤدي اختباراً في الرياضيات. هذا الطالب ذكي جداً وقد تم تدريبه على مراجعة عمله بدقة. ومع ذلك، لديه عادة سيئة: إنه يراجع عمله أكثر مما ينبغي.

في كل مرة يحل فيها خطوة بسيطة (مثل جمع رقمين)، يتوقف فوراً، ويعيد الحساب، ويتأكد مرة أخرى، ثم يتأكد للمرة الثالثة.

الواقع: في 90% من الحالات، كانت إجابته الأولى صحيحة بالفعل.
التكلفة: بحلول الوقت الذي ينهي فيه الاختبار، يكون قد استنفد كل وقته وطاقته في إعادة مراجعة أشياء لم تكن بحاجة للمراجعة. إنه "كثير التفكير".

تجادل هذه الورقة البحثية بأن نماذج الاستنتاج الحديثة (LRMs) — وهي أنظمة الذكاء الاصطناعي التي تحل المشكلات المعقدة — تعاني من نفس هذه المشكلة تماماً. فهي تولد سلاسل طويلة من الأفكار حيث تقوم باستمرار بـ "إعادة التحقق" من خطواتها الوسيطة، حتى عندما تكون تلك الخطوات صحيحة بشكل شبه مؤكد.

الاكتشاف: معظم عمليات التحقق هي مجرد "إيماءات تأكيد"

قام الباحثون بتحليل آلاف مسارات الاستنتاج من أفضل نماذج الذكاء الاصطناعي. ووجدوا أنه عندما تقوم هذه النماذج بـ "التفكير" (التوقف للتفكير فيما فعلته للتو)، فإنها تندرج غالباً تحت فئتين:

إعادة التفكير: تغيير الاستراتيجية بالكامل لأن المسار خاطئ. (هذا مفيد!)
إعادة التحقق: التحقق من عملية حسابية أجرتها للتو. (هذا غالباً غير مفيد!)

الاكتشاف الصادم:
من بين كل عمليات "إعادة التحقق" التي قامت بها النماذج، كانت 85% إلى 95% منها مجرد عمليات "تأكيدية".

تشبيه: تخيل أنك تغلق باب منزلك، ثم تلتفت فوراً، وتفتح القفل، ثم تغلقه مرة أخرى، وتقول: "نعم، إنه مغلق". أنت لم تجد خطأً؛ بل أضعت الوقت فقط لتؤكد ما كنت تعرفه بالفعل.
كانت النماذج نادراً ما تجد أخطاءً حقيقية. كانت فقط تهدر "الرموز" (Tokens) (الطاقة الحسابية) لتقول: "لقد تحققت، وما زلت على صواب".

الحل: "أمين المكتبة الخبير"

سأل المؤلفون: كيف يتعامل البشر مع هذا الأمر؟
عندما يقوم خبير بشري بمهمة روتينية (مثل إيجاد المشتقة لمعادلة قياسية)، فإنه لا يعيد التحقق منها في كل مرة. هم يعتمدون على الخبرة. هم يعرفون: "لقد فعلت هذا آلاف المرات، وكان دائماً صحيحاً. سأثق بحدسي وأنتقل للخطوة التالية".

تقترح الورقة نظاماً جديداً يسمى "الكبح المدفوع بالخبرة" (EDS) الذي يمنح الذكاء الاصطناعي هذا "الحدس" دون تغيير "دماغ" الذكاء الاصطناعي.

كيف يعمل (التشبيه):
تخيل أن لدى الذكاء الاصطناعي أميناً للمكتبة يقف بجانبه أثناء حل المشكلات.

المحفز: يبدأ الذكاء الاصطناعي في قول: "مهلاً، دعني أتحقق من هذه العملية الحسابية مرة أخرى".
الاستعلام: ينظر الأمين فوراً في "كتاب خبرة" ضخم (قاعدة بيانات مبنية من أمثلة استنتاج سابقة).
البحث: يسأل الأمين: "هل احتاج هذا النوع المحدد من العمليات الحسابية إلى إعادة تحقق في الماضي؟"
الحكم:
- إذا قال الكتاب: "في 9 من أصل 10 حالات مشابهة، كانت إعادة التحقق هذه غير ضرورية"، يهمس الأمين للذكاء الاصطناعي: "توقف! لا تحتاج للتحقق من هذا. إنه صحيح. انتقل للخطوة التالية."
- إذا قال الكتاب: "هذه حالة صعبة حيث تحدث الأخطاء غالباً"، يقول له: "استمر، وتحقق من ذلك."

النتائج: أسرع وأذكى

اختبر الباحثون نظام "الأمين" هذا على عدة اختبارات رياضية. وإليكم ما حدث:

كلام أقل، ذكاء مماثل: توقف الذكاء الاصطناعي عن إضاعة الوقت في عمليات إعادة التحقق غير الضرورية. لقد استهلك كلمات (رموز) أقل بنسبة تصل إلى 20% لحل نفس المشكلات.
الدقة لم تنخفض: نظرًا لأن النظام قام فقط بكبح عمليات التحقق التي كان من المحتمل ألا تكون ضرورية (بناءً على التاريخ)، فإن النماذج لم تفقد الأخطاء الحقيقية. في الواقع، في بعض الاختبارات، ارتفدت الدقة قليلاً، ربما لأن النماذج كان لديها المزيد من "الطاقة الذهنية" المتبقية للأجزاء الصعبة من المشكلة.
لا جراحة للدماغ: الجزء الأفضل هو أنهم لم يضطروا لإعادة تدريب الذكاء الاصطناعي أو تغيير كوده الداخلي. لقد أضافوا فقط مرشح "الأمين" الخارجي هذا الذي يعمل أثناء تفكير الذكاء الاصطناعي.

ملخص في جملة واحدة

تظهر هذه الورقة أن نماذج الذكاء الاصطناعي تضيع الكثير من الوقت في إعادة التحقق من الأشياء الصحيحة بالفعل، ومن خلال استخدام مرشح بسيط "قائم على الخبرة" لإخبارها متى تتوقف عن التحقق، يمكننا جعلها أسرع وأكثر كفاءة دون جعلها أقل دقة.

ملخص تقني: معضلة التحقق الذاتي: التثبيط المدفوع بالخبرة للإفراط في استخدام عمليات التحقق في نماذج اللغات الكبيرة (LLM)

1. بيان المشكلة

تحقق نماذج الاستدلال الكبيرة (LRMs)، مثل OpenAI o1 وDeepSeek-R1، أداءً عالياً في المهام المعقدة من خلال توليد مسارات استدلال طويلة تتضمن التأمل والتصحيح الذاتي. ومع ذلك، يكشف التحليل التجريبي عن عدم كفاءة حرجة: حيث يتكون جزء كبير من خطوات التأمل هذه من التحقق الذاتي (إعادة الفحص) التي تؤكد النتائج الوسيطة بشكل متكرر.

تتمثل المشكلة الجوهرية المحددة في عدم التوافق بين وتيرة التحقق الذاتي وفائدته. فبينما تنخرط النماذج بشكل متكرر في إعادة الفحص، فإن الغالبية العظمى من هذه الحالات هي حالات تأكيدية (للتحقق من أن النتيجة صحيحة) وليست تصحيحية (لتحديد الخطأ وإصلاحه). وبناءً على ذلك، غالبًا ما تفرط النماذج في "التفكير الزائد"، مما يستهلك موارد حوسبية كبيرة (رموز/tokens) لإعادة التحقق من خطوات نادراً ما تغير نتيجة الاستدلال. يشير هذا التكرار إلى أن نماذج اللغات الكبيرة الحالية تفتقر إلى القدرة على تطبيق التحقق الذاتي بشكل انتقائي، حيث تتعامل معه كضمان غير مشروط بدلاً من كونه أداة تعتمد على السياق.

2. المنهجية

يقترح المؤلفون التثبيط المدفوع بالخبرة (EDS)، وهو إطار عمل للعمل في وقت الاختبار (test-time) مصمم لتقليل الإفراط في استخدام التحقق دون تعديل معاملات النموذج. يعمل هذا الأسلوب من خلال الاستفيد من "مجمع خبرات" (experience pool) غير متصل (offline) لتقدير مدى ضرورة إعادة الفحص قبل تنفيذها بالكامل.

2.1. التحليل التجريبي

قبل اقتراح الحل، أجرى المؤلفون تحليلاً واسع النطاق لمسارات الاستدلال لأربعة نماذج (Qwen3-8B, QwQ-32B, gpt-oss-20b, DeepSeek-R1-Distill-Qwen-7B) عبر أربعة اختبارات مرجعية رياضية (AIME24/25, AMC, MATH500). وشملت النتائج الرئيسية ما يلي:

وتيرة عالية: تشكل خطوات التأمل ما بين 18-47% من إجمالي خطوات الاستدلال، وغالباً ما تتجاوز الثلث.
هيمنة إعادة الفحص: تُصنف سلوكيات التأمل إلى إعادة تفكير (مراجعة الاستراتيجية) وإعادة فحص (التحقق المحلي). وتستحوذ عمليات إعادة الفحص على 40-58% من جميع عمليات التأمل، لا سيالما في مجموعات البيانات الأبسط.
فائدة منخفضة: حوالي 85-95% من عمليات إعادة الفحص هي عمليات تأكيدية، حيث تفشل في تحديد الأخطاء أو تغيير الإجابة النهائية.

2.2. إطار عمل EDS

يتكون إطار عمل EDS من ثلاثة مكونات رئيسية:

بناء ذاكرة الخبرة (غير متصل - Offline):
- جمع البيانات: يتم جمع مخرجات الاستدلال، واستخراج الجمل التي تبدأ عمليات إعادة الفحص (مثل: "دعني أتأكد"، "أتحقق").
- التوسيم (Annotation): يقوم نموذج لغوي كبير (GPT-5) بتوسيم هذه الحلقات لتحديد ما إذا كانت إعادة الفحص ضرورية (تصحيحية) أم غير ضرورية (تأكيدية).
- التخزين: تشكل هذه الحلقات الموسومة مجمع خبرة $C = \{e_1, \dots, e_n\}$ ، حيث تحتوي كل وحدة على سياق إعادة الفحص وتسم (label) ثنائي ( $y_i \in \{0, 1\}$ ).
الكشف والاسترجاع (وقت الاختبار - Test-Time):
- كشف التنشيط: يقوم مصنف ثنائي خفيف الوزن (مدرب على جمل إعادة الفحص المستخرجة) بمراقبة توليد النموذج في الوقت الفعلي. إذا تم التنبؤ بأن جملة ما تبدأ عملية إعادة فحص، يتم تفعيل النظام.
- استرجاع السياق: تُستخدم نافذة سياق ثابتة الحجم تحيط بالتنشيط كاستعلام لاسترجاع أكثر $k$ من وحدات الخبرة تشابهاً من المجمع غير المتصل باستخدام مسترجع متفرق (BM25).
قرار التثبيط:
- تقدير الضرورة: يقوم النظام بتجميع التسميات (labels) الخاصة بالخبرات المسترجعة. ويحسب احتمال أن تكون إعادة الفحص الحالية غير ضرورية ( $P_{unnec}$ ) بناءً على نسبة عمليات إعادة الفحص المماثلة في الماضي التي كانت تأكيدية.
- إشارة التثبيط: إذا تجاوزت $P_{unnec}$ عتبة محددة مسبقاً $\tau$ ، يقوم النظام بحقن إشارة نصية قصيرة (مثل: "هذه النتيجة لا تتطلب مزيداً من التحقق، دعني أستمر...") مباشرة بعد جملة التنشيد. توجه هذه الإشارة النموذج لتخطي عملية التحقق والمضي قدماً إلى خطوة الاستدلال التالية.

من المهم ملاحظة أن EDS يستهدف فقط سلوكيات إعادة الفحص. فهو لا يثبط سلوكيات إعادة التفكير (تغيير الاستراتيجية)، والتي تُعتبر أساسية لحل المشكلات المعقدة.

3. المساهمات الرئيسية

تحديد معضلة التحقق الذاتي: تقدم الورقة دليلاً تجريبياً على أن التحقق الذاتي في نماذج الاستدلال الكبيرة هو في الغالب تأكيدي ومتكرر، مما يؤدي إلى استهلاك غير فعال للحوسبة دون مكاسب متناسبة.
آلية تحكم مدفوعة بالخبرة: يقدم المؤلفون طريقة مبتكرة لا تتطلب تدريباً، تستخدم نتائج التحقق التاريخية لتوجيه سلوك وقت الاختبار، مما يعلم النموذج فعلياً كيف "يثق" في خطواته السابقة في السياقات المألوفة.
استراتيجية التثبيط الانتقائي: على عكس الأعمال السابقة التي تقطع الاستدلال عالمياً أو بناءً على الصعوبة، يقوم EDS بتثبيط عمليات إعادة الفحص منخفضة الفائدة فقط، مما يحافظ على قدرة النموذج على إعادة التفكير وتصحيح الأخطاء الحقيقية.

4. النتائج التجريبية

تم تقييم الطريقة على خمسة اختبارات مرجعية (AIME24/25, AMC23, MATH500, Olympiad Bench) باستخدام ثلاثة نماذج.

الكفاءة: قلل EDS متوسط طول الاستدلال بنسبة 8.6% إلى 9.0% عبر النماذج، مع وصول الانخفاض إلى 20.3% في مجموعة بيانات MATH500.
الدقة: على عكس "التثبيط الكامل" (الذي يثبط جميع عمليات إعادة الفحص بعشوائية ويؤدي لتدهور الدقة) أو "المحاولة الأولى هي الأهم" (FTM، الذي يقطع الاستدلال بعد أول إجابة)، حافظ EDS على الدقة أو حسنها قليلاً.
- بالنسبة لنموذج Qwen3-8B، حسن EDS متوسط الدقة بمقدار +0.48% مع تقصير الاستدلال.
- بالنسبة لنموذج QwQ-32B، حسن EDS متوسط الدقة بمقدار +0.57%.
- في بعض مجموعات البيانات المحددة (مثل AMC لنموذج Qwen3-8B)، بلغت التحسينات في الدقة +3.13%.
المقايضة: أظهر المؤلفون مقايضة قابلة للضبط بين الدقة والكفاءة عبر العتبة $\tau$ . العتبات الأعلى (تثبيط أكثر تحفظاً) حافظت على الدقة، بينما العتبات الأقل زادت من الكفاءة مع مخاطرة طفيفة في الصحة.

5. الأهمية والادعاءات

تدعي الورقة أن انتشار التحقق الذاتي المتكرر يمثل عدم كفاءة جوهرية في نماذج الاستدلال الحالية للغات الكبيرة. ومن خلال إثبات أن نتائج التحقق الماضية يمكن أن تتنبأ بشكل موثوق بفائدة عمليات التحقق المستقبلية، يجادل المؤلفون بأنه يمكن تحسين عمليات الاستدلال دون إعادة تدريب النموذج الأساسي.

تكمن أهمية هذا العمل في:

تقليل التكلفة: تقليل استخدام الرموز (tokens) وزمن انتقال الاستدلال بنسبة تصل إلى 20% دون التضحية بجودة الحل.
الرؤية المنهجية: تحويل منظور التأمل من "آلية سلامة" موحدة إلى عملية انتقائية موجهة بالخبرة.
القابلية للتوسع: توفير حل عملي وجاهز للاستخدام (plug-and-play) لنشر نماذج استدلال أكثر كفاءة في البيئات ذات الموارد المحدودة.

يخلص المؤلفون إلى أنه بينما يعد التأمل مركزياً لموثوقية نماذج الاستدلال الكبيرة، فإن تنفيذه الحالي غالباً ما يكون مفرط الاستخدام. يوفر التثبيط المدفوع بالخبرة مساراً لمواءمة وتيرة التحقق مع فائدته الفعلية، مما يسمح باستدلال أكثر كفاءة وقابلية للتوسع.