💬 NLP

How Uncertainty Estimation Scales with Sampling in Reasoning Models

تُثبت هذه الورقة أنه بينما يتحسن كل من الاتساق الذاتي والثقة اللفظية مع أخذ العينات في نماذج الاستدلال، فإن مُقدِّرًا هجينًا يجمع بين هاتين الإشارتين يحقق تقديرًا فائقًا لعدم اليقين بأقل عدد من العينات، متميزًا بشكل خاص في الرياضيات مقارنة بمجالات العلوم والتكنولوجيا والهندسة والرياضيات والعلوم الإنسانية.

المؤلفون الأصليون: Maksym Del, Markus Kängsepp, Marharyta Domnich, Ardi Tampuu, Lisa Yankovskaya, Meelis Kull, Mark Fishel

نُشر 2026-03-20

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Maksym Del, Markus Kängsepp, Marharyta Domnich, Ardi Tampuu, Lisa Yankovskaya, Meelis Kull, Mark Fishel

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك طالباً عبقرياً ولكنه مغرور أحياناً يُدعى "روبو-المستنتج" (Reasoning-Robo). عندما تسأله سؤالاً صعباً (مثل مسألة رياضية معقدة أو سؤال تاريخي مخادع)، فإنه لا يلقي الإجابة ببساطة. بدلاً من ذلك، يجلس، ويفكر بصوت عالٍ، ويكتب مقالاً طويلاً عن عملية تفكيره، ثم يعطيك الإجابة النهائية.

هذه الورقة البحثية تدور حول اكتشاف كيف نعرف متى يكون "روبو" متأكداً حقاً من إجابته، ومتى يكون مجرد مُخمّن.

إليك تفصيل الدراسة باستخدام تشبيه بسيط: اختبار "الدراسة الجماعية" مقابل "التأمل الذاتي".

المشكلة: كيف نقيس الشك؟

عندما توظف ذكاءً اصطناعياً ذكياً، فأنت لا تريد منه أن يعطيك إجابة خاطئة بكل ثقة. بل تريده أن يقول: "لست متأكداً من هذا"، حتى تتمكن من التحقق مجدداً. ولكن كيف تقيس هذا "الشك" دون التلصص داخل عقل الروبوت (وهو أمر مستحيل)؟

اختبر الباحثون طريقتين رئيسيتين لسؤال "روبو" عن مدى تأكده:

طريقة "التأمل الذاتي" (الثقة اللفظية): تسأل "روبو": "على مقياس من 1 إلى 100، ما مدى ثقتك في أن إجابتك صحيحة؟"
طريقة "الدراسة الجماعية" (الاتساق الذاتي): تسأل "روبو" نفس السؤال 5 أو 10 مرات. إذا أعطاك نفس الإجابة في كل مرة، فهو على الأرجح واثق. أما إذا أعطاك 10 إجابات مختلفة، فهو مرتبك.

الاكتشاف الكبير: "فريق الشخصين" هو الفائز

جرب الباحثون هذه الطرق بمفردها ومعاً، باستخدام أعداد مختلفة من "المحاولات" (العينات). وإليك ما وجدوه، مترجماً إلى لغة الحياة اليومية:

1. "التأمل الذاتي" بداية جيدة، لكنه يتعب بسرعة.

سؤال "روبو" مرة واحدة: "ما مدى تأكدك؟" يعمل بشكل جيد إلى حد ما. الأمر يشبه سؤال طالب: "هل تعرف هذا؟" فيجيب: "نعم، أنا متأكد تماماً".

العائق: إذا طلبت من "روبو" القيام بذلك 8 مرات للحصول على متوسط أفضل، فإن التحسن يكون ضئيلاً. الأمر يشبه سؤال نفس الطالب نفس السؤال 8 مرات؛ سيظل يكرر نفس الشعور فقط.

2. "الدراسة الجماعية" بطيئة في البداية.

سؤال "روبو" للإجابة على نفس السؤال 8 مرات ورؤية ما إذا كانوا يتفقون (الاتساق الذاتي) يشبه قليلاً طلب من 8 طلاب مختلفين حل مسألة ما.

العائق: في البداية (مع 2 أو 3 محاولات فقط)، تكون هذه الطريقة في الواقع أسوأ من مجرد سؤال "روبو" مرة واحدة عن مدى تأكده. يتطلب الأمر الكثير من "المحاولات" قبل أن يبدأ الفريق في الاتفاق بما يكفي ليكون مفيداً.

3. المزيج السحري: "فريق الشخصين" (الهجين)

هذا هو الاكتشاف الأهم.
بدلاً من طلب من "روبو" القيام بـ 8 جلسات تفكير عميق بمفرده، وجد الباحثون أن سؤاله مرتين فقط والجمع بين الطريقتين يعد تغييراً جذرياً لقواعد اللعبة.

الاستراتيجية:
1. اسأل "روبو" السؤال مرة واحدة واسأله: "ما مدى تأكدك؟" (التأمل الذاتي).
2. اسأل "روبو" السؤال للمرة الثانية وانظر ما إذا كانت الإجابة تطابق الأولى (الدراسة الجماعية).
3. اجمع بين الإشارتين.

التشبيه: تخيل أنك تحاول تخمين الفائز في سباق خيول.

الطريقة (أ): تسأل خبيراً واحداً: "ما مدى ثقتك؟" (جيدة، لكنها قد تكون منحازة).
الطريقة (ب): تسأل 8 خبراء مختلفين لاختيار حصان، وترى ما إذا كانوا يتفقون (بطيئة، وتتطلب مجهوداً كبيراً).
الطة (ج) (الفائزة): تسأل خبيراً واحداً عن مدى تأكده، ثم تطلب من خبير ثانٍ اختيار حصان. إذا اختار الخبير الثاني نفس الحصان الذي كان الخبير الأول واثقاً منه، فأنت واثق للغاية. إذا اختاروا حصاناً مختلفاً، فأنت تعلم أن عليك توخي الحذر.

وجدت الورقة البحثية أن نهج "فريق الشخصين" هذا كان أفضل بشكل ملحوظ من طلب من شخص واحد أن يفكر بعمق 8 مرات. لقد قدم أدق "مقياس للشك" بأقل قدر من العمل.

الفرق بين "الرياضيات" و"التاريخ"

نظرت الدراسة أيضاً في نوع الأسئلة التي يجيب عليها "روبو".

المسائل الرياضية: "روبو" يشبه عبقري الرياضيات الذي تم تدريبه خصيصاً لهذا الغرض. في الرياضيات، عمل "فريق الشخصين" بشكل رائع للغاية. فالإشارات (الثقة + الاتفاق) تكمل بعضها البعض بشكل مثالي.
التاريخ/العلوم الإنسانية: "روبو" يشبه الشخص العام في هذه المجالات. لا يزال "فريق الشخصين" يعمل، لكن التحسن لم يكن دراماتيكياً كما في الرياضيات. الأمر يشبه طلب من عبقري رياضيات أن يخمن حبكة فيلم؛ قد يكون جيداً، لكنه ليس متخصصاً بنفس القدر.

الخلاصة للحياة الواقعية

إذا كنت تبني أو تستخدم أنظمة ذكاء اصطناء تحتاج إلى الأمان والموثوقية (مثل التشخيص الطبي أو الاستشارات القانونية):

لا تعتمد فقط على تفكير عميق واحد. طلب التفكير بعمق من الذكاء الاصطناعي لمرة واحدة لا يكفي لمعرفة ما إذا كان على صواب.
لا تطلب منه التفكير 100 مرة فقط. فهذا مكلف وبطيء للغاية.
قم بـ "رقصة الخطوتين": اطلب من الذكاء الاصطناعي حل المشكلة مرتين.
- تحقق مما إذا كانت الإجابات متطابقة.
- تحقق من مدى الثقة التي أبداها الذكاء الاصطناعي.
- اجمع بين هاتين القطعتين من المعلومات.

هذه الحيلة البسيطة تمنحك أفضل "جهاز كشف كذب" لشكوك الذكاء الاصطناعي، مما يوفر الوقت والمال ويجعل الذكاء الاصطناعي أكثر موثوقية بكثير. إنها تحول الـ "ربما" إلى "على الأرجح" أو "بالتأكيد لا" بأقل مجهود إضافي.

إليك ملخص تقني مفصل لورقة البحث بعنوان "كيف يتدرج تقدير عدم اليقين مع أخذ العينات في نماذج الاستنتاج" (How Uncertainty Estimation Scales with Sampling in Reasoning Models).

1. بيان المشكلة

تعمل نماذج اللغة الاستنتاجية (RLMs) على توسيع نطاق نماذج اللغة الكبيرة (LLMs) القياسية من خلال توظيف عمليات تفكير ممتدة عبر "سلسلة الأفك‏ر" (Chain-of-Thought - CoT). وبينما يؤدي هذا إلى تحسين دقة الإجابة، إلا أنه يفرض تحديًا حرجًا فيما يتعلق بـ تقدير عدم اليقين (Uncertainty Estimation):

التكلفة العالية لأخذ العينات: في نماذج (RLMs)، تتضمن عملية توليد عينة واحدة مسار استنتاج طويل ومكلف حاسوبيًا. لذلك، غالبًا ما تكون طرق تقدير عدم اليقين التقليدية التي تعتمد على أخذ عينات متوازية ضخمة (مثل $K=64$ أو $100$) غير عملية بسبب التكلفة.
ديناميكيات التدرج غير المعروفة: من غير الواضح كيف تسلك إشارات عدم اليقين سلوكها مع زيادة عدد العينات ( $K$ ) في نماذج (RLMs). وتحديدًا، هل يقلل التفكير الداخلي الممتد داخل عينة واحدة من القيمة الهامشية لعينات إضافية؟
تفاعل الإشارات: من غير المعروف كيف تتفاعل وتتكامل الإشارات الاستبطانية (الثقة اللفظية) والإشارات القائمة على الاتفاق (الاتساق الذاتي) في سياق الاستنتاج الممتد، مقارنة بنماذج الاستنتاج القياسية.

2. المنهجية

أجرى المؤلفون دراسة تجريبية واسعة النطاق باستخدام نهج الصندوق الأسود الكامل (fully black-box approach) عبر ثلاثة نماذج استنتاج مفتوحة المصدر و17 مهمة.

النماذج:
- gpt-oss-20b (خليط من الخبراء - Mixture-of-Experts، مدرب بواسطة RLVR).
- Qwen3-30B-A3B (خليط من الخبراء - Mixture-of-Experts، مدرب بواسطة RLVR).
- DeepSeek-R1-8B (نموذج كثيف - Dense، تم ضبطه بدقة على مسارات الاستنتاج).
المهام: 17 مهمة تغطي ثلاثة مجالات:
- الرياضيات: GSM8K، AIME 2024/2025، MMLU-Pro Math.
  تعداد:
- العلوم والتقنية (STEM): الصحة، البيولوجيا، الكيمياء، الاقتصاد، الفيزياء، علوم الحاسوب، الهندسة، GPQA Diamond.
- العلوم الإنسانية: علم النفس، القانون، الأعمال، التاريخ، الفلسفة، إلخ.
إشارات عدم اليقين التي تم تقييمها:
1. الثقة اللفظية (Verbalized Confidence - VC): يُخرج النموذج صراحةً درجة ثقة (من 0 إلى 100) بجانب إجابته. اختبرت الدراسة أساليب استخراج متنوعة (العادية، التحقق، الإبستيمية/المعرفية) وأساليب "القاضي" (حيث يقوم ممر ثانٍ بتقييم مسار الاستنتاج).
2. الاتساق الذاتي (Self-Consistency - SC): الثقة المستمدة من معدل الاتفاق بين الإجابات عبر $K$ من العينات المستقلة (تصويت الأغلبية).
3. المقدر الهجين (Hybrid Estimator - SCVC): مزيج خطي من (VC) و(SC) حيث ( $SCVC = \lambda \cdot SC + (1-\lambda) \cdot VC$ ).
مقياس التقييم: AUROC (المساحة تحت منحنى خصائص تشغيل المستقبِل). اختار المؤلفون AUROC بدلاً من مقاييس المعايرة (مثل ECE) لأن (VC) غالبًا ما يكون ذاتي التقرير وغير مضبوط المقياس، و(SC) هو إحصاء منفصل. يقيس AUROC قدرة الإشارة على التمييز بين الإجابات الصحيحة والخاطئة بغضًا عن المقياس.
البروتوكول:
- توليد مجموعة من $R=10$ عينات مستقلة لكل سؤال.
- استخدام أخذ العينات بالتمهيد (bootstrap sampling) لتقدير الأداء عند ميزانيات متفاوتة ( $K \in \{1, 2, 5, 8\}$ ).
- تحليل سلوك التدرج وتكامل الإشارات.

3. المساهمات الرئيسية

أول اختبار معياري منهجي: أول دراسة واسعة النطاق توضح كيف يتدرج تقدير عدم اليقين في "الصندوق الأسود" مع أخذ العينات المتوازية خصيصًا في نماذج اللغة الاستنتاجية (RLMs).
اكتشاف تكامل الإشارات: إثبات أن الجمع بين الاستبطان (VC) والاتساق (SC) يحقق مكاسب أكبر بكثير من زيادة ميزانية أخذ العينات لأي من الإشارتين بمفردهما.
الاعتماد على المجال: تحديد أن إشارات عدم اليقين تتدرج بشكل أسرع وتتكامل بشكل أكثر فعالية في الرياضيات، مما يتماشى مع تركيز تدريب RLVR (التعلم التعزيزي مع المكافآت القابلة للتحقق) لهذه النماذج.
الوصفة العملية: وضع استراتيجية فعالة من حيث التكلفة لتقدير عدم اليقين في (RLMs): استخدم عينتين فقط واجمع بين (VC) و(SC)، بدلاً من أخذ عينات عميقة لإشارة واحدة.

4. النتائج الرئيسية والمكتشفات

الاكتشاف الأول: الاتساق الذاتي يتأخر عن الثقة اللفظية

(VC) خط أساس قوي: حتى مع عينة واحدة ( $K=1$ )، توفر (VC) تمييزًا قويًا (مثلاً: ~78.8 AUROC في MMLU-Pro Math).
(SC) يبدأ منخفضًا: يبدأ الاتساق الذاتي بمستوى أقل بكثير من (VC) عند الميزانيات المماثلة (مثلاً: 70.5 مقابل 73.5 في AUROC عند $K=2$ في الرياضيات).
التدرج: تتدرج (VC) بشكل جيد في الرياضيات (تكتسب +10.1 AUROC من $K=1$ إلى $K=8$ ) لكنها تصل إلى مرحلة التشبع في وقت مبكر في مجالات STEM والإنسانيات. تتحسن (SC) مع زيادة العينات ولكنها تفشل في تجاوز (VC) ضمن النطاق المختبر ( $K \le 8$ ).

الاكتشاف الثاني: هيمنة تكامل الإشارات

تفوق الهجين: الجمع بين (VC) و(SC) مع عينتين فقط ( $K=2$ $K = 2$ ) يحقق مكاسب هائلة.
- الرياضيات: يحقق (SCVC) عند $K=2$ قيمة 84.2 AUROC، متفوقًا على (VC) لعينة واحدة (71.3) بمقدار +12.9 نقطة. بل إنه يتجاوز أداء (VC) أو (SC) عند رفع الميزانية إلى $K=8$ .
- STEM/الإنسانيات: يحقق (SCVC) عند $K=2$ تحسنًا قدره +6.4 نقطة فوق (VC) للعينة الواحدة، ويتفوق على الإشارات المنفردة عند رفعها إلى $K=8$ .
تناقص العوائد: تؤدي زيادة $K$ بعد 2 إلى تناقص العوائد، خاصة في المجالات غير الرياضية. يصل المقدر الهجين إلى الأداء الأمثل بسرعة.

الاكتشاف الثالث: الاعتماد على المجال (الرياضيات مقابل غيرها)

الرياضيات: تظهر أقوى تدرج وتكامل. تستمر الإشارة الهجينة في التحسن بشكل ملحوظ من $K=2$ إلى $K=5$ و $K=8$ .
STEM/الإنسانيات: تصل إلى مرحلة التشبع في وقت مبكر (حوالي $K=2$ أو $K=5$ ) مع مكاسب أصغر.
تحليل الارتباط: (VC) و(SC) أقل ارتباطًا في الرياضيات (خاصة عند قيم $K$ المنخفضة)، مما يشير إلى أنهما يلتقطان معلومات مختلفة عن عدم اليقين. في المجالات غير الرياضية، يرتبطان بقوة أكبر، مما يشير إلى وجود تكرار (redundancy).

الاكتشاف الرابع: متغيرات الاستخراج

البساطة تفوز: في الرياضيات، كان الاستخراج "العادي" (طلب رقم الثقة مباشرة) هو الأفضل أداءً. لم تؤدِ المطالبات "الإبستيمية" أو "القاضي" المعقدة إلى تحسين الأداء بشكل كبير، بل أدت أحيانًا إلى نتائج أقل جودة.
التكلفة مقابل الفائدة: إضافة "قاضٍ" (ممر نموذج ثانٍ) يضيف تكلفة حاسوبية دون تحقيق مكاسب كبيرة مقارنة بمجرد إضافة عينة ثانية للمقدر الهجين.

5. الأهمية والآثار المترتبة

الكفاءة في (RLMs): بما أن كل عينة في (RLM) مكلفة (مسار CoT طويل)، فإن اكتشاف أن $K=2$ مع مقدر هجين يتفوق على أخذ العينات العميق ( $K=8$ ) هو أمر بالغ الأهمية للنشر. هذا يشير إلى أن المستخدمين يجب أن يعطوا الأولوية لـ تنوع الإشارات (الجمع بين VC وSC) بدلاً من عمق أخذ العينات.
استراتيجية النشر: لتقدير موثوق لعدم اليقين في نماذج الاستنتاج، فإن الاستراتيجية المثلى هي:
1. توليد عينتين.
2. استخراج الثقة اللفظية (VC) من كلتيهما.
3. حساب الاتساق الذاتي (SC) (الاتفاق) بين الاثنين.
4. الدمج بينهما (على سبيل المثال، المتوسط أو المجموع الموزون).
خصوصية المجال: تسلط النتائج الضوء على أن (RLMs) هي حاليًا أكثر موثوقية و"وعيًا بذاتها" في الرياضيات بفضل تدريب RLVR. يظل تقدير عدم اليقين في العلوم الإنسانية وعلوم STEM العامة أكثر صعوبة ويتشبع بشكل أسرع.
الرؤية النظرية: تتحدى الدراسة الافتراض القائل بأن التفكير الممتد يجعل الاتفاق بين العينات المتعددة زائدًا عن الحاجة. بدلاً من ذلك، تظهر أن الاستبطان والاتفاق يظلان متكاملين للغاية حتى بعد التفكير العميق.

الخاتمة

تقدم الورقة دليلاً نهائيًا لتقدير عدم اليقين في نماذج الاستنتاج. وهي تحذر من التطبيق الساذج لاستراتيجيات أخذ العينات القياسية في (LLMs) (أخذ العينات العميق)، وتدعو بدلاً من ذلك إلى نهج هجين ومنخفض الميزانية. من خلال الاستفادة من التكامل بين الثقة اللفظية والاتساق الذاتي بأقل عدد من العينات ( $K=2$ )، يمكن للممارسين تحقيق أفضل مستويات التمييز لعدم اليقين بتكلفة حاسوبية أقل بكثير.