💬 NLP

Do LLMs Know What They Know? Measuring Metacognitive Efficiency with Signal Detection Theory

تقدم هذه الورقة إطار عمل لنظرية كشف الإشارة من النوع الثاني باستخدام (meta-d') ونسبة (M-ratio) للتمييز بين المعرفة الواقعية للنماذج اللغوية الكبيرة وكفاءتها في ما وراء المعرفة، مما يكشف أن مقاييس المعايرة القياسية يمكن أن تحجب تباينات كبيرة في مدى إدراك النماذج حقاً لما "تعرفه وما لا تعرفه" عبر مختلف المجالات وبنيات النماذج.

المؤلفون الأصليون: Jon-Paul Cacioli

نُشر 2026-03-27

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Jon-Paul Cacioli

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تقوم بتعيين فريق من المحققين الخبراء لحل سلسلة من الألغاز. أنت بحاجة لمعرفة شيئين عن كل محقق:

ما مدى براعته في حل القضية؟ (هل وجد الإجابة الصحيحة؟)
ما مدى براعته في معرفة متى يكون على صواب؟ (هل يقول بثقة "لقد حللتها!" فقط عندما يحلها بالفعل، أم أنه يتفاخر بحل القضايا التي أخطأ فيها؟)

لفترة طويلة، عندما كنا نختبر نماذج الذكاء الاصطناعي (LLMs)، كنا ننظر فقط إلى السؤال الأول. كنا نسأل: "كم مرة يصيب الذكاء الاصطناعي؟" و"هل تتطابق ثقته المتوسطة مع دقته المتوسطة؟"

هذه الورقة البحثية الجديدة تجادل بأن هذا يشبه تقييم محقق بناءً على معدل فوزه فقط، مع تجاهل ما إذا كان مفرط الثقة أو ناقص الثقة. يقدم المؤلف طريقة جديدة لاختبار الذكاء الاصطناعي تسمى الكفاءة الميتا-معرفية (Metacognitive Efficiency).

إليك تفصيل ذلك باستخدام تشبيهات بسيطة:

1. المشكلة: "الأحمق الواثق" مقابل "الخبير الصادق"

تستخدم الورقة مثالاً رائعاً لتوضيح سبب فشل الاختبارات الحالية:

المحقق (أ) (الأحمق الواثق): يحل 90% من القضايا بشكل صحيح. لكن في كل قضية، سواء كان مصيباً أم مخطئاً، يصرخ قائلاً: "أنا متأكد بنسبة 90%!"
- نتيجة الاختبار الحالي: يبدو هذا المحقق مثالياً. ثقته تتطابق مع دقته (ثقة 90% = نجاح 90%).
- الواقع: ثقته عديمة الفائدة. إذا قال "أنا متأكد بنسبة 90%"، فلا يمكنك معرفة ما إذا كان محقاً أم مخطئاً.
المحقق (ب) (الخبير الصادق): يحل 80% من القضايا بشكل صحيح. لكن عندما يكون مصيباً، يقول "أنا متأكد بنسبة 95%"، وعندما يكون مخطئاً، يقول "أنا متأكد بنسبة 60%".
- نتيجة الاختبار الحالي: يبدو هذا المحقق "أسوأ" لأن ثقته المتوسطة لا تتطابق تماماً مع دقته المتوسطة.
- الواقع: ثقته هي كنز ذهبي. إذا قال "أنا متأكد بنسبة 95%"، يمكنك الوثوق به. وإذا قال "أنا متأكد بنسبة 60%"، فعليك مراجعة عمله.

رؤية الورقة البحثية: الاختبارات الحالية (مثل ECE) تكافئ المحقق (أ). أما هذا الاختبار الجديد (Meta-d') فيكافئ المحقق (ب) لأنه يقيس مدى جودة قدرة إشارة الثقة على الفصل بين الإجابات الصحيحة والخاطئة.

gel 2. الأداة الجديدة: "فلتر الثقة"

يستخدم المؤلف مفهوماً من علم النفس يسمى نظرية كشف الإشارة (Signal Detection Theory). تخيل أن عقل الذكاء الاصطناعي يتكون من طبقتين:

الطبقة 1 (المُحلل): هذا الجزء يحاول الإجابة على السؤال.
الطبقة 2 (المراقب): هذا الجزء يراقب "المحلل" ويقول: "أعتقد أنني أصبت" أو "لست متأكداً".

تقدم الورقة مقياساً يسمى نسبة M (M-ratio). فكر فيه كـ درجة كفاءة الفلتر:

M = 1.0 (فلتر مثالي): يستخدم "المراقب" كل المعلومات التي يمتلكها "المحلل". إذا عرف "المحلل" الإجابة، فإن "المراقب" يعرفها أيضاً.
M < 1.0 (فلتر مسرب): "المحلل" يعرف الإجابة، لكن "المراقب" "مشوش" أو مرتبك. إنه يتخلص من المعلومات المفيدة. قد يكون الذكاء الاصطناعي مصيباً، لكنه لا يدرك أنه مصيب.
M > 1.0 (فلتر خارق): "المراقب" متأكد بطريقة ما أكثر مما توحي به البيانات الخام (وهذا نادر، لكنه ممكن).

3. المفاجآت الكبرى

اختبر المؤلف أربعة نماذج ذكاء اصطناعي شهيرة (Llama, Mistral, Gemma) على 224,000 سؤال. وإليك ما وجده:

أفضل "محلل" هو أسوأ "مراقب":
أحد النماذج (Mistral) كان الأفضل على الإطلاق في الحصول على الإجابات الصحيحة (درجة "المحلل" عالية). لكنه امتلك أسوأ نسبة M. لقد كان مثل المحقق العبقري الذي يصل للإجابة الصحيحة بنسبة 90% من المرات، لكنه يتفاخر بذلك بنفس مستوى الثقة سواء كان مصيباً أم مخطئاً.
- الدرس المستفاد: مجرد كون الذكاء الاصطناعي ذكياً لا يعني بالضرورة أنه يعرف متى يثق في نفسه.
أسوأ "محلل" هو أفضل "مراقب":
نموذج آخر (Gemma) حصل على إجابات صحيحة أقل بشكل عام، لكن ثقته كانت صادقة للغاية. عندما يقول إنه متأكد، فغالباً ما يكون على حق.
- الدرس المستفاد: للمهام الحرجة التي تتعلق بالسلامة (مثل التشخيص الطبي)، قد تفضل النموذج "الصادق" على النموذج "الواثق".
الثقة تتغير مع "درجة الحرارة" (خاتم التغيير):
تمتلك نماذج الذكاء الاصطناعي إعداداً يسمى "درجة الحرارة" (temperature) يجعله أكثر عشوائية أو أكثر جموداً. وجدت الدراسة أن تغيير درجة الحرارة يغير مدى جرأة الذكاء الاصطناعي (المعيار/criterion)، لكنه لا يغير مدى قدرته على التمييز بين الصواب والخطأ (السعة/capacity).
- التشبيه: رفع درجة الحرارة يشبه جعل الشخص أكثر ثرثرة وصخباً. هذا لا يجعله أكثر ذكاءً أو وعياً بذاته؛ بل يجعله فقط يقول "أنا متأكد بنسبة 100%!" بشكل أكثر تكراراً، حتى لو لم يكن كذلك.
خصوصية المجال:
قد يكون الذكاء الاصطناعي عبقرياً في العلوم ولكنه سيء جداً في التاريخ، وثقته قد تعكس ذلك. الاختبارات القياسية تقوم بمتوسط كل شيء، مما يخفي هذه نقاط الضعف. هذا الاختبار الجديد يوضح لك بالضبط أين يكون الذكاء الاصطناعي "أعمى".

4. لماذا يهمك هذا؟

إذا كنت تبني تطبيقاً يستخدم الذكاء الاصطناعي، فأنت بحاجة لمعرفة:

إذا كنت تستخدم نموذج "الأحمق الواثق": فقد تسمح للذكاء الاصطناعي باتخاذ قرارات لا ينبغي له اتخاذها، لأنه يبدو واثقاً جداً حتى عندما يكون مخطئاً.
إذا كنت تستخدم نموذج "الخبير الصادق": يمكنك وضع قاعدة: "إذا قال الذكاء الاصطناعي إن ثقته أقل من 80%، يجب على الإنسان مراجعة الإجابة". هذا يجعل النظام أكثر أماناً وموثوقية.

ملخص

هذه الورقة البحثية هي بمثابة جرس إنذار. تقول: "توقفوا عن السؤال فقط 'هل الذكاء الاصطناعي على صواب؟' وابدأوا في السؤال 'هل يعرف الذكاء الاصطناعي أنه على صواب؟'"

من خلال استخدام اختبار "نسبة M" الجديد هذا، يمكننا التوقف عن توظيف نماذج الذكاء الاصطناعي الصاخبة والمفرطة في الثقة، والبدء في توظيف تلك الهادئة والواعية بذاتها والتي تعرف حقاً ما لا تعرفه. هذا أمر بالغ الأهمية لبناء ذكاء اصطناعي يمكننا الوثوق به في القرارات الواقعية.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "هل تعرف النماذج اللغوية الكبيرة ما تعرفه حقاً؟ قياس كفاءة ما وراء المعرفة باستخدام نظرية كشف الإشارة" للباحث جون بول كاسيولي.

1. بيان المشكلة

تعاني مقاييس التقييم الحالية لثقة النماذج اللغوية الكبيرة (LLM)، مثل خطأ المعايرة المتوقع (ECE)، ودرجة براير (Brier score)، والمساحة تحت منحنى خصائص تشغيل المستقبِل (AUROC)، من قصور جوهري يتمثل في دمج قدرتين معرفيتين متمايزتين:

الحساسية من النوع الأول (Type-1 Sensitivity): قدرة النموذج على التمييز بين الإجابات الصحيحة والخاطئة (الدقة).
حساسية ما وراء المعرفة من النوع الثاني (Type-2 Metacognitive Sensitivity): قدرة النموذج على مراقبة أدائه الخاص (أي معرفة متى يكون مصيباً أو مخطئاً).

المشكلة الجوهرية: يمكن للنموذج أن يكون معايرًا بشكل مثالي (ECE منخفض) ببساطة من خلال امتلاك انحياز عالٍ (على سبيل المثال، الإبلاغ دائماً عن ثقة بنسبة 90%) دون أن يمتلك فعلياً أي قدرة على التمييز بين الصواب والخطأ. وعلى العكس من ذلك، قد يمتلك النموذج دقة عالية ولكن مع مراقبة ضعيفة للثقة. تكافئ المقاييس القياسية الحالة الأولى أو تفشل في التمييز بين الاثنين، مما يؤدي إلى اختيار نماذج غير مثالية للتطبيقات التي تتطلب تقديراً موثوقاً لعدم اليقين (مثل التنبؤ الانتقائي، أو التعاون بين الإنسان والذكاء الاصطالي).

2. المنهجية

تقدم الورقة إطار تقييم يعتمد على نظرية كشف الإشارة من النوع الثاني (Type-2 SDT)، وهي إطار نفسي فيزيائي يُستخدم للفصل بين الحساسية ومعيار القرار.

البيانات والنماذج:
- النماذج: أربعة نماذج لغوية كبيرة عبر ثلاث عائلات: Llama-3-8B-Instruct، وLlama-3-8B-Base، وMistral-7B-Instruct-v0.3، وGemma-2-9B-Instruct.
- مجموعة البيانات: 224,000 محاولة أسئلة وأجوبة واقعية تم إنشاؤها من TriviaQA وNatural Questions.
- الظروف: تم التقييم عبر 7 إعدادات لدرجة الحرارة ( $T \in \{0.1, \dots, 2.0\}$ ) وأربعة مجالات معرفية (التاريخ، الفنون، الجغرافيا، العلوم).
متغير الثقة: بدلاً من استخدام التقييمات اللفظية الموجهة (التي تعاني من عيوب التجزئة)، تستخدم الدراسة الاحتمالات اللوغاريتمية المعيارية (NLP) للرموز (tokens) المولدة كإشارة ثقة مستمرة.
المقاييس الرئيسية:
- $d'$ (الحساسية من النوع الأول): يقيس مدى قدرة الـ NLP على الفصل بين الإجابات الصحيحة والخاطئة.
  Br Meta- $d'$ (ما وراء $d'$ ): هي قيمة $d'$ النظرية التي سيحتاجها مراقب مثالي لإنتاج أنماط الثقة الملحوظة. وتقيس المحتوى المعلوماتي لإشارة الثقة نفسها.
- نسبة M (M-ratio) (كفاءة ما وراء المعرفة): تُعرف بـ $M = \text{meta-}d' / d'$ $M = meta- d^{'} / d^{'}$ .
  - $M=1$ : ما وراء معرفة مثالية (الثقة تستوعب جميع الأدلة المتاحة).
  - $M<1$ : فقدان ما وراء المعرفة (الثقة أكثر ضجيجاً من الأدلة الأساسية).
  - $M>1$ : الثقة تصل إلى معلومات تتجاوز مجرد الصحة أو الخطأ الثنائي.
مسار التحليل:
- إنشاء جداول توافقية بين الثقة $\times$ الدقة.
- تطبيق تقدير الاحتمال الأقصى (MLE) لاستخراج Meta- $d'$ .
- استخدام إعادة أخذ العينات بالبوتستراب (10,000 تكرار) للفترات الموثوقة.
- صياغة فرضيات مسجلة مسبقاً على منصة (OSF).

3. المساهمات الرئيسية

الفصل بين الحساسية والمراقبة: توضح الورقة أن أداء النوع الأول (الدقة) وأداء النوع الثاني (كفاءة ما وراء المعرفة) قابلان للفصل. يمكن للنموذج أن يكون أفضل مميز للحقائق ولكنه أسوأ مراقب لعدم يقينه.
التباين النوعي للمجالات: كفاءة ما وراء المعرفة ليست موحدة؛ فهي تختلف بشكل كبير عبر المجالات المعرفية (على سبيل المثال، قد يكون النموذج كفؤاً في الجغرافيا ولكنه فاقد للبصيرة في العلوم). المقاييس الإجمالية تخفي هذه النقاط الضعيفة الحرجة.
الفصل بين السياسة والقدرة: يؤثر التلاعب بدرجة الحرارة على معيار النوع الثاني (انحياز الثقة) ولكنه يترك Meta- $d'$ (قدرة ما وراء المعرفة) مستقرة لبعض النماذج. هذا يثبت أن سياسة الثقة (مدى "ثقة" النموذج في كلامه) هي معلمة قابلة للضبط ومستقلة عن قدرتها على معرفة ما تعرفه.
انعكاس التصنيفات: تظهر الدراسة أن المقاييس القياسية (مثل AUROC) ونسبة M-ratio المقترحة ينتجان تصنيفات معكوسة تماماً للنماذج، مما يجيب على أسئلة مختلفة جوهرياً.

4. النتائج الرئيسية

الفصل بين الدقة والكفاءة:
- حقق Mistral-7B أعلى حساسية من النوع الأول ( $d' = 1.597$ ) ولكن أدنى نسبة M-ratio ($0.852$). إنه أفضل مميز للحقائق ولكنه أسوأ مراقب لما وراء المعرفة.
- حقق Gemma-2-9B أدنى حساسية من النوع الأول ( $d' = 0.946$ ) ولكن نسبة M-ratio ($1.048$) قريبة من المثالية.
- الاستنتاج: المقاييس القياسية تصنف Mistral في المرتبة الأولى؛ بينما تصنف M-ratio في المرتبة الرابعة. لمهام التنبؤ الانتقائي، سيتفوق Gemma-2 على Mistral رغم دقتها الخام الأقل.
تباين المجالات:
- تمتلك النماذج المختلفة "نقاط ضعف" في مجالات مختلفة. على سبيل المثال، كان Llama-3-Instruct وGemma-2 الأقل كفاءة في العلوم والتكنولوجيا، بينما كان Mistral الأضعف في الفنون والأدب.
تأثيرات درجة الحرارة:
- بالنسبة لـ Mistral وGemma، أدى تغيير درجة الحرارة إلى تغيير معيار الثقة (الانحياز) ولكنه لم يغير Meta- $d'$ بشكل كبير. يشير هذا إلى أن ضبط درجة الحرارة يحسن المعايرة (الانحياز) ولكنه لا يصلح نقص قدرة ما وراء المعرفة.
- وُجد أن الضبط التعليمي (Llama-3 Instruct مقابل Base) يغير المعيار وفي بعض المجالات (العلوم)، يؤدي إلى تدهور كفاءة ما وراء المعرفة.
المتانة: ظل مقياس M-ratio مستقراً عبر مستويات التجزئة ( $K=3, 4, 6$ ) ومستويات التكميم المختلفة، مما يؤكد موثوقيته كمقياس ترتيبي.

5. الأهمية والآثار المترتبة

اختيار النماذج: بالنسبة للأنظمة التي تعتمد على الثقة (مثل "امتنع عن الإجابة إذا كانت الثقة < العتبة")، فإن اختيار نموذج بناءً على ECE أو AUROC يمكن أن يؤدي إلى إخفاقات كارثية. تعد نسبة M-ratio المقياس الأفضل لاختيار النماذج التي يمكنها تحديد أخطائها بموثوقية.
استراتيجية النشر: تشير النتائج إلى أن "المعايرة" (إصلاح الانحياز عبر درجة الحرارة) غير كافية إذا كانت إشارة ما وراء المعرفة الأساسية ضعيفة. النماذج ذات نسب M-ratio المنخفضة تتطلب تدخلات هيكلية أو تدريبية، وليس مجرد معايرة لاحقة.
التحول النظري: تنقل هذه الورقة تقييم النماذج اللغوية الكبيرة من رؤية أحادية لـ "الثقة" إلى رؤية مفككة لـ الحساسية (ما يعرفه النموذج) والمراقبة (مدى معرفته بما يعرفه).
التعاون بين الإنسان والذكاء الاصطناعي: إن فهم أن إشارة ثقة النموذج قد تكون "غير معلوماتية" رغم الدقة العالية أمر بالغ الأهمية لبناء الثقة وحلقات الإشراف البشري الفعالة.

في الختام، تجادل الورقة بأن Meta- $d'$ ونسبة M-ratio هما إضافتان ضروريتان لأدوات تقييم النماذج اللغوية الكبيرة، حيث تكشفان عن عدم الكفاءة الهيكلية في إشارات الثقة التي تحجبها مقاييس المعايرة القياسية تماماً.