💬 NLP

Can LLMs Detect Their Confabulations? Estimating Reliability in Uncertainty-Aware Language Models

تقترح هذه الورقة طريقة استقصاء موجهة باليقين تعمل على تجميع الحالات الخفية على مستوى الرمز (token) لتحسين اكتشاف التخليقات (confabulations) في النماذج اللغوية الكبيرة، كاشفةً أنه بينما يمكن للسياق المضلل أن يستحث استجابات خاطئة واثقة، فإن الاستفادة من اليقين العشوائي (aleatoric) واليقين المعرفي (epistemic) تعزز بشكل كبير تقدير الموثوقية عبر النماذج مفتوحة المصدر.

المؤلفون الأصليون: Tianyi Zhou, Johanne Medina, Sanjay Chawla

نُشر 2026-03-18

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Tianyi Zhou, Johanne Medina, Sanjay Chawla

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة البحث "هل يمكن للنماذج اللغوية الكبيرة اكتشاف تأليفاتها؟" باستخدام لغة بسيطة وتشبيهات إبداعية.

الصورة الكبيرة: الكاذب الواثق

تخيل أن لديك صديقاً ذكياً جداً ومطلعاً (هذا هو النموذج اللغوي الكبير أو LLM). يمكنه الإجابة على أي سؤال تقريباً في لمح البصر. لكن أحياناً، عندما لا يعرف الإجابة، لا يقول "لا أعرف"، بل بدلاً من ذلك، يؤلف قصة تبدو مثالية، وتنساب بجمال، لكنها خاطئة تماماً. هذا ما يسمى التأليف (أو الهلوسة).

السؤال الكبير الذي تطرحه هذه الورقة هو: هل يمكن لهذا الصديق أن يدرك متى يكذب؟ هل يمكنه الشعور بـ "حدس داخلي" يقول له: "مهلاً، أنا لست متأكداً من هذا"، أم أنه سيستمر في الكذب بكل ثقة؟

التجربة: اختبار "السياق"

قام الباحثون بإعداد لعبة لاختبار مدى موثوقية هذا الصديق. طرحوا نفس السؤال في ثلاثة سيناريوهات مختلفة:

الغرفة الفارغة (بدون سياق): يُسأل الصديق سؤالاً دون أي مساعدة.
- النتيجة: قد يجيب بشكل صحيح (بناءً على ما حفظه) أو يخطئ، لكنه عادة ما يكون متوسط الثقة.
أمين المكتبة المساعد (سياق صحيح): يُعطى الصديك كتاباً يحتوي على الإجابة الصحيحة.
- النتيجة: يجيب بشكل صحيح ويصبح واثقاً جداً. وهذا أمر جيد!
المخادع (سياق مضلل): يُعطى الصديك كتاباً يقول شيئاً خاطئاً (مثل: "أوليفر ترامب فاز في انتخابات 2024").
- النتيجة: هنا يكملق الجزء المخيف. يقرأ الصديك الكتاب المزيف، ويصدقه، ويجيب على السؤال بشكل خاطئ، لكنه يفعل ذلك بثقة مفرطة.

التشبيه: تخيل أنك تؤدي اختباراً.

إذا كنت لا تعرف الإجابة، قد تخمن وتقول: "أظن أنها X".
إذا همس لك معلم بالإجابة الصحيحة، تقول: "إنها X!" بكل ثقة.
إذا همس لك مخادع بإجابة خاطئة، قد تقول: "إنها بالتأكيد Y!" بيقين بنسبة 100%، رغم أنك مخطئ.

وجدت الورقة أن النماذج اللغوية الكبيرة سيئة جداً في إدراك أن "المخادع" يخدعها. فهي تقع في الفخ وتصبح أكثر ثقة في إجاباتها الخاطئة.

المشكلة: الثقة $\neq$ الحقيقة

عادةً ما نعتقد: "إذا بدا الذكاء الاصطناعي واثقاً جداً، فلا بد أنه على حق".
تثبت هذه الورقة أن هذا غير صحيح. فعندما يتم تغذية الذكاء الاصطناعي بمعلومات سيئة، يمكن أن يصبح متأكداً للغاية من كذبة ما. الأمر يشبه سيارة بها عداد سرعة معطل يشير إلى "100 ميل في الساعة" حتى والسيارة متوقفة تماماً. لا يمكنك الوثوق بعداد السرعة (ثقة الذكاء الاصطناعي) لتعرف ما إذا كانت السيارة تتحرك بالفعل (إذا كانت الإجابة صحيحة أم لا).

الحل: آلة الأشعة السينية (X-Ray)

بما أن مقياس الثقة الخاص بالذكاء الاصطناعي معطل، سأل الباحثون: هل هناك طريقة أخرى لمعرفة ما إذا كان الذكاء الاصطناعي يكذب؟

نظروا داخل "دماغ" الذكاء الاصطناعي (كوده الداخلي ورياضياته) أثناء تفكيره. وجدوا أنه حتى عندما يبدو الذكاء الاصطناعي واثقاً، فإن "عصبوناته" الداخلية تعمل بطريقة غريبة أو غير متيقنة.

التشبيه: تخيل أن الذكاء الاصطناعي هو ساحر.

خدعة الساحر: الساحر (الذكاء الاصطناعي) يخرج أرنباً من القبعة بكل ثقة.
رؤية الجمهور: يرى الجمهور الأرنب ويفكرون: "واو، سحر حقيقي!".
رؤية الأشعة السينية: وضع الباحثون الساحر تحت الأشعة السينية. رأوا أن يدي الساحر ترتجفان قليلاً، أو أنه يمسك أرنباً ثانياً في جيبه. الإشارات الداخلية (ارتجاف اليدين) لم تتطابق مع الأداء الواثق.

كيف أصلحوا الأمر: "محقق عدم اليقين"

بنى الباحثون أداة جديدة تسمى مصنف الاستقصاء (Probing Classifier). فكر في هذا كأنه جهاز كشف الكذب الذي ينظر إلى "ارتجاف اليدين" الداخلي للذكاء الاصطناعي بدلاً من الاستماع إلى صوته الواثق.

لم يكتفوا بالنظر إلى الإجابة النهائية فقط.
بل نظروا إلى الكلمات المحددة (الرموز/tokens) التي كان الذكاء الاصطناعي غير متأكد منها.
قاموا بدمج هذه الإشارات. فبدلاً من النظر إلى كلمة واحدة، نظروا إلى "روح" أو "طابع" الجملة بأكملها.

النتيجة: كانت هذه الأداة الجديدة أفضل بكثير في كشف أكاذيب الذكاء الاصطناعي من مجرد سؤال الذكاء الاصطناعي "هل أنت متأكد؟" أو النظر إلى درجة ثقته. لقد استطاعت رصد "ارتجاف اليدين" حتى عندما كان الساحر يتصرف بثقة شديدة.

لماذا يهم هذا الأمر؟

في المستقبل، سنستخدم وكلاء ذكاء اصطناعي (AI Agents) يتحدثون مع بعضهم البعض.

سيناريو: الوكيل (أ) يسأل الوكيل (ب) للحصول على المساعدة.
الخطر: إذا تعرض الوكيل (ب) للخداع بمعلومات سيئة وكذب بثقة، سيصدقه الوكيل (أ) وسيرتكب خطأً.
الحل: نحن بحاجة إلى "حارس أمن" (مثل مصنف الاستقصاء) يمكنه النظر إلى الإشارات الداخلية للوكيل (ب) ويقول: "مهلاً، رغم أن صوتك يبدو واثقاً، إلا أن حساباتك الداخلية تشير إلى أنك مرتبك. توقف وتحقق مجدداً".

الملخص

المشكلة: يمكن خداع النماذج اللغوية الكبيرة بالمعلومات السيئة لتُعطي إجابات خاطئة بثقة عالية. وهي لا تستطيع اكتشاف أكاذيبها.
الاكتشاف: تُظهر "موجات الدماغ" الداخلية للذكاء الاصطناعي (الحالات المخفية) علامات على الارتباك حتى عندما يبدو الذكاء الاصطناعي واثقاً.
الحل: من خلال بناء أداة تقرأ "موجات الدماغ" الداخلية هذه بدلاً من الاستماع إلى صوت الذكاء الاصطناعي، يمكننا اكتشاف الأكاذيب بشكل أفضل بكثير.

الخلاصة: لا تثق في الذكاء الاصطناعي لمجرد أنه يبدو واثقاً. أحياناً، تحتاج إلى النظر تحت الغطاء لترى ما إذا كان المحرك يعمل بالفعل.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "هل تستطيع النماذج اللغوية الكبيرة اكتشاف تأليفها؟ تقدير الموثوقية في النماذج اللغوية الواعية باليقين."

1. بيان المشكلة

تتعرض النماذج اللغوية الكبيرة (LLMs) لخطر التأليف (Confabulation): وهو توليد محتوى بليغ ولكنه غير صحيح واقعيًا. ويتفاقم هذا الخطر في التطبيقات متعددة الأدوار والوكيلة (مثل التوليد المعزز بالاسترجاع - RAG)، حيث تُستخدم مخرجات النموذج كـ "سياق" (Context) للدورات اللاحقة.

المشكلة الجوهرية التي تعالجها الورقة هي عدم التوافق بين ثقة النموذج وصحته. فبينما تعبر النماذج اللغوية غالبًا عن ثقة عالية (يقين منخفض) عندما تكون صحيحة، يمكنها أيضًا التعبير عن ثقة عالية عند توليد إجابات غير صحيحة، خاصة عندما تتأثر بـ معلومات سياقية مضللة. وتفشل طرق تقدير اليقين الحالية في اكتشاف حالات "الخطأ الواثق" هذه، مما يؤدي إلى انتشار الهلوسة في الأنظمة ذاتية التشغيل.

2. المنهجية

يقترح المؤلفون استقصاءً يتكون من جزأين: تحليل كيفية تأثير السياق على اليقين، وتطوير طريقة لاكتشاف المخرجات غير الموثوقة باستخدام الإشارات الداخلية للنموذج.

أ. إطار تجريبي متحكم في السياق

تقيم الدراسة سلوك النموذج تحت ثلاثة إعدادات سياقية مختلفة باستخدام اختبارات الأسئلة المفتوحة (HotpotQA و Natural Questions):

بدون سياق (WOC): يعتمد النموذج فقط على معرفته البارامترية.
مع سياق صحيح (WCC): يتم تزويد النموذج بمعلومات خارجية دقيقة وذات صلة.
مع سياق غير صحيح (WIC): يتم تزويد النموذج بمعلومات معقولة ولكنها مضللة واقعيًا (تم إنتاجها باستخدام GPT-4.1-mini).

تقدير اليقين:
يستخدم المؤلفون إطار التعلم العميق الدليل (Evidential Deep Learning) لحساب اليقين على مستوى الرمز (Token) من خلال الـ "logits" المخرجة:

اليقين العرضي (Aleatoric Uncertainty - AU): يلتقط غموض البيانات (الضجيج المتأصل).
اليقين المعرفي (Epistemic Uncertainty - EU): يلتقط جهل النموذج (نقص الأدلة).
وهذه القيم مشتقة من خلال ملاءمة توزيع "ديريكليه" (Dirichlet distribution) لأعلى $K$ من الـ "logits" للرموز المخرجة.

ب. الكشف عن الموثوقية القائم على الاستقصاء (Probing)

لتحديد ما إذا كانت النماذج اللغوية الكبيرة قادرة على اكتشاف تأليفاتها، قام المؤلفون بتدريب مصنفات استقصائية خفيفة الوزن على التمثيلات الداخلية للنموذج.

ميزات المدخلات: الحالات الخفية ( $h_t^{(l)}$ ) من طبقات مختلفة ومواقع الرموز.
استراتيجيات اختيار الرموز:
- استقصاء (EOS): يستخدم الحالة الخفية للرمز النهائي.
- استقصاء (Exact): يستخدم الرموز المتوافقة مع نطاق الإجابة الصحيحة.
- استقصاء (EU): يختار الرموز ذات أعلى أو أدنى يقين معرفي.
- استقصاء (AVG): يجمع الحالات الخفية عبر متوسط الرموز المختارة (مثل أعلى $k$ من الرموز غير اليقينية).
الهدف: التنبؤ بتسمية ثنائية تشير إلى ما إذا كان الرد المولد صحيحًا من الناحية الواقعية أم لا.

3. المساهمات الرئيسية

إطار تقييم متحكم في السياق: إعداد منهجي لعزل آثار جودة السياق على سلوك النموذج، مما يكشف كيف تنتقل النماذج بين أنظمة الإجابة الصحيحة والخاطئة بناءً على المعلومات المدخلة.
اكتشاف عدم التوافق بين الثقة والصحة: دليل تجريبي يظهر أن السياق المضلل يحفز تأليفًا مفرط الثقة. فالنماذج غالبًا ما تنتج إجابات خاطئة مع يقين منخفض (ثقة عالية) عند التعرض لسياق مضلل مقارنة بسلوكها الأساسي بدون سياق.
طريقة الاستقصاء الموجه باليقين: نهج مبتكر للكشف عن الموثوقية يستفيد من التنشيطات الداخلية. وتوضح الدراسة أن تجميع الحالات الخفية من الرموز عالية اليقين يعطي أداءً أفضل بكثير في الكشف من مقاييس اليقين المباشرة أو المعايير القياسية.

4. النتائج الرئيسية

تأثير السياق على السلوك

السياق الصحيح (WCC): يحسن دقة الإجابة بشكل كبير ويقلل من اليقين المعرفي (يزيد من الثقة).
السياق المضلل (WIC): يسبب تحولًا دراماتيكيًا. تنتقل النماذج من الإجابات الصحيحة (في حالة WOC) إلى إجابات خاطئة باستمرار مع ثقة عالية (يقين منخفض).
- ملاحظة: في إعداد (WIC)، ينزاح توزيع اليقين المعرفي نحو اليسار (مما يشير إلى ثقة أعلى) ويصبح أكثر ضيقًا، رغم أن الإجابات خاطئة. وهذا يؤكد أن النماذج لا تستطيع التمييز داخليًا بين السياق الخارجي الصالح وغير الصالح.

أداء الكشف عن الموثوقية

قيم المؤلفون طرقًا مختلفة عبر ثلاثة نماذج (Fanar1-9b, Qwen2.5-7B, Gemma3-12B) وثلاث مجموعات بيانات (TruthfulQA, TriviaQA, Math).

تفوق الاستقصاء (Probing): تفوقت الطرق القائمة على الاستقصاء باستمرار على معايير اليقين المباشرة (مثل LogProb، و $P(True)$، و LogTokU).
أفضل استراتيجية: حققت استراتيجية Probe(AVG)، التي تجمع الحالات الخفية من الرموز المختارة بناءً على اليقين (تحديدًا أعلى 5 رموز غير يقينية)، أعلى درجات AUROC.
- مثال: في مجموعة بيانات TriviaQA، حققت Probe(AVG) درجة AUROC بلغت 0.765 لـ (Fanar)، و 0.786 لـ (Qwen)، و 0.818 لـ (Gemma)، متفوقة بشكل كبير على LogTokU و $P(True)$.
حساسية الطبقات: وفرت الميزات المجمعة من الطبقات الوسطى إلى العليا الإشارات الأكثر قوة للكشف عن الموثوقية.

5. الأهمية والآثار المترتبة

محدودية اليقين المباشر: تسلط الدراسة الضوء على أن إشارات اليقين الخام (logits) غير كافية لاكتشاف الهلوسة في سياقات RAG أو الأنظمة الوكيلية. يمكن للنموذج أن يكون "خاطئًا بثقة" إذا كان السياق مضللاً.
فائدة الحالة الداخلية: تحتوي الحالات الخفية الداخلية للنموذج على معلومات أغنى حول الموثوقية من احتمالات المخرجات النهائية. ومن خلال التركيز على اختيار الرموز الموجه باليقين، يمكن بناء "كاشف للموثوقية" يحدد متى يرجح أن يكون النموذج في حالة هلوسة، حتى لو كان النموذج نفسه يعبر عن ثقة عالية.
الاتجاهات المستقبلية: تشير النتائج إلى أن آليات السلامة المستقبلية للنماذج اللغوية الكبيرة لا ينبغي أن تعتمد فقط على معايرة المخرجات، بل يجب أن تدمج التحقق من السياق و الاستقصاء الداخلي لمنع انتشار المحتوى المؤلف في التفاعلات متعددة الأدوار.

باختًا، بينما لا تستطيع النماذج اللغوية الكبيرة "معرفة" أنها تهلوس بطبيعتها عند تغذيتها بسياق مضلل، إلا أنه يمكن استقصاء تمثيلاتها الداخلية (تحديدًا الحالات الخفية المجمعة للرموز غير اليقينية) بفعالية لاكتشاف هذه الإخفاقات، مما يوفر مسارًا نحو أنظمة توليد أكثر موثوقية ووعيًا باليقين.