💬 NLP

LUMINA: Detecting Hallucinations in RAG System with Context-Knowledge Signals

تقدم الورقة البحثية LUMINA، وهو إطار عمل قوي يكتشف الهلوسة في أنظمة التوليد المعزز بالاسترجاع من خلال قياس التوازن بين السياق الخارجي واستخدام المعرفة الداخلية عبر المسافة التوزيعية وتتبع تطور الرموز، محققاً أداءً فائقاً على الطرق الحالية دون الحاجة إلى ضبط مكثف للمعلمات الفائقة.

المؤلفون الأصليون: Samuel Yeh, Sharon Li, Tanwi Mallick

نُشر 2026-02-04

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Samuel Yeh, Sharon Li, Tanwi Mallick

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك طالب تؤدي امتحاناً هاماً جداً. لديك مصدران للمعلومات يمكنك استخدامهما للإجابة على الأسئلة:

عقلك (المعرفة الداخلية): كل ما حفظته في المدرسة.
كتابك المدرسي (السياق الخارجي): الملاحظات والحقائق المحددة المقدمة لك لهذا الاختبار.

من الناحية المثالية، إذا كان الكتاب المدرسي يحتوي على الإجابة الصحيحة، يجب عليك استخدامها. ولكن في بعض الأحيان، حتى عندما يكون الكتاب أمامك مباشرة، يصبح عقلك عنيداً؛ قد تتجاهل الكتاب وتجيب بناءً على ذاكرة هي في الواقع خاطئة. في عالم الذكاء الاصطناعي، يسمى هذا "الهلوسة" (Hallucination): حيث يبدو الذكاء الاصطناعي واثقاً وفصيحاً، لكنه يختلق أشياء من عنده أو يناقض الحقائق التي أُعطيت له.

تقدم هذه الورقة البحثية أداة جديدة تسمى LUMINA (الفهم السريع للفهم الداخلي والخارجي للآلة) للإمساك بهذه الأخطاء. وإليك كيف تعمل، باستخدام تشبيهات بسيطة:

المشكلة: الطالب العنيد

يُفترض بأنظمة الذكاء الاصطناعي الحالية (المعروفة بأنظمة RAG) أن تنظر إلى "الكتاب المدرسي" (المستندات المسترجعة) قبل الإجابة. ومع ذلك، وجد الباحثون أنه حتى عندما يكون الكتاب المدرسي مثالياً، فإن الذك الذكاء الاصطناعي يتجاهله أحياناً ويعتمد بشكل مفرط على "دماغه" الخاص (بيانات التدريب الداخلية). حاولت الطرق السابقة رصد ذلك من خلال النظر إلى أجزاء صغيرة ومحددة من دماغ الذكاء الاصطناعي (مثل عصبونات معينة)، ولكن كان الأمر يشبه محاولة إصلاح محرك سيارة عبر التخمين أي برغي محدد يجب شدّه؛ فقد تطلب الأمر الكثير من التجربة والخطأ ولم يعمل بشكل جيد مع أنواع مختلفة من السيارات (نماذج الذكاء الاصطناائي).

الحل: اختبار LUMINA المكون من جزأين

يعمل LUMINA كرقيب ذكي لا يحتاج لمعرفة التوصيلات الدقيقة لدماغ الطالب، بل يراقب كيفية تفكير الطالب من خلال قياس إشارتين:

1. اختبار "الحساسية للكتاب المدرسي" (السياق الخارجي)

التشبيه: تخيل أنك أعطيت الطالب كتابين مدرسيين مختلفين؛ أحدهما هو الكتاب الصحيح الذي يحتوي على الحقائق الصحيحة، والآخر مجلة عشوائية تحتوي على كلام غير مفهوم.
كيف يفحص LUMINA ذلك: يطلب من الذكاء الاصطناعي الإجابة على سؤال باستخدام الكتاب المدرسي الصحيح، ثم يطلب منه الإجابة مرة أخرى باستخدام المجلة العشوائية.
الإشارة: إذا كان الذكاء الاصطناعي يقوم بعمله، فيجب أن تتغير إجابته جذرياً عندما يتغير الكتاب المدرسي. إذا قدم الذكاء الاصطناعي نفس الإجابة بغض النظر عما إذا كان يقرأ كتاباً مدرسياً أو مجلة، فهذا يعني أنه يتجاهل السياق الخارجي. يقيس LUMINA هذا "التغيير" رياضياً؛ فالتغيير الكبير يعني أن الذكاء الاصطناعي يستمع للمصدر، والتغيير الصغير يعني أنه يتجاهله.

2. اختبار "معالجة الدماغ" (المعرفة الداخلية)

التشبيه: فكر في دماغ الذكاء الاصطناعي كخط تجميع في مصنع يتكون من محطات عديدة (طبقات). تبدأ الإجابة كفكرة أولية في بداية الخط، ثم يتم تنقيحها أثناء تحركها لأسفل الخط.
كيف يفحص LUMINA ذلك: يراقب "الإجابة الأكثر احتمالاً" عند كل محطة من محطات خط التجميع.
السيناريو الجيد: يرى الذكاء الاصطناعي الإجابة مبكراً ويقوم فقط بتنقيحها قليماً أثناء تحركها لأسفل الخط. هذا يعني أنه يستخدم المعلومات التي أُعطيت له.
السيناريو السيئ (الهلوسة): يغير الذكاء الاصطناعي رأيه بشكل جنوني عند كل محطة، أو يستغرق وقتاً طويلاً "ليستقر" على إجابة. هذا يشير إلى أن الذكاء الاصطناعي يعاني في التوفيق بين المعلومات الجديدة وذاكرته الداخلية، أو أنه يحاول فرض معرفته الداخلية لتتجاوز الحقائق. يقيس LUMINA مدى "معالجة" أو تغيير توقعات الذكاء الاصطناعي كلما تعمق في دماغه.

النتيجة: درجة الهلوسة

يدمج LUMINA هذين الاختبارين في درجة واحدة:

حساسية خارجية منخفضة + معالجة داخلية عالية = هلوسة.
- الترجمة: الذكاء الاصطناعي يتجاهل الحقائق ويفرط في التفكير في ذاكراته الخاصة.
حساسية خارجية عالية + معالجة داخلية منخفضة = موثوقية.
- الترجمة: الذكاء الاصطناعي يستمع للمصدر ولا يشعر بالارتباك.

لماذا تهم هذه الورقة البحثية؟

اختبر المؤلفون LUMINA على أربعة نماذج ذكاء اصطناعي شهيرة مختلفة، ووجدوا أنه يعمل بشكل أفضل بكثير من الطرق السابقة.

إنه مرن: على عكس الأدوات السابقة التي كانت تتطلب ضبطاً خاصاً لكل نموذج ذكاء اصطناعي (مثل الحاجة لمفتاح ربط مختلف لكل سيارة)، يعمل LUMINA على أي نموذج تقريباً دون تعديلات كبيرة.
إنه قوي: حتى لو كان "الكتاب المدرسي" (المستندات المسترجعة) فوضوياً أو غير دقيق قليلاً، فلا يزال LUMINA يكشف الأكاذيب.
إنه صادق: أثبت الفريق رياضياً أن درجتهم تقيس بالفعل ما يدعون قياسه، بدلاً من مجرد التخمين.

باخت-اختصار، LUMINA هو طريقة جديدة وموثوقة لمعرفة ما إذا كان الذكاء الاصطناعي يقرأ حقاً الحقائق التي قدمتها له، أم أنه يختلق الأمور بناءً على ما يعتقد أنه يعرفه.

ملخص تقني: LUMINA – اكتشاف الهلوسة في أنظمة RAG عبر إشارات السياق والمعرفة

1. صياغة المشكلة

تهدف أنظمة التوليد المعزز بالاسترجاع (RAG) إلى الحد من هلوسات النماذج اللغوية الكبيرة (LLMs) عن طريق ربط الاستجابات بوثائق خارجية مسترجعة. ومع ذلك، حتى عند تزويدها بسياق صحيح وكافٍ، غالباً ما تهلوس النماذج القائمة على RAG. تفترض الورقة أن هذه الإخفاقات تنبع غالباً من عدم التوازن بين اعتماد النموذج على السياق الخارجي مقابل معرفته البارامترية الداخلية.

تعتمد الطرق الحالية لاكتشاف هذه الهلوسات عادةً على استدلالات التفسير الآلي (mechanistic interpretability)، مثل اختيار رؤوس انتباه (attention heads) أو طبقات محددة في المحولات (transformer layers) لقياس استخدام الإشارة. تعاني هذه النهج من قصورين رئيسيين:

نقص القدرة على التعميم: تتطلب ضبطاً مكثفاً للمعلمات الفائقة (hyperparameters) خاصة بكل مجموعة بيانات (مثل اختيار طبقات معينة)، وغالباً ما تفشل في الانتقال عبر النماذج المختلفة.
نقص التحقق: رغم أنها ترتبط بالهلوسة، إلا أنها لا تثبت إحصائياً ما إذا كانت درجاتها تعكس حقاً الاستخدام المقصود للسياق الخاري أو المعرفة الداخلية.

تعرّف الورقة الهلوسة في نظام RAG بأنها استجابة يكون فيها إشارة استخدام المعرفة الداخلية ( $I$ ) أكبر بشكل غير متناسب من إشارة استخدام السياق الخارجي ( $E$ )، حتى عندما تحتوي الوثائق المسترجعة على المعلومات الصحيحة.

2. المنهجية: إطار عمل LUMINA

يقترح المؤلفون LUMINA، وهو إطار عمل مستقل عن الطبقات (layer-agnostic) يقوم بقياس الهلوسة من خلال إشارتين متمايزتين: استخدام السياق الخارجي واستخدام المعرفة الداخلية. وتكون درجة الهلوسة النهائية عبارة عن مزيج مرجح من هاتين الإشارتين.

2.1 قياس استخدام السياق الخارجي

لقياس مدى اعتماد النموذج اللغوي الكبير على الوثائق المسترجعة، يقيم LUMINA حساسية النموذج للتغيرات الدلالية في المدخلات.

الآلية: يقارن إطار العمل بين توزيع احتمالية الرمز التالي (next-token probability distribution) المشروط بـ الوثيقة المسترجعة ( $d$ ) مقابل التوزيع المشروط بـ وثيقة عشوائية وغير ذات صلة ( $d'$ ).
المقياس: يستخدم التباين المتوسط الأقصى (MMD) لقياس المسافة بين هذين التوزيعين في فضاء التضمين (embedding space).
المنطق: يشير التباين الأكبر إلى أن تنبؤات النموذج شديدة الحساسية للمحتوى المحدد للوثيقة المسترجعة، مما يعني ارتفاع استخدام السياق الخارجي. يستخدم المؤلفون نواة جيب التمام (cosine kernel) لحساب MMD، مشيرين إلى أن الطريقة قوية تجاه اختيار النواة.

2.2 قياس استخدام المعرفة الداخلية

لقياس الاعتماد على المعرفة الداخلية، يتتبع إطار العمل تطور الحالات الداخلية للنموذج عبر طبقات المحول.

الآلية: تستخدم الطريقة تقنيات عدسة اللوجيت (Logit Lens) لإسقاط الحالات الخفية (hidden states) من كل طبقة إلى فضاء احتمالية الرمز. وتراقب "تشبع" التنبؤات—تحديداً، كيف يتطور احتمال الرمز الأكثر احتمالاً من الطبقات المبكرة إلى المخرج النهائي.
المقياس: يعرّف معدل معالجة المعلومات ( $R$ ). يحسب هذا المقياس مدى اختلاف تنبؤات الطبقات المتوسطة عن المخرج النهائي، مع وزنه بعمق الطبقة وتطبيعه بواسطة اعتلاج التنبؤ (prediction entropy).
المنطق: إذا لم تتقارب تنبؤات النموذج الداخلية إلى المخرج النهائي إلا في الطبقات الأخيرة جداً، فهذا يشير إلى أن معالجة معلومات كبيرة (وبالتالي الاعتماد على المعرفة الداخلية) قد حدثت طوال عملية المعالجة عبر الطبقات. يشير معدل معالجة المعلومات الأعلى إلى استخدام أقوى للمعرفة الداخلية.

2.3 التحقق الإحصائي

على عكس الأعمال السابقة، يتضمن LUMINA إطار عمل للتحقق إحصائياً من أن قياساته تتماشى مع التعريفات النظرية للاستخدام. يصيغ المؤلفون أربع فرضيات قابلة للتحقق (على سبيل المثال، "يجب أن تُظهر التوليدات بالوثائق المسترجعة استخداماً أعلى للسياق الخارجي مقارنة بتلك التي بدونها") ويستخدمون اختبار الفرضيات الإحصائية (t-tests) على مجموعات كبيرة من الرموز لرفض الفرضيات الصفرية، مما يؤكد سلامة مقاييسهم.

3. المساهمات الرئيسية

إطار عمل مبتكر: تقديم LUMINA، وهي طريقة لقياس استخدام السياق الخارجي واستخدام المعرفة الداخلية دون الحاجة لاختيار طبقة أو رأس انتباه محدد.
التحقق الإحصائي: إطار عمل للتحقق بدقة من أن الدرجات المقترحة تتوافق مع سلوكيات الاستخدام الفعلية، مما يعالج فجوة في الأدبيات السابقة.
أداء رائد (State-of-the-Art): تجارب واسعة النطاق تثبت تفوق LUMINA على طرق اكتشاف الهلوسة القائمة على الدرجات أو التعلم.

4. النتائج التجريبية

قيم المؤلفون LUMINA على اثنين من المعايير (RAGTruth و HalluRAG) عبر أربعة نماذج لغوية كبيرة مفتوحة المصدر ومضبوطة التعليمات (Llama2-7B/13B, Llama3-8B, Mistral-7B).

الأداء: حقق LUMINA درجات AUROC و AUPROC عالية باستمرار. وفي مجموعة بيانات HalluRAG، حقق درجات AUROC تتجاوز 0.9 عبر النماذج، متفوقاً على الحالة الراهنة السابقة (ReDeEP) بنسبة تصل إلى +13% في AUROC.
المقارنة: تفوق بشكل كبير على النماذج القائمة على عدم اليقين (مثل Perplexity و LN-Entropy)، والأسالب القائمة على الاتساق (مثل SelfCKGPT)، والأساليب القائمة على التعبير اللفظي (مثل P(True)).
القابلية للتفسير: أكد التحليل فرضية الورقة: ترتبط الهلوسة بقوة بـ انخفاض درجات السياق الخارجي وارتفاع غير متناسب في درجات المعرفة الداخلية.
المتانة:
- الضجيج: ظلت الطريقة قوية حتى عند حقن الضجيج (جمل عشوائية) في الوثائق المسترجعة أو العشوائية، مع تدهور طفيف فقط في الأداء.
- استقلالية النموذج: أظهر LUMina فعالية في إعداد "الوكيل" (proxy)، حيث تم استخدام نموذج لغوي مختلف لاكتشاف الهلوسة في الاستجابات التي ولدها نموذج آخر. يشير هذا إلى أن الطريقة لا تتطلب بالضرورة أن يكون الكاشف والمولد هما نفس النموذج.
المقارنة الخاضعة للإشراف: في إعداد غير خاضع للإشراف، حقق LUMINA أداءً منافساً، وأحياناً متفوقاً، على النماذج المرجعية الخاضعة للإشراف (مثل SAPLMA) التي تتطلب التدريب على بيانات مصنفة.

5. الأهمية والادعاءات

تدعي الورقة أن LUMINA يقدم حلاً مبدئياً، وقابلاً للتعميم، وعملياً لاكتشاف الهلوسة في أنظمة RAG. تكمن أهميته في:

تقليل تكلفة الضبط: من خلال تجنب الحاجة لاختيار رؤوس انتباه أو طبقات معينة، فإنه يزيل عائقاً كبيًراً أمام التعميم عبر النماذج ومجموعات البيانات.
التأسيس النظري: يوفر التحقق الإحصائي رابطاً أقوى بين درجات الكشف وآليات سلوك النموذج مقارنة بالنهج التجريبي السابق.
القابلية للتطبيق في العالم الحقيقي: إن متانة الطريقة تجاه ضجيج الاسترجاع وقدرتها على العمل في إعدادات النماذج المتعددة (proxy) تجعلها مناسبة للنشر في بيئات العالم الحقيقي حيث تختلف جودة الاسترجاع وقد لا يكون نموذج التوليد معروفاً أو متاحاً لإعادة الضبط.

يخلص المؤلفون إلى أنه من خلال الموازنة الفعالة بين إشارات الأدلة الخارجية والمعرفة الداخلية، يساعد LUMINA في زيادة موثوقية أنظمة RAG وتقليل مخاطر المعلومات المضللة، مع توفير عدسة جديدة للباحثين لفهم كيفية استخدام النماذج اللغوية الكبيرة للمعرفة أثناء عملية التوليد.