ERA: Evidence-based Reliability Alignment for Honest Retrieval-Augmented Generation

1. بيان المشكلة

تهدف أنظمة التوليد المعزز بالاسترجاع (RAG) إلى ترسيخ النماذج اللغوية الكبيرة (LLMs) في أدلة واقعية من خلال استرجاع الوثائق الخارجية. ومع ذلك، يبرز تحدٍ حاسم يتمثل في تضارب المعرفة بين المعرفة البارامترية الداخلية للنموذج والمعلومات المسترجعة الخارجية.

• المشكلة الجوهرية: تعتمد طرق الموثوقية الحالية عادةً على درجات ثقة قياسية (مثل احتمالات softmax). وتفشل هذه الطرق في التمييز بين عدم اليقين الإبستيمي (نقص المعرفة) وعدم اليقين الألياتوري (الغموض المتأصل في البيانات).
• العواقب: يؤدي هذا الخلط إلى:
  • الهلوسة المفرطة في الثقة: يخمن النموذج بإجابات واثقة عندما تفتقر معرفته إلى المعلومات.
  • ضعف حل التضارب: لا يستطيع النموذج التمييز بفعالية بين سيناريو يكون فيه الاسترجاع مشوشاً بينما المعرفة الداخلية صحيحة، وبين سيناريو يكون فيه الاسترجاع صحيحاً ولكنه يتعارض مع الأولويات الداخلية القديمة.
  • الإفراط في التخصيص (Overfitting): غالباً ما تحفظ الأساليب الخاضعة للإشراف أنماط الرفض المحددة بدلاً من تعلم حدود قرار قوية، مما يؤدي إلى الفشل في التعميم على السيناريوهات غير المرئية.

2. المنهجية: إطار عمل ERA

يقترح المؤلفون إطار عمل ERA (المحاذاة الموثوقية القائمة على الأدلة)، وهو إطار ينقل تقدير الثقة من الاحتمالات القياسية إلى توزيعات الأدلة الصريحة. تتكون المنهجية من ثلاثة مكونات أساسية:

أ. التكميم السياقي للأدلة (بنية الرأس المزدوج)

بدلاً من مخرج واحد، يستخدم ERA "رأسي أدلة" مساعدين متصلين بالنموذج اللغوي الكبير (LLM):

1. الرأس البارامتري ($f_{param}$): يعالج الاستعلام بدون سياق الاسترجاع لتقدير أولويات المعرفة الداخلية.
2. رأس RAG ($f_{rag}$): يعالج الاستعلام مع سياق الاسترجاع.

• الآلية: ينتج كلا الرأسين نواقل أدلة يتم تمثيلها كـ توزيعات ديريكليه (Dirichlet distributions) باستخدام المنطق الذاتي (Subjective Logic).
• فك تشابك عدم اليقين: يقوم هذا الصياغة بتفكيك المخرج إلى:
  • كتل الاعتقاد ($b_k$): درجة الدعم لقطاعات معرفية محددة (مثل: "معلوم-ذهبي"، "غير معلوم-مشوش").
  • كتلة عدم اليقين ($u$): درجة الجهل.
• التحسين: يتم تدريب النموذج باستخدام دالة خسارة هجينة تجمع بين الإنتروبيا المتقاطعة (Cross-Entropy) (للملاءمة) ومنظم تباعد KL (لمعاقبة الأدلة غير المبررة وتشجيع التوزيعات المسطحة عندما تكون الأدلة ضعيفة).

ب. تكميم تضارب المعرفة (نظرية دمبستر-شيفر)

يقيس ERA صراحةً التنافر بين النموذج الداخلي والأدلة الخارجية باستخدام نظرية دمبستر-شيفر (DST).

• تقليل الاعتقاد: يتم تجميع قطاعات المعرفة الدقيقة في فرضيتين عاليتين: مدعوم (S) و غير مدعوم (U).
• درجة التضارب ($\kappa$): باستخدام قاعدة دمبستر للجمع، يحسب النظام درجة تضارب تمثل الكتلة الاحتمالية المخصصة للمجموعة الفارغة (التناقض).
  • $\kappa = m_{param}(S) \cdot m_{rag}(U) + m_{param}(U) \cdot m_{rag}(S)$
• الأهمية: تشير $\kappa$ العالية إلى تباين حرج حيث يدعم أحد المصادر إجابة ما بقوة بينما ينفيها الآخر بقوة. والأهم من ذلك، أن هذا المقياس يأخذ عدم اليقين في الاعتبار بطبيعته؛ حيث يؤدي ارتفاع عدم اليقين في أي من المصدرين إلى تقليل درجة التضارب، مما يمنع الإنذارات الكاذبة.

ج. آلية الامتناع المدركة لعدم اليقين

يعمل إطار العمل على تعديل هدف التدريب بناءً على التضارب المكتشف لتعليم النموذج متى يجيب ومتى يمتنع.

• الوزن الديناميكي: يتم تطبيق وزن مدرك للتضارب ($w_{ds}$) على خسارة تحسين التفضيل المباشر (DPO):
  • $w_{ds} = 1 + \gamma \cdot \kappa \cdot (1 - m_{rag}(\Omega))$
  • يعمل المصطلح $(1 - m_{rag}(\Omega))$ كبوابة موثوقية، مما يضمن أن النموذج يقوم بتحديث سياسته بقوة فقط عندما تكون الأدلة المسترجعة جديرة بالثقة (عدم يقين منخفض) وتتعارض مع الأولويات الداخلية.
• الهدف الموحد: تجمع الخسارة النهائية بين خسارة DPO المعدلة بالتضارب، وإجمالي خسارة الأدلة (لكلا الرأسين)، ومصطلح الضبط الدقيق الخاضع للإشراف (SFT) للحفاظ على جودة التوليد.

3. المساهمات الرئيسية

1. تحول جذري في النموذج: ينتقل من الثقة القياسية إلى توزيعات الأدلة عبر تمثيل ديريكليه، مما يفك تشابك عدم اليقين الإبستيمي والألياتوري بشكل صريح.
2. تكميم التضارب الهندسي: يقدم مقياساً صارماً لـ "تضارب الاعتقاد" باستخدام نظرية دمبستر-شيفر لقياس التباين الهندسي بين مصادر المعرفة الداخلية والخارجية.
3. مقياس مرجعي مبتكر: ينشئ مجموعة بيانات Wiki Event منسقة (2010–2025) مصممة خصيصاً لاختبار التعميم على الأحداث ما بعد التدريب وسيناريوهات الاسترجاع المشوشة، مما يمنع الإفراط في التخصيص لأنماط الرفض المحددة.
4. محاذاة قوية: يثبت أن تفكيك عدم اليقين يسمح للنموذج بإعطاء الأولوية للاسترجاع الموثوق على الأولويات غير المتوافقة، مما يحسن المقايضة بين تغطية الإجابة والامتناع.

4. النتائج التجريبية

قيم المؤلفون ERA على المعايات القياسية (Natural Questions, TriviaQA, WebQuestions) وعلى مجموعة بيانات Wiki Event الجديدة باستخدام نماذج Qwen3-8B و Llama3-8B كقواعد خلفية.

• الأداء: تفوق ERA بشكل كبير على النماذج المرجعية (بما في ذلك Logprob و Self-Consistency و DTA) في إجمالي F1، الذي يوازن بين جودة الإجابة وجودة الامتناع.
  • في مجموعة بيانات Wiki Event (خارج نطاق التوزيع)، حقق ERA درجة F1 أعلى بكثير مقارم بـ DTA، الذي عانى من الإفراط في الامتناع بسبب التخصيص الزائد.
• المعايرة: أنتج ERA تقديرات ثقة معايرة جيداً. وأظهر التحليل النوعي أن توزيعات عدم اليقين في ERA كانت أكثر تشتتاً وتحفظاً مقارنة بنموذج Cross-Entropy (CE) المفرط في الثقة.
• حساسية التضارب: أظهر النموذج حساسية عالية لتضارب المعرفة، حيث أظهر زيادة كبيرة في تباعد جينسن-شانون عندما اختلفت المصادر الداخلية والخارجية، في حين فشلت نماذج CE في اكتشاف هذا التمييز.
• دراسات الاستئصال (Ablation Studies): أدى حذف بنية الرأس المزدوج أو منظم KL إلى انخفاض كبير في الأداء، مما يؤكد ضرورة نمذجة التضارب بين الداخل والخارج صراحةً وتنظيم عدم اليقين.

5. الأهمية

يعالج ERA قصوراً جوهرياً في أنظمة RAG الحالية: وهو عدم القدرة على التمييز بين "أنا لا أعرف" (عدم اليقين الإبستيمي) و"البيانات غامضة" (عدم اليقين الألياتوري). من خلال معاملة مصادر المعرفة ككتل اعتقاد مستقلة وقياس تضاربها الهندسي، يتيح ERA RAG صادقاً. وهذا يضمن أن النماذج:

• تمتنع عندما لا يملك أي من المصدرين الإجابة.
• تزيل التشويش عندما يكون الاسترجاء مشوشاً ولكن المعرفة الداخلية صحيحة.
• تستخدم السياق عندما تكون المعرفة الداخلية قديمة ولكن الاسترجاع صحيح.

يضع هذا العمل الأساس لأنظمة ذكاء اصطناعي أكثر موثوقية يمكنها حل التضاربات ديناميكياً بين بيانات التدريب الثابتة والمعلومات الخارجية الديناميكية، مما يقلل من الهلوسة دون التضحية بالمنفعة.