Hallucination Detection via Activations of Open-Weight Proxy Analyzers

ملخص تقني: كشف الهلوسة عبر تنشيطات المحللات الوسيطة مفتوحة الأوزان

بيان المشكلة
تعد خطوط أنابيب التوليد المعزز بالاسترجاع (RAG) بالغة الأهمية لتطبيقات المؤسسات، لكنها تعاني من معدلات هلوسة تتراوح بين 5% إلى 20% في المهام الخاصة بمجالات معينة. تواجه طرق الكشف الحالية قيوداً كبيرة: أساليب التحقق اللاحقة (post-hoc) والأساليب القائمة على عدم اليقين مكلفة حاسوبياً، حيث تتطلب عمليات مرور متعددة للنموذج؛ أما الأساليب الميكانيكية "ذات الصندوق الأبيض" (white-box) فهي توفر دقة عالية ولكنها تتطلب وصولاً مباشراً إلى الحالات الداخلية للنموذج المولد. وهذا يستبعد النماذج ذات الواجهات البرمجية المغلقة (مثل GPT-4)، أو الأنظمة متعددة الخلفيات، أو السيناريوهات التي يكون فيها إعادة تشغيل مولد ضخم لغرض الكشف فقط أمراً غير مجدٍ اقتصادياً. التحدي الجوهي يكمن في كشف الهلوسة دون الوصول إلى أوزان النموذج المولد أو تنشيطاته الداخلية.

المنهجية
يقترح المؤلفون إطار عمل المحلل الوسيط (proxy-analyzer) الذي يفصل الكاشف عن المولد. بالنظر إلى وثيقة مصدر ($S$)، وسؤال ($Q$)، وإجابة مرشحة ($A$)، يقوم النظام بتغذية هذا النص في نموذج "محلل" صغير مستضاف محلياً ومفتوح الأوزان. يعتمد الكاشف كلياً على التنشيطات الداخلية للمحلل لتحديد ما إذا كانت الإجابة ($A$) هلوسة، بغض النظر عن النموذج الذي أنتج ($A$).

يستخرج إطار العمل 18 ميزة قائمة على ميكانيكا المحولات (transformer mechanics) خلال تمريرة أمامية واحدة (forward pass):

1. إشارات التنشيط (S1–S4):
   • S1 (معيار البقايا - Residual Norm): يتتبع نمو معايير تيار البقايا؛ الإجابات الأمينة تظهر نمواً ثابتاً، بينما تبلغ الهلوسة مرحلة الثبات مبكراً.
   • S2 (انتباه المصدر لكل رأس - Per-Head Source Attention): الميزة الأكثر أهمية (~50% من أهمية الميزة)، وتقيس الانتباه للوثيقة المصدر لكل رأس وطبقة.
   • S3 (اعتلاج الانتباه - Attention Entropy): القراءة الأمينة تنشر الانتباه؛ بينما تنهار الهلوسة وتتركز على الرموز (tokens) المحفوظة في الذاكرة.
   • S4 (معيار MLP): يتتبع قوة اشتعال الذاكرة البارامترية، وهو ما يشبه "درجة المعرفة البارامترية".
2. إشارات اللوجيت والتفاعل (S5–S7): تشمل مسارات عدسة اللوجيت (logit-lens trajectories)، والارتباك الشرطي (conditional perplexity)، وحدود التفاعل التي تعكس هيمنة الذاكرة البارامترية على قراءة المصدر.
3. الإشارات الخارجية والمعجمية (S8–S10): تتضمن درجة Vectara HHEM، ونسبة طول الإجابة إلى المصدر، وتداخل رموز "جاكارد" (Jaccard).
4. إشارات النافذة والميل (S11–S15): تجمع S1 وS2 عبر نافذة ثابتة من الطبقات وتحلل ميول معايير البقايا ونسب التجذر (grounding ratios).
5. إحصائيات التجذر على مستوى الرمز (S16–S18): إحصائيات جديدة تلتقط الحد الأدنى لدرجة التجذر، والتباين، وميل مسارات التجذر لكل رمز.

تم تقديم درجة أهمية رأس الانتباه (AHI) مبتكرة لتحديد رؤوس الانتباه المحددة التي تفصل بشكل أفضل بين الإجابات الأمينة والهلوسة، متفوقة على متوسط إشارات الانتباه الخام في ظروف التوزيع خارج النطاق (OOD).

يستخدم النظام تجميع التراكم (stacking ensemble) (الانحدار اللوجستي، الغابة العشوائية، HistGradientBoosting، XGBoost) مدرباً على 72,135 عينة من خمس مجموعات بيانات (HaluEval، RAGTruth، MedHallu، MiniCheck-Synthetic، ANLI). كما تم تدريب مصنف متخصص، RagtStacking، حصرياً على بيانات RAGTruth لالتقاط أنماط فشل الأمانة المحددة.

المساهمات الرئيسية

1. إطار عمل الميزات: تقديم 18 ميزة قائمة على الميكانيكا، بما في ذلك ثلاث إحصائيات جديدة للتجذر على مستوى الرمز، مشتقة من تمريرة أمامية واحدة لنموذج مفتوح الأوزان.
2. أهمية رأس الانتباه (AHI): مقياس خاضع للإشراف يحدد رؤوس الانتباه المحددة الضرورية للتجذر، مما يظهر استقراراً فائقاً في ظروف التوزيع خارج النطاق (OOD) مقارنة بمتوسطات الانتباه الخام.
3. دراسة الحجم مقابل البنية: تقييم شامل عبر سبعة نماذج (من 0.5 مليار إلى 9 مليارات معلمة) من أربع عائلات (Qwen2.5، Gemma-2، Pythia، LLaMA-3)، كشفت أن عائلة النموذج وتصميم البنية غالباً ما يفوقان عدد المعلمات أهمية.
4. قياس الأداء المرجعي: إثبات أن المحللات الوسيطة يمكن أن تتفوق على طرق "الصندوق الأبيض" المتطورة (ReDeEP) دون الحاجة للوصول إلى المولد.
5. ارتباط عمق المهمة: اكتشاف أن إشارات كشف الهلوسة تصل لذروتها عند أعماق طبقات مختلفة اعتماداً على نوع المهمة (على سبيل المثال، تصل ذروة الأسئلة والأجوبة في طبقات أعمق من التحقق من الادعاءات).

النتائج

• المعيار الأساسي (RAGTruth): عبر جميع بنى المحللات السبعة، تفوق النظام باستمرار على AUC الخاص بـ ReDeEP على مستوى الرمز (0.73) بمقدار 7.4 إلى 10.3 نقطة مئوية.
  • حقق Qwen2.5-7B درجة F1 بلغت 0.717 وAUC بلغت 0.834 (مع RagtStacking)، متفوقاً على F1 الخاص بـ ReDeep (0.713).
  • حقق Gemma-2-9B أعلى AUC بقيمة 0.836.
  • حقق Qwen2.5-0.5B درجة F1 بلغت 0.706، مما يثبت أن النماذج التي تقل عن مليار معلمة هي نماذج قابلة للاستخدام.
• تقارب حجم النموذج: رغم وجود فرق 18 ضعفاً في عدد المعلمات، كان تباين AUC عبر النماذج السبعة 2.3 نقطة مئوية فقط (0.814 إلى 0.837).
• "شذوذ LLaMA": خلافاً لقوانين القياس، تفوق LLaMA-3-3B على LLaMA-3-8B في RAGTruth (AUC 0.822 مقابل 0.819؛ F1 0.698 مقابل 0.687). ولم يستعد النموذج 8B تفوقه إلا في بيانات التوزيع خارج النطاق (OOD)، مما يشير إلى أنه ضمن العائلة الواحدة، الحجم الأكبر لا يضمن بالضرورة كشفاً أفضل.
• الأداء خارج النطاق (OOD): في LLM-AggreFact، تجمعت جميع النماذج ضمن 2.8 نقطة مئوية من الدقة المتوازنة. وعُزيت الفجوات في الأداء مع الخطوط المرجعية إلى عدم تطابق طول وثيقة المصدر (1,200 حرف في التدريب مقابل ~3,000 في AggreFact)، وليس فشلاً جوهرياً في الإشارة. وظلت ست من أصل 18 ميزة مستقرة عبر تغيرات الطول.
• الاستقلالية عن المولد: أظهر النظام أداءً متسقاً عبر مختلف المولدات (GPT-4، GPT-3.5، Mistral-7B، متغيرات Llama-2)، مما يؤكد كشف أنماط هلوسة وثيقة المصدر بدلاً من السمات المرتبطة بمولد محدد.

الأهمية والادعاءات
تدعي الورقة أن تصميم البنية هو محرك أقوى لجودة الكشف من عدد المعلمات الخام. وتتحدى النتائج الحدس القائل بأن "الأكبر هو الأفضل دائماً"، حيث تظهر أن نموذج Qwen بحجم 0.5 مليار يمكنه مضاهاة أو هزيمة نماذج أكبر منه بعشر مرات، وأن LLaMA 3B يمكنه التفوق على LLaMA 3 8B.

يؤكد المؤلفون أن نهجهم يوفر حارساً عالمياً لأنظمة RAG. فمن خلال فصل الكاشف عن المولد، يمكن نشر النظام عبر خلفيات متنوعة (بما في ذلك الواجهات البرمجية المغلقة) باستخدام تنفيذ واحد. وتشير النتائج إلى أن الهلوسة هي خاصية ناتجة عن عدم التطابق بين الإجابة والمصدر، وهي قابلة للكشف من خلال الحالة الداخلية لأي نموذج "ترانسفورمر" يقرأ النص، مما يجعل المولد المحدد غير ذي صلة بعملية الكشف. وتخلص الورقة إلى أنه بينما توجد فجوات حالية في الأداء خارج النطاق (OOD) بسبب قيود بيانات التدريب (طول المصدر)، فإن استقرار الإشارة الجوهري يشير إلى أن النهج سليم أساساً للنشر على نطاق واسع.