ملخص تقني: اكتشاف الهلوسة في النماذج اللغوية الكبيرة عبر إشارات تباعد الانتباه الداخلية

1. بيان المشكلة

كثيراً ما تولد النماذج اللغوية الكبيرة (LLMs) محتوىً بليغاً ولكنه غير صحيح واقعياً، وهي ظاهرة تُعرف بالهلوسة. يشكل هذا خطراً كبيراً في المجالات عالية المخاطر مثل الرعاية الصحية والقانون. ويتمثل التحدي الرئيسي في معالجة هذه المسألة في أن النماذج اللغوية الكبيرة ذات التوليد الذاتي (autoregressive) مدربة على توليد استمراريات بليغة بدلاً من تقديرات معايرة للثقة. وبناءً على ذلك، فإن إشارات عدم اليقين القائمة على المخرجات (مثل الحيرة/الارتباك "perplexity"، أو احتمالية اللوغاريتم، أو احتمالات الرموز "token probabilities") غالباً ما تفشل في التمييز بين الأخطاء الواثقة والمعرفة الموثوقة، حيث يمكن أن تتلقى العبارات المهلوسة احتمالات عالية ضمن توزيع النموذج.

تعتمد طرق تقدير عدم اليقين الحالية غالباً على أخذ عينات متكررة (مثل الإنتروبيا الدلالية) أو نماذج تحقق خارجية، مما يؤدي إلى تكاليف حسابية باهنة. علاوة على ذلك، فإن النهج التي تعتمد على سبر الحالات الخفية (hidden state probing) غالباً ما تكافح للتعميم عبر المهام، حيث تلتقط ارتباطات خاصة بالمهمة بدلاً من إشارات ثقة عالمية. هناك حاجة إلى طريقة خفيفة الوزن، تمر بمسار واحد، لاستخراج إشارات عدم اليقين مباشرة من الآليات الداخلية للنموذج دون الحاجة إلى نماذج خارجية أو عمليات توليد متعددة.

2. المنهجية

يقدم النهج المقترح تقنية لتقدير عدم اليقين بمسار واحد تعتمد على تباعد الانتباه (attention divergence). الفرضية الأساسية هي أن الهلوسة تنشأ من حالات الفشل في الحوسبة الداخلية، والتي تتميز تحديداً بأنماط انتباه غير مخصصة أو مشتتة عندما يفتقر النموذج إلى المعرفة الموثوقة.

2.1 إشارة تباعد الانتباه

تستخدم الطريقة تباعد كولباك - ليبلر (KL divergence) لقياس انحراف توزيع رأس الانتباه عن توزيع مرجعي منتظم.

• التوزيع المرجعي ($U$): توزيع منتظم على رموز السياق، ويمثل حالة من عدم اليقين الأقصى حيث ينتبه النموذج بالتساوي لجميع المواضع.
• توزيع الانتباه ($P$): توزيع الاحتمال المنفصل على مواضع الرموز الناتج عن رأس انتباه معين في خطوة توليد معينة.
• المقياس: يتم حساب تباعد KL كـ $D_{KL}(P \parallel U) = \log T - H(P)$، حيث $T$ هو عدد الرموز في نافذة السياق و $H(P)$ هو إنتروبيا توزيع الانتباه.

بشكل حدسي، يؤدي تركيز الانتباه العالي (إنتروبيا منخفضة) على الرموز المعلوماتية إلى تباعد KL مرتفع، مما يشير إلى الثقة. وعلى العكس من ذلك، فإن الانتباه المشتت (إنتروبيا عالية) يؤدي إلى تباعد منخفض، مما يشير إلى عدم اليقين. يفترض المؤلفون أن الهلوسة قد تظهر كـ ثقة معايرة بشكل خاطئ (تباين عالٍ في الرموز المضللة) أو، في سياق تجميع المسبار، أن الإشارة المجمعة لأنماط التباعد ترتبط بالصحة.

2.2 استخراج الميزات والسبر

1. بناء الميزات: لكل إجابة مولدة، يتم حساب متوسط تباعد KL لكل رأس انتباه عبر جميع خطوات التوليد. تشكل هذه القيم متجه ميزات $x_i \in \mathbb{R}^{L \times H}$، حيث $L$ هو عدد الطبقات و $H$ هو عدد الرؤوس.
2. تدريب المسبار (Probe Training): يتم تدريب مسبار انحدار لوجستي خفيف الوزن مع تنظيم Lasso (L1) للتنبؤ بصحة الإجابة ($y=1$ للصحيحة، $y=0$ للخاطئة) بناءً على ميزات التباعد هذه. يعمل تنظيم L1 على اختيار مجموعة فرعية نادرة من أكثر رؤوس الانتباه قدرة على التنبؤ، مما يوفر قابلية التفسير فيما يتعلق بالأجزاء التي تشفر الإشارة في النموذج.
3. التقييم: يتم قياس الأداء باستخدام AUROC (المساحة تحت منحنى خصائص تشغيل المستقبِل)، وخطأ المعايرة المتوقع (ECE)، والدقة.

3. المساهمات الرئيسية

• تقدير عدم اليقين بمسار واحد: تعمل الطريقة في مسار أمامي واحد، حيث تستخرج إشارات عدم اليقين مباشرة من مصفوفات الانتباه دون الحاجة إلى أخذ عينات متكررة أو نماذج خارجية.
• القابلية للتفسير: من خلال تحليل تباعد KL لتوزيعات الانتباه، توفر الطريقة إشارة "الصندوق الأبيض". يوضح المؤلفون أن الإشارة ليست عشوائية بل مركزة في مكونات معمارية محددة.
• القدرة على التعميم: تم التحقق من صحة النهج عبر عائلات متعددة من النماذج (Llama-3.2، Qwen3، Mistral) وأنواع متنوعة من المهام (الإجابة على الأسئلة الواقعية، الاستدلال متعدد الخطوات، والاستدلال الرياضي).

4. النتائج التجريبية

4.1 الأداء عبر مجموعات البيانات

تم تقييم الطريقة على أربع مجموعات بيانات: TruthfulQA (أسئلة اختيار من متعدد واقعية)، TriviaQA (أسئلة واقعية مفتوحة النطاق)، HotpotQA (استدلال متعدد الخطوات)، و GSM8K (استدلال رياضي).

• الأسئلة الواقعية (Factual QA): حققت الطريقة أداءً قوياً في TruthfulQA (AUROC > 0.89 لجميع النماذج) وفي TriviaQA (AUROC > 0.83).
• مهام الاستدلال: تراوح الأداء في HotpotQA بين 0.77 و 0.80 AUROC. وفي GSM8K، تباينت النتائج حسب النموذج، حيث حقق Qwen3-4B قيمة 0.945 AUROC، بينما أظهرت نماذج Llama و Mistral نتائج متوسطة ولكنها مهمة فوق مستوى الصدفة.
• المقارنة بالنماذج المرجعية (Baselines): في HotpotQA، تفوقت الطريقة (AUROC 0.78) على طرق أخذ العينات (مثل Semantic Entropy و SelfCheckGPT) وغيرها من نماذج المسار الواحد (مثل Perplexity و TOHA). كما أظهرت أداءً تنافسياً أو متفوقاً مقارنة بطرق سبر الحالة الخفية في TruthfulQA و TriviaQA.

4.2 دراسة الاستئصال والتحليل (Ablation)

• تحديد الطبقة والرأس: الإشارة ليست موزعة بشكل موحد. كشفت دراسات الاستئصال أن إزالة الطبقات الوسطى تسببت في أكبر انخفاض في الأداء، مما يشير إلى أن الإشارة تتركز هناك. علاوة على ذلك، تتوزع الإشارة عبر رؤوس متعددة مترابطة بدلاً من كونها محصورة في "رأس هلوسة" واحد.
• خصوصية الرموز (Token Specificity): تظهر إشارة التباعد بشكل أوضح في الرموز الواقعية (الكيانات المسماة والأرقام). أظهرت كلمات التوقف وعلامات الترقيم تباعداً منخفضاً. وأظهر تحليل الذيل الأقصى (المئوي 99) أن حوالي 73% من الكلمات ذات التباعد العالي كانت كيانات مسماة.
• تأثير المطالبة (Prompt Influence): جزء من إشارة عدم اليقين موجود حتى قبل بدء التوليد (محسوب فقط على رموز المطالبة)، مما يشير إلى أن بعض عدم اليقين هو "أليتوريك" (aleatoric - متعلق بغموض المطالبة) وليس فقط "إبستيميك" (epistemic - فجوات معرفة النموذج).
• اختبارات التحقق (Sanity Checks): أكدت عملية تبديل تسميات الصحة واختبارها مقابل خصائص المخرجات البسيطة (الطول، علامات الترقيم) أن الإشارة ليست ناتجة عن تسرب البيانات أو الخصائص السطحية للمخرجات.

5. الأهمية والادعاءات

يدعي البحث أن ديناميكيات الانتباه الداخلية توفر إشارة فعالة وقابلة للتفسير لاكتشاف عدم اليقين والهلوسة في النماذج. تكمن الأهمية الأساسية في إثبات ما يلي:

1. يمكن اكتشاف الهلوسة عبر الحالات الداخلية: الفشل في استرجاع المعرفة الموثوقة يتجلى في أنماط محددة من تباعد الانتباه، وهي متميزة عن المخرقات البليغة ولكن غير الصحيحة التي ينتجها النموذج.
2. الكفاءة: تقدم الطريقة بديلاً منخفض التكلفة حسابياً لتقدير عدم اليقين القائم على أخذ العينات، مما يجعلها قابلة للتطبيق في التطبيقات التي تتطلب وقتاً حقيقياً حيث تكون زمن الاستجادة (latency) حرجة.
3. الرؤية المعمارية: تشير النتائج إلى أن عدم اليقين مشفر في الطبقات الوسطى وعلى الروابط الواقعية، مما يدعم الرأي القائل بأن الهلوسة هي فشل هيكلي في الحوسبة الداخلية وليست مجرد أخطاء في فك الترميز (decoding errors).

6. القيود

أشار المؤلفون صراحة إلى عدة قيود:

• الارتباط مقابل السببية: تثبت الدراسة وجود ارتباط تنبؤي بين تباعد الانتباه والصحة، لكنها لا تثبت وجود علاقة سببية.
• الاعتماد على المسبار (Probe Dependency): تعتمد الطريقة على مسبار انحدار لوجستي لتجميع الإشارات. وتختلف المجموعة الفرعية المحددة من الرؤوس المختارة عبر مجموعات البيانات وعائلات النماذج، مما يشير إلى أن المسبار قد يكون متخصصاً للغاية، ولم يتم تحديد قاعدة عالمية خالية من المسبار لعدم اليقين بعد.
• متطلب "الصندوق الأبيض": تتطلب الطريقة الوصول إلى أوزان الانتباه الداخلية، مما يجعلها غير قابلة للتطبيق على النماذج "الصندوق الأسود" التي توفر فقط النصوص المولدة أو احتمالات المخرجات.
• القابلية للتفسير: بينما يحدد المسبار الرؤوس المعلوماتية، يظل النموذج الناتج صعب التفسير كشرح كامل لـ كيفية تمثيل عدم اليقين، حيث يعمل كأداة لاستخراج الإشارة أكثر من كونه تفسيراً ميكانيكياً كاملاً.