💬 NLP

HALT: Hallucination Assessment via Log-probs as Time series

تقدم الورقة البحثية HALT، وهو كاشف للهلوسة خفيف الوزن وفعال يحلل احتمالات الرموز (token log-probabilities) كسلاسل زمنية لتحقيق أداء وسرعة متفوقين مقارنة بالطرق الحالية، إلى جانب HUB، وهو معيار شامل يوحد عشر قدرات متنوعة لتقييم كشف الهلوسة عبر النماذج اللغوية الكبيرة.

المؤلفون الأصليون: Ahmad Shapiro, Karan Taneja, Ashok Goel

نُشر 2026-02-04

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Ahmad Shapiro, Karan Taneja, Ashok Goel

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تستمع إلى راوٍ يروي حكاية. أحياناً يتحدث بثقة مطلقة، وصوته ثابت وواضح. وفي أحيان أخرى، قد يتلعثم، أو يتردد، أو قد يرتعش صوته تماماً قبل أن يختلق تفصيلاً غير صحيح.

لفترة طويلة، حاول الباحثون الذين يحاولون الإمساك بالنماذج اللغوية الكبيرة (LLMs) وهي تكذب (أو "تهلوس") استخدام نهجين رئيسيين:

نهج "الصندوق الأبيض" (White-Box): وهو أن تطلب من الراوي أن يريك ملاحظاته السرية وموجات دماغه. هذا أمر رائع إذا كنت تملك الراوي، ولكنه مستحيل إذا كنت مجرد مستخدم لواجهة برمجة تطبيقات عامة (مثل روبوت الدردشة).
نهج "الصندوق الأسود" (Black-Box): وهو أن تطلب من الراوي تكرار القصة أو تطلب من راوٍ ثانٍ التحقق من صحة كلامه. هذا الأسلوب بطيء، ومكلف، وأحياناً يكذب الراوي الثاني أيضاً.

HALT (تقييم الهلوسة عبر احتمالات السجل كمتسلسلة زمنية) هو محقق ذكي وجديد لا يحتاج إلى الملاحظات السرية ولا إلى راوٍ ثانٍ. هو فقط يستمع إلى إيقاع ثقة الراوي.

الفكرة الجوهرية: الاستماع إلى "نبض قلب" الثقة

عندما ينتج الذكاء الاصطناعي نصاً، فإنه لا يختار كلمة فحسب؛ بل يحسب مدى احتمالية الكلمة التالية لكل كلمة ممكنة. تُسمى هذه الحسابات "الاحتمالات اللوغاريتمية" (log-probabilities). فكر في هذه الاحتمالات على أنها "مقياس الثقة" الداخلي للذكاء الاصطناعي لكل كلمة ينطق بها.

أدرك مؤلفو هذه الورقة البحثية أن مقاييس الثقة هذه لا تبقى ساكنة، بل تتحرك مثل متسلسلة زمنية (مثل نبض القلب أو مخطط البورصة).

عندما يروي الذكاء الاصطناعي الحقيقة، فإن مقياس ثقته يتبع عادةً إيقاعاً سلساً وثابتاً.
وعندما يبدأ في الهلوسة (اختلاق شيء ما)، يصبح هذا الإيقاع غريباً. فقد يرتفع فجأة، أو ينخفض فجأة، أو يتذبذب بنمط معين، حتى لو بدا الذكاء الاصطناعي واثقاً جداً.

HALT هو برنامج حاسوبي صغير وخفيف الوزن (نموذج "GRU") تم تدريبه لمراقبة إيقاع الثقة هذا. هو لا يقرأ الكلمات التي يقولها الذكاء الاصطناعي؛ بل يراقب فقط الرسم البياني لثقة الذكاء الاصطناعي أثناء حديثه.

أدوات المحقق: HALT

HALT يشبه سماعة الطبيب المتخصصة. فهو ينظر إلى أكثر 20 كلمة احتمالاً يفكر فيها الذكاء الاصطناعي عند كل خطوة، ويقيس:

مدى تذبذب الخيار: هل الذكاء الاصطناعي حائر بين كلمتين؟ (عدم يقين عالٍ).
مدى مفاجأة التغيير: هل انتقل الذكاء الاصطناعي فجأة من كونه متأكداً بنسبة 99% إلى 50%؟
النمط بمرور الوقت: هل يبدو منحنى الثقة كتلة ناعمة أم سلسلة جبال مسننة؟

من خلال تغذية هذا "نبض قلب الثقة" في دماغه، يتعلم HALT رصد "عدم الانتظام" الذي يحدث عندما يبدأ الذكاء الاصطناعي في الكذب.

الملعب الجديد: HUB

لاختبار ما إذا كان HALT يعمل بالفعل، بنى المؤلفون ملعب اختبار ضخم جديد يسمى HUB (المعيار الموحد للكشف عن الهلوسة).

تخيل أن الاختبارات السابقة كانت تشبه اللعب فقط في مكتبة صغيرة وهادئة (التركيز فقط على الحقائق البسيطة أو الدردشة). أما HUB فهو ملعب ضخم وفوضوي يحتوي على 10 رياضات مختلفة:

رياضات الاستنتاج: الرياضيات، البرمجة، الألغاز المنطقية، والخوارزميات.
الرياضات العامة: الدردشة، تلخيص الأخبار، والإجابة على الأسรئلة العامة.

أدرك المؤلفون أن "الهلوسة" ليست مجرد اختلاق حقائق (مثل قول إن القمر مصنوع من الجبن)، بل هي أيضاً هلوسات منطقية—حيث يصيب الذكاء الاصطناعي في الحقائق لكنه يخطئ في الخطوات الرياضية أو المنطقية للوصول إليها. يختبر HUB كل هذه الجوانب.

النتائج: صغير ولكن قوي

تقارن الورقة البحثية HALT بكواشف أخرى:

Lettuce: وهو كاشف ضخم وثقيل (مثل دبابة عملاقة) يقرأ النص الفعلي.
طرق الصندوق الأبيض: وهي الكواشف التي تحتاج لرؤية عقل الذكاء الاصطناعي الداخلي (وهو ما لا يمكنك فعله مع معظم أنظمة الذكاء الاصطناعي التجارية).

المفاجأة: HALT أصغر بـ 30 مرة من الدبابة الثقيلة (Lettuce) وأسرع بـ 60 مرة. ومع ذلك، فهو يفوز في كثير من الأحيان!

لقد تفوق على الدبابة الثقيلة في 7 من أصل 10 رياضات.
إنه يعمل بنفس كفاءة الدبابة الضخمة ولكنه لا يحتاج لقراءة النص أو رؤية عقل الذكاء الاصطناعي. هو فقط يستمع إلى إيقاع الثقة.

قيود هامة (كما ذكرت الورقة البحثية)

إنه خاص بنموذج معين: HALT يشبه المدرب الذي يعرف نبض لاعب واحد بعينه بدقة. إذا دربت HALT على ذكاء اصطناعي يسمى "Llama"، فسيصبح خبيراً في كشف أكاذيب "Llama". وإذا حاولت استخدام نفس الـ HALT على ذكاء اصطناعي آخر يسمى "Qwen"، فسيصاب بالارتباك؛ لأن أنماط "نبض القلب" تختلف من نموذج لآخر.
يحتاج للوصول إلى "أرقام الثقة": أنت لا تحتاج لعقل الذكاء الاصطناعي، ولكنك تحتاج لأن توفر لك واجهة برمجة التطبيقات (API) أعلى 20 رقم ثقة لكل كلمة. إذا كانت واجهة برمجة التطبيقات تخفي هذه الأرقام تماماً، فلن يتمكن HALT من العمل.
يكتشف ولا يصلح: HALT هو بمثابة جهاز إنذار للحريق. هو يخبرك متى يهلوِس الذكاء الاصطناعي، لكنه لا يخبرك لماذا أو كيف تصلح القصة.

تشبيه ملخص

تخيل الذكاء الاصطناعي كساحر يؤدي خدعة.

الكواشف القديمة حاولت التلصص تحت قبعة الساحر (الصندوق الأبيض) أو طلب التصويت من الجمهور لمعرفة ما إذا كانت الخدعة حقيقية أم لا (تحليل النص - الصندوق الأسود).
أما HALT فيكتفي بمراقبة حركة يدي الساحر. هو يعلم أنه عندما يوشك الساحر على إخراج أرنب مزيف من القبعة، تصبح حركات يده مهتزة وغير متوقعة قلياً، حتى لو كان يبتسم بثقة. لقد تم تدريب HALT على رصد نمط "اليد المهتزة" هذا في أرقام ثقة الذكاء الاصطناعي، مما يسمح له بكشف الكذبة فوراً دون الحاجة لرؤية الخدعة أو سؤال أي شخص آخر.

ملخص تقني: HALT (تقييم الهلوسة عبر احتمالات اللوغاريتمات كمتسلسلة زمنية)

1. بيان المشكلة

تنتج النماذج اللغوية الكبيرة (LLMs) بشكل متكرر "هلوسات" — وهي مخرجات تحتوي على معلومات خاطئة أو غير مدعومة بشكل يمكن التحقق منه. يشكل هذا عائقًا كبيرًا أمام نشر النماذج اللغوية الكبيرة في المجالات الحرجة للسلامة. تواجه طرق الكشف الحالية قيودًا متميزة:

النهج "الصندوق الأبيض" (White-box): يتطلب الوصول إلى الحالات الداخلية للنموذج (التنشيطات الخفية، خرائط الانتباه)، وهو أمر مستحيل بالنسبة لواجهات برمجة التطبيقات (APIs) المملوكة والمغلقة المصدر.
النهج "الصندوق الأسود" القائم على النص (Black-box): غالبًا ما يعتمد على الاسترجاع الخارجي، أو استدعاءات إضافية لواجهة برمجة التطبيقات، أو نماذج لغوية مساعدة للتحقق من الاتساق. تؤدي هذه الطرق إلى زيادة زمن الاستجابة (latency)، والتكلفة، وخطر أن يقوم "النموذج الحَكَم" نفسه بالهلوسة أو إدخال تحيز معرفي.
النهج القائم على عدم اليقين (Uncertainty-based): يعتمد غالبًا على الإحصاءات التجميعية (مثل متوسط الثقة، أو الإنتروبيا الإجمالية) والتي قد تفشل في التقاط الديناميكيات الزمنية لأخطاء المعايرة (calibration errors).

يفترض المؤلفون أنه بينما لا تعد احتمالات الرموز (tokens) الخام وحدها مؤشرات موثوقة على الصدق بسبب تحيزات المعايرة، فإن التطور الزمني لهذه الاحتمالات يحتوي على إشارات مستقرة لعدم اليقين. السؤال البحثي المركزي هو: هل يمكن اكتشاف الهلوسة من خلال نمذجة تسلسل احتمالات اللوغاريتم (log-probabilities) للرموز فقط، دون تحليل النص المولد أو استشارة مراجع خارجية؟

2. المنهجية

2.1. النموذج الجوهري: احتمالات اللوغاريتم كمتسلسلة زمنية

يعامل HALT تسلسل احتمالات اللوغاريتم لأعلى $k$ من الرموز كمسألة تصنيف للمتسلسلات الزمنية. بدلاً من ضغط الاحتمالات في إحصاءات ملخصة، تحافظ الطريقة على التسلسل المرتب لثقة النموذج عند كل خطوة فك تشفير.

تمثيل المدخلات:
بالنسبة لاستجابة بطول $T$ ، يستخرج النموذج أعلى 20 احتمال لوغاريتمي ( $\ell_t \in \mathbb{R}^{20}$ ) عند كل خطوة زمنية $t$ . يتم دمج هذه القيم مع خمس ميزات هندسية لتشكيل متجه ميزات غني $\tilde{\ell}_t$ :

متوسط احتمال اللوغاريتم: بديل لحدة التوزيع.
وكيل الرتبة (Rank Proxy): رتبة محدودة للرمز المختار ضمن أعلى 20 رمزًا، مما يلتقط الاختيارات غير الجشعة (non-greedy) أو غير التقليدية.
الإنتروبيا الإجمالية ( $H_{overall}$ ): عدم اليقين حول الرمز المختار والبدائل.
إنتروبيا البدائل فقط ( $H_{alts}$ ): عدم الاتفاق بين المرشحين المتنافسين.
التغير الزمني في إنتروبيا القرار ( $\Delta H_{dec}$ ): يلتقط التحولات الحادة في اليقين بين الرمز المختار والبديل الأفضل.

المدخل النهائي هو متسلسلة زمنية $\tilde{\ell}_{1:T} \in \mathbb{R}^{T \times 25}$ .

2.2. البنية الهيكلية

يستخدم النموذج وحدة متكررة بوابة ثنائية الاتجاه (Bidirectional GRU) خفيفة الوزن تحتوي على 5 ملايين معلمة.

المُشفّر (Encoder): تقوم وحدة GRU ثنائية الاتجاه متعددة الطبقات بمعالجة التسلسل لالتقاط الأنماط الزمنية في كل من الاتجاهين الأمامي والخلفي.
التجميع (Pooling): تعمل آلية تجميع Top- $q$ (حيث $q=0.15$ ) على تجميع الحالات الخفية. وهي تقوم بمتوسط أكثر الخطوات الزمنية بروزًا (تلك التي تمتلك أكبر قيم لمعيار الحالة الخفية)، مما يركز على لحظات التحولات الحادة في الثقة بدلاً من تخفيف الإشارات عبر جميع الرموز.
المخرجات: طبقة خطية تنتج "لوجيت" (logit) واحد للتصنيف الثنائي (هلوسة مقابل أمانة/دقة)، مدربة باستخدام خسارة التقاطع الثنائي (binary cross-entropy loss).

2.3. الفرضيات الرئيسية

يقترح المؤلفون أربع فرضيات تم التحقق من صحتها في الدراسة:

التحيز الخاص بالنموذج: لكل نموذج لغوي كبير دالة تحيز معايرة حتمية تحكم احتمالات أعلى $k$ .
القابلية للتعلم: يمكن لـ GRU تعلم تقريب ديناميكيات هذا التحيز الناتج عن المعايرة، وربط الأنماط الزمنية المحددة بالهلوسة.
عدم القابلية للنقل (Non-Transferability): أجهزة الكشف المدربة على احتمالات اللوغاريتم لنموذج واحد لا تنتقل بشكل موثوق إلى بنية نموذج مختلفة بسبب اختلاف تحيزات المعايرة.
التعميم عبر المهام: ضمن نموذج واحد، يتعمم الكاشف المدرب على عائلة مهام واحدة على المهام الأخرى لأن تحيز المعايرة الأساسي ثابت.

3. المعيار المرجعي: HUB (المعيار الموحد لكشف الهلوسة)

لتقييم الطريقة، يقدم المؤلفون HUB، وهو معيار شامل يغطي 10 قدرات للنماذج اللغوية الكبيرة:

موجهة للاستنتاج: الخوارزميات، المنطق الشائع، الرياضيات، الاستنتاج الرمزي، وتوليد الكود.
عامة الأغراض: الدردشة، تحويل البيانات إلى نص، الإجابة على الأسئلة، التلخيص، والمعرفة العالمية.

يوسع HUB مجموعات البيانات السابقة (FAVA, RAGTruth, HaluEval) ويدمج CriticBench ليشمل الهلوسات المنطقية (خطوات استنتاج معيبة تؤدي إلى إجابات خاطئة أو إجابات صحيبة بالصدفة) بجانب الهلوسات الواقعية. يتم تقسيم مجموعة البيانات إلى مجموعات تدريب، وتحقق، واختبار، مع قصر التدريب على مهام الدردشة، وتحويل البيانات إلى نص، والإجابة على الأسئلة لاختبار التعميم خارج التوزيع (out-of-distribution) بصرامة على مهام الاستنتاج.

4. النتائج

4.1. الأداء على HUB

يتفوق HALT بشكل كبير على النماذج المرجعية الحالية:

الكفاءة: HALT أصغر بـ 30 ضعفًا من كاشف Lettuce (وهو مشفر ModernBERT-base مضبوط بدقة) ويحقق تسريعًا بمقدار 60 ضعفًا.
الدقة: يحقق HALT أفضل درجات Macro-F1 في 7 من أصل 10 مجموعات.
- يحقق HALT-L (المدرب على LLaMA 3.1-8B) إجمالي Macro-F1 قدره 67.01، متفوقًا على Lettuce (64.00) وعلى نماذج الإحصاءات التجميعية (مثل $H_{overall}$ عند 32.86).
- يتفوق بشكل خاص في مهام الاستنتاج (الخوارزمية، المنطق الشائع، الرمزية) حيث تكون إشارات المعايرة على مستوى التسلسل أكثر قدرة تنبؤية من الاستدلالات النصية.

4.2. القابلية للنقل والتعميم

عبر المهام: يظهر HALT قدرة قوية على التعميم عبر عائلات المهام المختلفة داخل نفس النموذج، مما يدعم فرضية أن تحيز المعايرة مستقل عن المهمة.
عبر النماذج: كما كان متوقعًا، ينخفض الأداء بشكل كبير عند تطبيق كاشف مدرب على احتمالات LLaMA على احتمالات Qwen (والعكس صحيح)، مما يؤكد أن ديناميكيات المعايرة خاصة بكل نموذج وليست قابلة للنقل مباشرة عبر البنيات المختلفة.
المتانة: يظل HALT منافسًا في المعايض الخارجية (FAVA, RAGTruth) رغم عدم ضبطه خصيصًا لها.

5. الأهمية والادعاءات

يدعي البحث المساهمات والأهمية التالية:

نموذج جديد "للصندوق الأسود": يقدم HALT طريقة كشف تعتمد فقط على احتمالات اللوغاريتم للرموز، متجنبًا الحاجة إلى تحليل النص السطحي، أو الموثقين الخارجيين، أو الوصول الداخلي للنموذج. وهذا يجعله فريدًا وقابلًا للتطبيق على واجهات برمجة التطبيقات المملوكة.
الديناميكيات الزمنية فوق المقاييس الثابتة: يوضح العمل أن التعامل مع احتمالات اللوغاريتم كمتسلسلة زمنية يلتقط أنماط عدم اليقين (مثل طفرات الإنتروبيا المفاجئة، وانعكاسات الرتبة) التي تغفلها الإحصاءات التجميعية.
إطار عمل موحد: من خلال دمج فشل الاستنتاج المنطقي في تعريف الهلوسة، يوفر HUB رؤية أوسع لعدم الأمانة الدلالية، متجاوزًا مجرد التحقق من الحقائق.
الكفاءة العملية: تقدم الطريقة بديلًا عالي الكفاءة للمشفرات الكبيرة، مما يسمح بكشف الهلوسة في الوقت الفعلي مع عبء حسابي ضئيل، حيث تتطلب فقط تدفق احتمالات اللوغاريتم المتوفر بالفعل أثناء التوليد.

يخلص المؤلفون إلى أنه بينما لا يرتبط HALT بنموذج واحد، فإنه يتعلم ديناميكيات عدم يقين قابلة للنقل وتتعمم عبر المهام داخل النموذج الواحد، مما يؤسس نمطًا جديدًا لتحليل عدم اليقين في النماذج دون الحاجة إلى الوصول إلى الأوزان أو البيانات الخارجية.